基于任务转化的事件抽取通用框架

论元分散、多重事件和论元重叠是事件抽取长期面临的挑战,许多任务还存在触发词或位置标注缺失的情况。对此,提出一种基于任务转化的事件抽取通用框架,包括任务转化、关系抽取和事件预测3个模块。有触发词和无触发词的标注事件分别被转化为不同形式的关系三元组;这些三元组将与原始文本一起作为关系抽取模型的训练数据;事件预测时先从输入文本中抽取三元组,再将它们还原为目标事件。对于训练语料中位置标注缺失的情况,设计了基于最短距离的论元定位算法。该框架在ChFinAnn数据集上取得81.6%的平均F1值,在DuEE-Fin数据集上的F1值为72.04%(在线提交结果),均达到目前的SOTA水平。实验结果表明,该框架不仅可以显著提高事件抽取效果,而且具有广泛的适应能力。

基于事件时间论元抽取的文档级时序抽取方法研究

事件时序关系识别任务属于关系抽取领域的一个分支,近年来受到越来越多的关注。目前,关于章级事件时序关系抽取的研究在现有神经网络方法中尚未得到充分深入探讨。因此,本文提出一种基于篇章事件时序关系矩阵的方法,利用语言学中的时间论元理论来指导模型抽取效果;通过修改预训练阶段的词嵌入,将句子的时态、体态和时间副词作为额外信息融入事件触发词的词嵌入表达中;同时,模型还利用了事件时间论元抽取任务进行辅助训练,从而构建了具有增强时间特征的文本表达。研究发现通过将事件时间论元抽取任务融入模型训练过程,该模型在事件时序关系抽取任务上获得了比基线更好的效果。

力动态视角的英语结果构式限制研究

结果构式存在严格的词汇和句法限制问题,Wechsler提出事件-论元同构体态模式来解释上述限制,但是该模式解释力有限,也很难用于二语习得。文章提出用力动态图式来分析英语结果构式。典型的结果构式图式是:施力者+施力行为(包括方式)+受力者+状态变化(力传递的结果),表达的意思是:施力者发出某种施力行为,该行为引起受力者状态的变化,这种变化就是力传递的结果。力动态图式不仅能够很好地解释Control构式,也能很好解释ECM结果构式。另外该图式简洁明了,容易理解,因而能更好地指导二语习得。

增强依存结构表达的零样本跨语言事件论元角色分类

事件论元角色分类是事件抽取中的子任务,旨在为事件中的候选论元分配相应的角色。事件语料标注规则复杂、人力耗费大,在很多语言中缺少相关标注文本。零样本跨语言事件论元角色分类可以利用源语言的丰富语料建立模型,然后直接应用于标注语料匮乏的目标语言端。围绕不同语言的事件文本在依存结构上的表达共性,提出了使用BiGRU网络模块对触发词到候选论元的依存路径信息进行额外编码的方法。本文设计的编码模块能灵活地与当前主流的基于深度学习框架的事件论元角色分类模型相联合。实验结果表明,本文提出的方法能更有效地完成跨语言迁移,提高多个基准模型的分类性能。

篇章级文本的事件图谱构建与事件抽取方法

针对篇章级事件抽取任务主要存在的以下3个挑战:模型复杂、事件论元分散以及多事件抽取,提出一种基于异质交互图和有序树的篇章级事件抽取方法DTHIGN。支持以解耦实体抽取部分的方式精简模型的参数;构建面向触发词的篇章级异质交互图,更全面地对语义进行建模;支持使用基于统一事件模板的树形事件论元抽取方式获得事件论元结果。实验结果表明,该方法能够获得较好的效果并显著降低模型的训练难度。

事件抽取方法综述:深度学习与预训练对比分析

事件抽取是伴随着信息技术的发展而诞生的。随着人们对从繁多的日常信息中抽取出有用信息的需求日益增强,事件抽取的研究发展也越发受重视。首先,介绍了事件抽取的发展历程,理清了事件抽取的发展脉络;其次,介绍了事件抽取的2种范式,并对管道型抽取和联合型抽取范式进行了对比分析;再次,围绕事件抽取的层级,分别从句子级事件抽取和篇章级事件抽取2个层面对近年来事件抽取的发展进行了梳理;然后,从传统型事件抽取方法、基于深度学习的事件抽取方法,以及基于预训练模型的事件抽取方法3个方面对事件抽取方法进行了对比分析;最后,介绍了事件抽取的典型应用场景,并根据事件抽取的发展现状,对未来事件抽取前沿发展进行了展望。

基于BERT和图注意力网络的篇章级事件论元识别

事件论元识别是事件抽取的子任务之一,其目的在于识别文本中与事件相关的论元及论元对应的论元角色。研究表明,句子的依存句法关系有助于事件论元任务识别,然而,在构造篇章的依存句法关系时容易引入不相关的论元产生噪声问题,现有方法对噪声问题处理不佳。针对该问题,提出了一个基于BERT和图注意力网络的篇章级事件论元识别模型。该模型从两个角度去解决噪声问题,一方面,通过获取充分的篇章语义特征作为辅助,去构建更有效的篇章依存句法特征;另一方面,采用图注意力网络对不同的论元节点分配不同的权重,从而去除掉无效的论元。在RAMS语料库上的实验结果表明,该方法有效解决了篇章依存句法关系中存在的噪声问题,取得了较好的篇章级事件论元识别结果。

基于框架的护理活动事件数据集构建

护理活动具有事件语义特性,即包含事件触发词和事件论元。以事件框架为指引,即以动词为触发词,以触发词匹配的动词特征作为事件论元角色,对《护理措施分类(NIC)》第5版的护理活动文本进行事件实例抽取,构建出护理活动事件数据集(NAEV Dataset)。NAEV包含16个护理活动事件类型、13个论元角色、15159个护理活动事件、893种触发词和33406个论元实例。基于文本构建的NAEV数据集存在事件要素重叠特性,为事件抽取任务增加了挑战性。选取事件抽取领域主流的3个模型进行数据集有效性验证。实验结果表明,不同模型在数据集上的性能差异与模型构建原理的差异性一致,这说明NAEV数据集能为事件抽取科研创新提供高质量的数据支持。NAEV数据集能够推动护理领域的事件抽取、事件对齐、事件补全、事件演化等相关研究。

基于要素关联图的汉越跨语言事件检索方法

汉越跨语言事件检索旨在根据输入的中文事件查询短语,检索出相关的越南语新闻事件文档。由于查询文档的新闻文本较长,中文事件查询短语与越南语的查询文档长度不一,表达差异较大,且查询文档中往往会包含大量与其描述的核心事件无关的噪声文本,现有的模型不能很好地捕获事件匹配特征,匹配效果欠佳。基于此,文中提出基于要素关联图的汉越跨语言事件检索方法。首先,预训练一个汉越双语词嵌入来解决跨语言问题;然后,抽取查询文档中的关键信息(关键词和实体)以构建要素关联图;最后,通过引入一个图编码器对构建的要素图进行编码,生成结构化的事件信息来增强传统的事件检索模型。实验结果表明文中提出的方法优于传统的基线方法。

基于ABBSAC模型的中文事件抽取方法

事件抽取作为信息抽取的重要一环,是非结构化文本转化为有价值的结构化文本的主要方式。针对目前事件抽取模型普遍训练时间长、模型体量大等问题,提出了一个基于ABBSAC的中文事件抽取模型。通过ALBERT预训练模型缩减模型体量,采用BiSRU++捕捉文本内部关联信息,并融合注意力机制提升模型精度,最后以CRF的输出作为抽取结果。基于新浪新闻自主构建了语料集,进行了对比实验。在获得较高准确率、召回率以及F1值的基础上,该模型训练速度提高了约10%,模型参数量裁剪了约82%,证明了所提模型的先进性。同时,在ACE05和DUEE基准测评数据集上,与前沿方法相比较,将触发词抽取的F1值分别提升了1.7%、0.3%,将论元角色抽取的F1值分别提升了5.4%、0.1%,有效提升了中文事件抽取任务的效能。

基于语料库的“扩展”与“拓展”辨析

“扩展”和“拓展”在用法上分别承继了“扩(大)”和“(开)拓”的特征。句法上,“扩展”倾向于和“由”“从”“向”“到”等词结合使用,而“拓展”则倾向于直接带宾语使用,这与“扩大”和“开拓”分别属于运动事件和创造事件有关。语义上,“扩展”关涉的对象中,“范围”具有显著优势,而“拓展”关涉的对象中多具备[+新]的语义特征,这是“扩大”和“开拓”在词义上的差异造成的。

利用提示调优融合多种信息的低资源事件抽取方法

针对现有流水线式事件抽取方法依靠大量训练数据、在低资源情况下难以快速迁移运用等问题,利用提示调优技术,提出适用于低资源场景下的流水线式事件抽取方法(low-resource event extraction method using the multi-information fusion with prompt tuning,IFPT)。该方法通过构造语义映射和提示模板充分利用事件类型描述、实体类型等多种信息,能够高效使用有限训练数据,流水线式地完成事件检测和论元抽取。实验结果表明,在低资源情况下,IFPT方法论元抽取性能超过了所有基准模型,采取流水线方式能够达到与SOTA模型相媲美的性能。

基于图注意力和表指针网络的中文事件抽取方法

现有的中文事件抽取方法存在触发词和论元依赖建模不足的问题,削弱事件内的信息交互,导致论元抽取性能低下,特别是论元角色存在重叠的情况下.对此,文中提出基于图注意力和表指针网络的中文事件抽取方法(Chinese Event Extraction Method Based on Graph Attention and Table Pointer Network,ATCEE).首先,融合预训练字符向量和词性标注向量作为特征输入,并利用双向长短期记忆网络,得到事件文本的强化语义特征.再将字符级建模的依存句法图引入图注意力网络,捕获文本中各组成成分的长距离依赖关系.然后,使用表填充的方法进行特征融合,进一步增强触发词和其对应的所有论元之间的依赖性.最后,将学习得到的表特征输入全连接层和表指针网络层,进行触发词和论元的联合抽取,使用表指针网络对论元边界进行解码,更好地识别长论元实体.实验表明:ATCEE在ACE2005和DuEE1.0这两个中文基准数据集上都有明显的性能提升,并且字符级依存特征和表填充策略在一定程度上可以解决论元角色重叠问题.ATCEE源代码地址如下:https://github.com/event6/ATCEE.

机器人故障诊断事理逻辑知识图谱构建研究

知识图谱技术对机器人系统高效有序的故障诊断具有重要的指导意义。针对故障诊断本体知识概念粒度较粗,实体识别模型存在特征提取不够准确的问题。提出了一种自顶向下的故障诊断事理逻辑知识图谱构建方法。对故障诊断事件知识建模,构建细粒度事理逻辑知识本体模型。提出基于注意力机制的堆叠BiLSTM和改进胶囊网络的事件论元实体识别模型。通过BERT预训练模型生成字符特征,利用堆叠BiLSTM获取深层上下文特征;结合事件论元实体关键特征注意力机制,对前向和后向上下文突出实体关键信息;提出改进胶囊网络对字符位置特征进行编码,提高模型对字符位置特征的关注。实验结果表明,提出的事件论元实体识别模型能提高实体识别效果。进一步,根据句式匹配完成论元实体匹配关系,构建机器人系统故障诊断事理逻辑知识图谱,为自主故障诊断提供知识支持。

基于双重注意力机制的事件抽取方法

针对事件抽取存在未充分利用句法关系、论元角色缺失的情况,提出了基于双重注意力机制的事件抽取(event extraction based on dual attention mechanism,EEDAM)方法,有助于提高事件抽取的精确率和召回率.首先,基于4种嵌入向量进行句子编码,引入依赖关系,构建依赖关系图,使深度神经网络可以充分利用句法关系.然后,通过图转换注意网络生成新的依赖弧和聚合节点信息,捕获长程依赖关系和潜在交互,加权融合注意力网络,捕捉句中关键的语义信息,抽取句子级事件论元,提升模型预测能力.最后,利用关键句检测和相似性排序,进行文档级论元填充.实验结果表明,采用基于双重注意力机制的事件抽取方法,在ACE2005数据集上,较最佳基线联合多中文事件抽取器(joint multiple Chinese event extractor,JMCEE)在精确率、召回率和F1-score分别提高17.82%、4.61%、9.80%;在大坝安全运行日志数据集上,较最佳基线JMCEE在精确率、召回率和F1-score上分别提高18.08%、4.41%、9.93%.

基于知识感知提示与对比调优的事件元素抽取方法

提示学习在事件元素抽取领域的应用越来越广泛。由于缺乏对实体信息的考虑,现有的事件元素抽取提示学习方法并没有达到满意的效果。现有的大部分基于提示学习的模型对于事件元素的表示也不够充分,分类效果欠佳。提出一种基于知识感知提示与对比调优的事件元素抽取方法,该方法基于预训练模型,构建知识感知模板,将实体知识注入预训练模型中,通过中心对比学习充分区分元素表示,在预测阶段使用CRF-Viterbi解码算法提升解码效果。实验结果表明,在ACE2005数据集上,该方法相较于基线模型取得了更优越的效果。

基于角色信息引导的多轮事件论元抽取

针对通用领域的事件论元抽取研究中角色信息利用不足和论元间缺少交互两个问题,提出角色信息引导的多轮事件论元抽取模型,用于增强文本的语义信息和论元之间的交互能力,提升事件论元抽取的性能。首先,为了更好地利用角色知识来引导论元的抽取,该模型根据角色定义构造角色知识,对角色信息和文本独立编码,并采用基于注意力机制的方法获取标签知识增强的文本表示,进而采用增强嵌入来预测各角色论元的起始和结束位置。同时,为了在抽取过程中充分利用事件论元之间的交互,受多轮对话模型的启发,设计一种多轮事件论元抽取算法。该算法参照“先易后难”的自然逻辑,每次选择预测概率最大,也是最容易确定的角色进行抽取。在论元抽取过程中,为了对论元之间的交互进行建模,模型引入历史嵌入,并在每一次预测结束后更新历史嵌入,帮助下一轮事件论元的抽取。实验结果表明,角色信息的引导和多轮抽取算法均有效地提升了论元抽取的性能,使得该模型的表现优于其他基线模型。

基于全局语义匹配的篇章级事件抽取方法

作为自然语言处理领域中经典的信息抽取任务,事件抽取方法可以帮助人们从海量文本数据中快速准确地获取结构化事件信息,在事理图谱构建、舆情监控、态势感知等多个方面都起着举足轻重的作用。而由于事件组成的复杂性,文档中会包含多个相关的事件句,如果在对文档进行事件抽取时仅针对单个句子,从句子层面进行事件抽取,则很难将一个事件分散在整个文档中的事件信息抽取完整,得到完整的事件信息。为了解决这些问题,该文提出了基于全局语义匹配的篇章级事件抽取方法。首先,使用基于长短期记忆网络—条件随机场的序列标注模型进行句子级事件抽取;其次,在句子级事件抽取的基础上,采用所提全局语义匹配方法进行事件共指判断,通过融合句子级事件信息完成事件信息的完整抽取;最后,在MUC-4事件抽取数据集对所提模型进行验证,结果表明所提方法对文档中分散的事件元素有更准确抽取效果,在F1值上也有明显提升。

面向图注意力网络的突发热点事件联合抽取

当前,突发热点事件的传播日益迅猛与广泛.如何通过事件抽取准确快速地抽取出事件触发词及其事件元素,有助于决策者分析舆情态势、引导社会舆论.针对现有事件抽取方法多是从单个句子中抽取事件元素,而突发热点事件的事件元素往往分布在多个句子当中的问题,提出了一种基于图注意力网络的突发热点事件联合抽取方法,该方法分为三个阶段:基于TextRank的事件句抽取、基于图注意力网络的篇章级事件联合抽取、突发热点事件补全.在抽取出新闻主旨事件以后对整篇新闻做事件抽取,利用候选事件与新闻主旨事件的事件向量相似度以及事件论元相似度对该新闻主旨事件进行补全.实验结果表明,该方法在DUEE1.0数据集上进行触发词抽取和论元角色抽取任务时的F1指标分别达到83.2%、59.1%;在中文突发事件语料库上进行触发词抽取和论元角色抽取任务时的F1指标分别达到82.7%、58.7%,验证了模型的合理性和有效性.

现代汉语隐喻运动事件构式的动词-构式关系研究

借鉴Talmy关于虚构运动事件及Goldberg构式定义,对隐喻运动事件构式进行界定。语料分析结果显示,汉语隐喻运动事件构式呈现出认知可及性、以动写静两大特征,包含自动式和他动式两大类型,且均为复合式运动事件构式。再者,本研究以构式语法理论和语法整合理论为基石,通过构建的整合-压制理论模型对隐喻运动事件构式中动词与构式关系进行分析,指出隐喻运动事件构式中动词与构式形成双向互动融合关系,需要兼顾构式对动词的压制作用和动词及其论元的语义潜势。