面向无触发词文本的因果关系事件对联合抽取模型

事件因果关系抽取(Event Causality Extraction,ECE)是从文本中抽取出表示因果事件对的事件类型、事件要素及事件间的关系。之前的工作都在含有触发词的文本上进行,并且事件抽取和关系识别也都依靠触发词等事件主体。然而,现实中有许多文本没有触发词,因此该文的抽取任务则是在无触发词标注的文本上进行。该任务的难点在于不仅要抽取多个独立事件,还要判断相互间的因果关系,并且存在事件主体缺失、多事件对及事件类型重叠的问题。该文提出一种分阶段的联合抽取模型,在第一阶段,利用层叠结构模型识别出文本中的事件类型与因果关系;在第二阶段,利用“双定位”和阅读理解机制获得嵌入事件类型信息的句子表示,并通过多层二元标志解码器预测各事件要素的首尾位置。为缓解误差传播问题,该文将两阶段模型通过共享编码层的方式联合训练。实验表明,该文提出的方法可以在完全无规则的情况下有效抽取出无触发词文本中的因果事件对。

结合Roberta和Bi-FLASH-SRU的中文事件因果关系抽取

针对现有基于填表的事件关系抽取方法填表数目过多、表格特征获取不充分的问题,本文提出了结合Roberta和Bi-FLASH-SRU的中文事件因果关系抽取方法 TF-ChineseERE.该方法通过制定填表策略,利用文本中已标记关系,将其转化为带有标签的表格;借助Roberta预训练模型和本文提出的双向内置闪电注意力简单循环单元(bidirectional built-in flash attention simple recurrent unit,Bi-FLASH-SRU)获取主客体事件特征,再利用表格特征循环学习模块挖掘全局特征,最后进行表格解码获得事件因果关系三元组.实验采用金融领域两个公开数据集进行验证,结果表明,本文提出的方法 F_(1)值分别达到59.2%和62.5%,且Bi-FLASH-SRU模型训练速度更快,填表数目更少,证明了该方法的有效性.

基于语言学知识增强的自监督式图卷积网络的事件关系抽取方法

【目的】解决事件关系抽取中因缺少大规模高质量的标注数据以及事件关系复杂的语言表达模式而导致的现有方法难以捕获结构化事件知识的问题。【方法】提出一种基于语言学知识增强的自监督式图卷积网络模型,利用预训练BERT模型编码文本特征,将其输入图卷积网络中学习词之间的句法依存关系以增强文本表示,引入多头注意力机制对不同依赖特征加以区分,再利用分段最大池化操作提取结构信息,然后组合多个段的池化结果作为事件对的关系特征,使用关系特征进行自适应聚类生成伪类别标签,并将其作为自监督信息,通过迭代的自监督训练模式优化事件关系特征。【结果】在TACRED和FewRel数据集上进行实验,B3-F1相较于最好的基线模型分别提高了2.1和1.2个百分点。【局限】该模型将句法依存树当作无向图处理,未考虑边的方向和依赖边的标签信息。【结论】本文所提基于语言学知识增强的自监督式图卷积网络模型能有效增强文本的表征效果,为缺少标注数据的事件关系抽取提供了一种自监督学习框架。

融合上下文信息的篇章级事件时序关系抽取方法

事件时序关系抽取是一项重要的自然语言理解任务,可以广泛应用于诸如知识图谱构建、问答系统等任务.已有事件时序关系抽取方法往往将该任务视为句子级事件对的分类问题,而基于有限的局部句子信息导致其抽取的事件时序关系的精度较低,且无法保证整体时序关系的全局一致性.针对此问题,提出一种融合上下文信息的篇章级事件时序关系抽取方法,使用基于双向长短期记忆(bidirectional long short-term memory,Bi-LSTM)的神经网络模型学习文章中事件对的时序关系表示,再利用自注意力机制融入上下文中其他事件对信息,从而得到更丰富的事件对时序关系表示用于时序关系分类.通过TB-Dense(timebank dense)和MATRES(multi-axis temporal relations for start-points)数据集的实验表明:此方法能够取得比当前主流的句子级方法更佳的抽取效果.

基于深度神经网络的信息抽取研究综述

信息抽取任务旨在从非结构化的文本中抽取出结构化的信息,帮助将海量信息进行自动分类、提取和重构,提高信息的利用率.目前,基于深度神经网络的信息抽取技术已经成为自然语言处理领域最重要的研究主题之一,它提供了分析非结构化文本的有效手段,是实现大数据资源化、知识化和普适化的核心技术,此外进一步为更高层面的应用和任务提供了支撑.文章对基于深度神经网络的信息抽取相关研究进行了综述,首先,简要概述了信息抽取的任务定义、目标和意义,然后,回顾了信息抽取任务的发展历程,接下来,从实体抽取、实体关系抽取、事件抽取和事件关系抽取4个方面梳理了近几年关键技术的研究进展.最后,文章对信息抽取领域的未来发展趋势进行了分析和展望.

面向事件画像的事理图谱构建方法

首先,为了揭示事件演化规律和发展模式,研究了构建事理图谱的方法。采用知识图谱结构来描述事件间的逻辑结构关系,并对事件的多维属性进行画像;然后,提出了一种事理图谱构建的体系结构,包括文本语料采集、事件关系抽取模板构造、事件抽取与结构化、事件相似度计算与融合、事件触发词抽取与论元抽取模型构建、事件关系对构建以及图数据库存储,并利用该体系结构构建了顺承事理图谱、因果事理图谱、条件事理图谱、转折事理图谱和并发事理图谱。最后,通过试验结果验证了该方法的可行性。

事理图谱研究进展

事理图谱作为一种工具自2017年提出后就受到广泛关注。截至2023年3月,知网上收录关于事理图谱的文章共135篇。研究发现:国内外关于事理图谱的研究方向不尽相同,国内偏向于计算机与教育等方面,而国外更多地偏向于计算机与数学及人物传记等方面;学者们致力于研究提升算法性能及事理图谱的应用这2个部分,但有很大一部分应用型的文章只停留在想法方面,并没有真正地将事理图谱应用在自己的领域,尤其对跨领域研究的文章;在形成事理图谱的过程中,对于事件关系抽取的准确性还有一定的提升空间。将现有准确性高的程序简单化或者统一化,使更多的学者了解事理图谱并应用于各个领域是目前亟待解决的问题。

基于句法分析的临床指南事件及事件关系提取

研究了临床指南事件及事件关系的提取,提出了基于句法分析的事件信息抽取方法.通过分析临床指南语料库,总结出临床指南事件及关系模型;将临床指南数据进行句法分析,根据事件触发词来匹配事件与事件关系模型;将抽取出的事件信息进行优化处理,得到最终结果.通过具体临床指南数据对方法进行评估,获得了较好的准确率与召回率,验证了该方法的可行性与有效性.