结合语法结构和语义信息的情感三元组提取

针对目前大多数方面情感三元组提取方法存在着没有充分考虑语法结构和语义相关性的问题.本文提出一种结合语法结构和语义信息的方面情感三元组提取模型,首先提出使用依赖解析器得到所有依赖弧的概率矩阵构建语法图,提取丰富的语法结构信息.其次利用自注意力机制构建语义图,表示单词与单词之间的语义相关性,从而减低噪声词的干扰.最后设计了一个相互仿射变换层,让模型可以更好地交换语法图和语义图之间的相关特征,提升模型情感三元组提取的表现.在多个公开数据集上进行验证.实验表明,与现有的情感三元组提取模型相比,精确度(P)、召回率(R)和F1值整体都有提高,验证了结合语法结构和语义信息在方面情感三元组提取的有效性.

多特征交互的方面情感三元组提取

方面情感三元组提取是方面级情感分析的子任务之一,旨在提取句子中的方面词、其对应的意见词和情感极性。先前研究集中于设计一种新范式以端到端的方式完成三元组提取任务。然而,这些方法忽略外部知识在模型中的作用,没有充分挖掘和利用语义信息、词性信息以及局部上下文信息。针对上述问题,提出了多特征交互的方面情感三元组提取(MFI-ASTE)模型。首先,该模型通过BERT预训练模型学习句子中的上下文语义特征信息,并使用自注意力机制加强语义特征;其次,使语义特征与所提取到的词性特征交互,二者相互学习,加强词性的组合能力与语义信息;再次,使用多个不同窗口的卷积神经网络提取每个单词的多重局部上下文特征并使用多分门控机制筛选这些多重局部特征;然后,采用双线性层融合提取到的三类外部知识特征;最后,利用双仿射注意力机制预测网格标记并通过特定的解码方案解码三元组。实验结果表明,该模型在四个数据集上的F1值比现有的主流模型分别提升了6.83%、5.60%、0.54%和1.22%。

语义和句法依赖增强的跨度级方面情感三元组抽取

本研究针对目前跨度级别的方面情感三元组抽取模型忽视词性和句法知识的问题且存在三元组冲突的情况,提出了语义和句法依赖增强的跨度级方面情感三元组抽取模型SSES-SPAN (semantic and syntactic enhanced span-based aspect sentiment triplet extraction).首先,在特征编码器中引入词性知识和句法依赖知识,使模型能够更精准地区分文本中的方面词和观点词,并且更深入地理解它们之间的关系.具体而言,对于词性信息,采用了一种加权求和的方法,将词性上下文表示与句子上下文表示融合得到语义增强表示,以帮助模型准确提取方面词和观点词.对于句法依赖信息,采用注意力机制引导的图卷积网络捕捉句法依赖特征得到句法依赖增强表示,以处理方面词和观点词之间的复杂关系.此外,鉴于跨度级别的输入缺乏互斥性的保证,采用推理策略以消除冲突三元组.在基准数据集上进行的大量实验表明,我们提出的模型在效果和鲁棒性方面超过了最先进的方法.

融合指针网络与关系嵌入的三元组联合抽取模型

针对自然语言文本中实体重叠情况复杂、多个关系三元组提取困难的问题,提出一种融合指针网络与关系嵌入的三元组联合抽取模型。首先利用BERT(Bidirectional Encoder Representations from Transformers)预训练模型对输入句子进行编码表示;然后利用首尾指针标注抽取句子中的所有主体,并采用主体和关系引导的注意力机制来区分不同关系标签对每个单词的重要程度,从而将关系标签信息加入句子嵌入中;最后针对主体及每一种关系利用指针标注和级联结构抽取出相应的客体,并生成关系三元组。在纽约时报(NYT)和网络自然文本生成(WebNLG)两个数据集上进行了大量实验,结果表明,所提模型相较于目前最优的级联二元标记框架(CasRel)模型,整体性能分别提升了1.9和0.7个百分点;与基于跨度的提取标记方法(ETL-Span)模型相比,在含有1~5个三元组的对比实验中分别取得了大于6.0%和大于3.7%的性能提升,特别是在含有5个以上三元组的复杂句子中,所提模型的F1值分别提升了8.5和1.3个百分点,且在捕获更多实体对的同时能够保持稳定的提取能力,进一步验证了该模型在三元组重叠问题中的有效性。

面向方面的自适应跨度特征的细粒度意见元组提取

面向方面的细粒度意见提取(AFOE)以意见对的形式从评论中提取方面词和意见词,或在此基础上再提取方面词的情感极性形成意见三元组。针对现有研究方法忽略了意见对与上下文相关性的问题,提出一种面向方面的自适应跨度特征的网格标记方案(ASF-GTS)模型。首先,利用BERT(Bidirectional Encode Representation from Transformers)模型获得句子的特征表示;然后,采用自适应跨度特征(ASF)方法加强意见对与局部上下文的联系;其次,通过网格标记方案(GTS)将意见对提取(OPE)转化为统一的网格标记任务;最后,使用特定的解码策略生成对应的意见对或意见三元组。在适用于意见元组提取任务的四个AFOE基准数据集上进行实验,结果表明,与GTS-BERT(Grid Tagging Scheme-BERT)模型相比,所提模型在意见对和意见三元组任务上的F1值分别提高了2.42%~7.30%和2.62%~6.61%。所提模型能够有效保留意见对与上下文的情感联系,更精确地提取意见对及其情感极性。

基于图文关联的威判指标体系自适应构建模型

威判指标体系是评估敌方威胁程度和指导军事决策的重要内容,而威判指标体系的自动构建是一项关键技术。针对目前威判指标体系自动构建面临数据样本少和噪声大的问题,提出了一种基于图文关联的威判指标体系自适应构建模型Bi LSTM-CRF-ITAAC。首先,构建了内容关联自适应权重矩阵,对实体模型提取出的三元组进行筛选,得到威判指标体系数据初集;其次,提出了文档威判指标体系图片识别模型,以识别出包含有威判指标体系的图片;最后,提出了威判指标体系图文关联模型,以关联威判指标体系数据初集,生成威判指标体系。经实验验证,所提出的模型与单一实体提取模型相比,可有效降低噪声,这为威判指标体系的构建奠定了重要理论基础。

基于多通道图卷积网络的方面级情感分析

方面情感三元组提取旨在通过提取方面词、观点词及情感极性的三元组来为方面级情感分析提供解决方案。以往的研究存在无法处理句子中方面词和观点词之间的一对多和多对一的关系,以及在不同的子任务中存在错误传播的问题。本文提出一种基于多通道图卷积网络的情感分析方法,通过设计多通道图卷积网络来捕获单词的词性组合信息和结构信息。使用图卷积网络在异构图上重复图卷积操作得到句法依存模块的输入,同时使用双仿射注意力模块获取句子中单词间的关系概率分布。研究选取的数据集Res14、Lap14、Res15和Res16上的仿真实验表明,在F1值上,本文模型与现有的基线模型相比,取得了更好结果。