基于多注意力长短时记忆的实体属性情感分析

属性情感分析是细粒度的情感分类任务。针对传统神经网络模型无法准确构建属性情感特征的问题,提出了一种融合多注意力和属性上下文的长短时记忆(LSTM-MATT-AC)神经网络模型。在双向长短时记忆(LSTM)的不同位置加入不同类型的注意力机制,充分利用多注意力机制的优势,让模型能够从不同的角度关注句子中特定属性的情感信息,弥补了单一注意力机制的不足;同时,融合双向LSTM独立编码的属性上下文语义信息,获取更深层次的情感特征,有效识别特定属性的情感极性;最后在Sem Eval2014 Task4和Twitter数据集上进行实验,验证了不同注意力机制和独立上下文处理方式对属性情感分析模型的有效性。实验结果表明,模型在Restaurant、Laptop和Twitter领域数据集上的准确率分别达到了80. 6%、75. 1%和71. 1%,较之前基于神经网络的情感分析模型在准确率上有了进一步的提高。

融合双向语言模型的半监督属性识别方法研究

属性级情感分析是细粒度的情感分类任务,属性识别是属性情感分析任务中的重要步骤,作为典型的序列化标记问题处理。近年来,不依赖人工特征的神经网络模型在分词等序列化标记任务中表现出了很好的性能。为此,论文提出一种融合双向语言模型的半监督序列化标记网络模型(ST-BiLM),首先利用卷积神经网络(CNN)训练出单词具有形态特征的字符级向量,然后组合具有语义特征的词向量作为模型的输入,再利用ST-BiLM模型来进行实体属性识别。实验结果表明,模型在SemEval2014 Task4和Twitter不同领域的数据集上都达到了很好的结果,F1值分别为88.27%,83.15%和86.36%。