基于词级交互注意力机制的方面级情感分类模型

方面级情感分类旨在判断句子中每个具体方面的情感极性.传统的注意力机制模型可能会给句子中重要情感词分配过低的注意力权重,而且很少考虑上下文与方面词的交互信息.针对第1个问题,本文改进了传统的输入方式,以方面词为界限,将句子划分成包含方面词的上文、方面词和包含方面词的下文3部分作为输入,分别提取上文或下文中的重要情感特征.针对第2个问题,本文提出了词级交互注意力机制,分别学习上文与方面词、下文与方面词的词级交互,得到特定于方面的上文表示和下文表示向量,最后将它们拼接得到特定于方面的上下文表示向量,作为方面级情感分类特征.通过在3个标准数据集上的实验证明,本文的模型性能优于基线模型.

融合self_attention的词级交互文本分类模型研究

当今是个数据化的时代,人们所接触到的信息是呈爆炸式增长的。而文本是最常见以及最常用的信息载体,它不仅分布广泛而且能够容纳的数据量是非常庞大的。在已有的分类模型中,与传统的文本分类模型相比较,深度神经网络模型在文本分类中取得了不错的效果。深度神经网络模型尽管意义很重大,但是却没有考虑到细粒度(单词和类之间的匹配信号)分类线索,因为它们的分类主要依赖于文本级表示。因此,论文采用一种融合self_attention的词级交互文本分类模型,将词级交互匹配数合并到文本分类中。结果表明该分类模型有效地提高了分类的准确性。

多任务交互式学习网络的方面情感分析

方面情感分析传统方法采用方面词抽取-情感预测的独立学习模式,未充分利用两模块的联合信息及训练过程中有价值的信息。提出基于消息传递机制的多任务交互式学习网络,模型采用细粒度属性级分类任务和篇章级分类任务联合训练,设计消息传递显式地对任务交互进行建模,通过共享隐藏变量迭代传递信息,有助于特征学习和推理。方面情感分析模块提出词级信息交互机制以及观点词抽取——情感预测信息传递通道,实现双注意力机制;利用池化操作嵌入多层GRU网络实现篇章级任务预测。设计迭代算法在方面级和篇章级任务间交替训练,通过三个数据集上的实验对比,结果表明模型在每个子任务的F1分数、模型整体性能、篇章级任务网络性能上均得到有效提高。