基于改进胶囊网络的文本细粒度情感分类方法

针对当前文本细粒度情感分类方法仅通过浅层卷积获取文本情感特征,导致多种文本细粒度情感分类效果差,具有歧义的文本细粒度情感分类精度低的问题,提出基于改进胶囊网络的文本细粒度情感分类方法。使用信息增益最大原则,优化文本特征集,引入文本特征词语位置信息,优化贝叶斯模型词语分辨性能,消除文本歧义。基于改进稠密胶囊网络模型,建立自注意力特征模型,提取文本细粒度情感特征,使用局部约束动态路由算法,选取与变换矩阵共享局部范围胶囊路由,实现文本细粒度情感分类。实验结果表明,所提方法的查准率、召回率以及F1值较高,多种文本细粒度情感分类效果较好,能够有效提高具有歧义的文本细粒度情感分类精度。

基于多任务学习的同行评审细粒度情感分析模型

学术论文同行评审能够直接反映审稿人对论文的主观评价,对审稿文本进行情感分析有利于挖掘审稿人对论文多维度的评价信息。现有的情感分析模型仅能挖掘专家单一的评审维度和相应的情感倾向,本文提出了一种基于多任务学习的同行评审细粒度情感分析模型。该模型在多任务学习框架下,通过在BERT-LCF模型的基础上增加BiLSTM-CRF模块,使其具备了同时完成属性词抽取和细粒度情感分析任务的能力。与传统的基于Pipeline模式的单任务细粒度情感分析模型相比,本模型在保证精度的情况下可以同时完成评审属性提取和情感分析任务。在这两项任务中,所提出模型的F1分数分别达到了89.01%和90.71%。对比实验证明,在多任务场景下,引入BiLSTM-CRF模块对评审文本属性词提取任务有一定的提升作用。

基于迁移学习与细粒度文本特征的未见关系链接研究

[研究目的]在知识海量增长的时代,知识图谱问答面临信息需求与知识图谱加速更新的现实情境,亟需探索关系链接模型在关系类型频繁更新时仍能保持链接效果的方法,实现未见关系类别与用户提问的精准语义匹配。[研究方法]针对模型泛化性不足与灾难性遗忘问题,引入Adapter-Bert迁移学习框架;针对模型对辨别性语义部分的捕获能力不足问题,引入实体特征与问题变换,并将稠密向量与问句抽象意义形式化表示两种不同的语义表示方式进行融合。[研究结论]结果表明,方法在未见关系链接任务上的准确率达到98.80%,相较bert基线模型有显著提高,提升了未见关系链接的效果。

融合多头注意力机制和BiLSTM的电商评论情感分析研究

针对电商评论数据缺乏深层次的情感分析和语义知识关联,不利于系统挖掘潜在的消费情感和客户满意度信息问题,以京东电商评论数据为例,提出一种融合多头注意力机制和双向长短时记忆网络模型(bi-directional long short-term memory,BiLSTM)的电商评论情感分析模型。首先,通过词嵌入将文本数据转化为句向量;其次,构建融合多头注意力机制的BiLSTM模型,利用BiLSTM捕获长距离依赖关系,利用Transformer突出全局关键特征;最后,构建分类器实现电商评论的情感分析。实验结果表明,文章提出方法优于现有的机器学习和深度学习方法,其F_(1)值为0.9276。同时,通过详细的对比实验证明了该方法能实现评论文本情感特征的细粒度提取,并能在少样本标注的情况下取得更好的准确率,具有良好的鲁棒性和准确性。