基于语序知识的双通道图卷积网络方面级情感分析

当前大多数基于图卷积网络的方面级情感分析方法利用文本的句法知识、语义知识、情感知识构建文本依赖,但少有研究利用文本语序知识构建文本依赖,导致图卷积网络不能有效地利用文本语序知识引导方面项学习上下文情感信息,从而限制了其性能。针对上述问题,提出基于语序知识的双通道图卷积网络(dual-channel graph convolutional network with word-order knowledge,WKDGCN)模型,该模型由语序图卷积网络(word-order graph convolutional network,WoGCN)和情感知识结合语义知识增强的句法图卷积网络(sentiment and attention-enhanced graph convolutional network,SAGCN)组成。具体地,WoGCN基于文本的语序知识构建图卷积网络,由文本的语序依赖引导方面项特征学习上下文情感信息;SAGCN利用SenticNet中的情感知识结合注意力机制增强句法依赖,利用增强后的句法依赖构建图卷积网络,以此引导方面项特征学习上下文情感信息;最后融合两个图卷积网络的特征用于情感分类。此外,设计了一种权重分配策略,在放大方面项权重的同时保持上下文权重一致,避免错误的计算方面项特征与重要特征的语义相关性。在多个公开数据集上的实验结果表明,所提方法优于对比模型。

结合外部知识重构依赖矩阵的交互式图卷积网络

方面级情感分析旨在预测给定句子中特定方面的情感极性。然而,现有大多数研究在对模型改进的过程中忽略了外部知识的有效利用,导致模型无法准确识别方面词的情感极性。另外,仅仅考虑有限的上下文信息可能会使得模型在分析方面词时忽略其在句子中的重要性和影响。基于此,提出了一种结合外部知识构建依赖增强矩阵的图卷积网络模型的方法(Dependency Enhancement Matrix GCN,DEMGCN)。该方法首先将词嵌入和位置嵌入进行融合,得到包含位置信息的句子特征向量;同时引入情感常识信息对原始依赖矩阵进行扩展,形成新的依赖增强矩阵DEM,这在一定程度上突出了情感词的权重信息,并且弥补了原始依赖树无法捕获边缘标签的不足。此外,构建了一个信息交互网络(Information Interaction Network,IIN),通过方面词与上下文之间的交互来提取全局的句子信息。最后,在5个基准数据集上的实验结果显示,与基线模型相比DEMGCN在准确率和Macro-F1上分别提高了1~2百分点。

多源知识融合的方面级情感分析模型

方面级情感分析(ABSA)是一项细粒度情感分析任务,其目的是针对评论语句中出现的特定方面给出对应的情感极性。现有的基于深度学习的ABSA方法大多侧重于评论语句语义和句法的挖掘,往往忽略了评论语句可能涉及的概念知识和情感程度信息。针对此问题,提出一种融合多源知识的神经网络模型,通过句法依赖揭示句子的结构框架、词共现捕捉单词之间的语义联系、情感网络和概念图谱的嵌入为模型提供情感和背景知识,共同实现评论语句上下文与评价方面的增强表示,并通过双交互注意力模式实现评论语句上下文与评价方面的协调优化。通过在4个公开数据集上的实验验证,该模型在ABSA任务中,准确率分别达到了75.00%、77.90%、81.55%、90.10%,与基准模型相比均有所提高。研究成果不仅验证了多源知识融合在ABSA任务中的有效性,也为未来的研究提供了新的思路和方法。

面向方面情感分析的多通道增强图卷积网络

传统的基于单通道的特征提取方式,仅使用单一的依赖关系捕获特征,忽略单词间的语义相似性与依赖关系类型信息。尽管基于图卷积网络进行方面情感分析的方法已经取得一定成效,但始终难以同时聚合节点的语义信息和句法结构特征,在整个迭代训练过程中最初的语义特征会逐渐遗失,影响句子最终的情感分类效果。由于缺乏先验知识会导致模型对相关情感词的误解,因此需要引入外部知识来丰富文本信息。目前,如何利用图神经网络(GNN)融合句法和语义特征的方式仍值得深入研究。针对上述问题,该文提出一种多通道增强图卷积网络模型。首先,通过对情感知识和依赖类型增强的句法图进行图卷积操作,得到基于语法的两种表示,与经过多头注意力和图卷积学习到的语义表示进行融合,使多通道的特征能够互补学习。实验结果表明,在5个公开数据集上,准确率和宏F1值优于基准模型。由此可见,依赖类型和情感知识均对增强句法图有重要影响,表明融合语义信息与句法结构的有效性。

基于句法依赖增强图的方面级情感分析

方面级情感分析旨在分析句子中特定方面的情感极性,现有研究侧重于利用图神经网络建模上下文与方面的依赖信息,忽略了对上下文中情感词及其词性的挖掘和利用。为此,提出一种基于句法依赖的增强图(syntactic dependency enhancement graph, SDEG)模型,在原始句法依赖图上引入情感知识和词性信息,增强情感词权重和相关词性单词在上下文中的作用。使用双向长短期记忆网络和卷积神经网络捕捉句子的重点语义信息,通过图卷积神经网络建模句法依赖增强图,通过交互注意力机制生成特定方面的上下文语义和语法表示以进行情感极性分类。在多个公共基准数据集上的实验结果表明,所提模型在性能上有明显提升。

基于知识蒸馏改进双路BERT的经济类文本情感分析

在互联网时代,越来越多的财务公司选择在财经新闻平台上发表自己的见解,这些评论文本作为舆情的载体,可以充分反映财务公司的情绪,影响公众的投资决策和市场走势.情感分析为分析海量的经济类文本情感类型提供了有效的研究手段.但是,由于特定领域文本的专业性和大标签数据集的不适用性,经济类文本情感分析给传统的情感分析模型带来了巨大的挑战.当将一般情感分析模型应用于经济等特定领域时,模型在准确率与召回率上表现较差.为了克服这些挑战,文章针对财经新闻平台上的经济类文本的情感分析任务,从词表示模型出发,提出了基于知识蒸馏方法的双路BERT(Two-way BERT based on knowledge distillation method)情感分析模型,与文本卷积神经网络(Text-CNN)、卷积递归神经网络(CRNN)、双向长时和短时记忆网络(Bi-LSTM)等算法进行对比实验,结果得出该改进方法相较于其他算法在准确率、召回率和F1值均提升了1%~3%,具有较好的泛化性能.

基于多依赖图和知识融合的方面级情感分析模型

方面级情感分析存在以下问题:句法依赖解析方式单一,语法信息的提取和利用不完善;外部知识库使用有限,无法提供足以判断情感的背景知识与信息;引入的知识过多,导致结论出现偏差.为此提出新的方面级情感分析模型,使用2种不同的句法解析方式对句子构建2种句法依赖图.依据外部情感知识构建情感关系图,引入概念知识图谱增强句子中的方面词本体,构建与经过概念知识图谱增强的句子对应的可见矩阵.使用双通道图卷积神经网络处理依赖图、情感关系图与可视矩阵,融合依赖图与情感关系图,对特定方面的特征表示进行语义、句法双交互.实验结果表明,所提模型在多个数据集上的准确率和宏F1值均显著优于主流模型.

社交网络舆情多模态知识图谱构建框架研究

[研究目的]信息技术的发展丰富了社交媒体用户的沟通交流方式,研究社交网络舆情多模态知识图谱的构建对网络舆情治理具有重要的现实意义。[研究方法]基于多模态数据的语义互补,讨论了实体属性关联、图像(视频)文字描述、图像(视频)属性、图像(视频)关联等多种异构数据融合方式。在此基础上,提出社交网络舆情多模态知识图谱的构建框架,并分析了在多模态语义理解、多模态实体对齐、多模态知识表示等方面存在的问题与挑战。[研究结论]提出基于多模态知识融合的社交网络舆情多模态知识图谱构建框架,为交互方式日趋丰富的社交网络舆情治理提供有益参考。

基于多层次知识增强的方面级情感分析模型

在方面级情感分析任务中,现有研究侧重于挖掘评论语句的语义信息和句法依赖约束,未能综合考虑情感知识、概念知识和单词之间的句法依赖类型对方面情感倾向判别准确性的影响。针对这一问题,提出一种基于多层次知识增强的方面级情感分析模型(multilevel knowledge enhancement,MLKE),利用外部知识对评论语句进行情感、句法和概念3个层次的知识增强。首先,利用情感知识及单词之间的依赖类型来增强句子的依赖图,并通过图卷积网络建模节点特征,得到情感和句法增强的特定方面表征;其次,利用概念图谱对方面词概念增强后,与特定方面表征进行融合,得到多层次知识增强的方面表征;最后,采用交互注意力机制实现上下文表征与方面表征之间的协调优化。5个公共数据集上的实验结果表明,所提模型的准确率和宏F1值均得到提高。

基于多教师多学生知识蒸馏的情感分类方法

预训练语言模型在情感分类任务中取得了卓越的性能提升。然而,预训练模型的巨额参数量和缓慢的推理速度成为这些模型应用落地的主要障碍。知识蒸馏是一种将知识从大型的预训练教师模型转移到小型学生模型的技术。不同于现有的单教师或单学生蒸馏模型,该文提出一种基于多教师和多学生蒸馏的集成蒸馏方法。该方法既可以充分利用不同教师模型的不同知识,又可以弥补单个学生学习能力不足的缺点。此外,该文使用了大量情感分类任务相关的未标注样本来提高蒸馏性能。实验结果表明,该文提出的方法在情感分类任务上能够在基本保持教师模型的分类性能的基础上,减少97.8%~99.5%参数量,并提升了176~645倍的CPU推理速度。

知识驱动的多语义语法交互方面级情感分析

针对目前图卷积网络处理情感分类任务时存在对文本丰富的信息利用不充分问题,提出一种知识驱动的多语义语法交互方面级情感分析模型。通过方面词与上下文之间的多种语义关系构建多语义关系图,利用外部知识构建情感依存图;此外,通过对注意力机制进行优化获得更高级上下文表示,随后融合不同表示。5个数据集上的实验结果表明:所提模型与基准模型ASGCN相比,KSSGCN_GloVe的准确率和宏F1分别平均提升1.59%和3.17%。

融合多用户属性的网络知识社区核心用户识别研究:基于情感加权的LeaderRank算法

基于对网络知识社区用户属性的分析,本文提出一种融合多用户属性的核心用户识别方法,以提升核心用户识别的效率和效果,为提高社区运营和管理水平提供理论和方法参考。首先,基于用户的基本属性数据对用户的活跃性和专业性进行量化;其次,构建网络知识社区超网络模型,提出基于邻居好友重叠度的用户社交关系重要性算法、用户交互活动中的累计交互情感计算方法以及用户综合情感倾向性排名算法;最后,采用熵权法融合上述指标作为用户核心性得分,并通过得分排序识别核心用户。研究结果表明,相比于用户社交关系网络中的度中心性排名和用户交互关系网络中的LeaderRank排名,本文提出的融合多属性的网络知识社区核心用户识别方法具有更好的识别效果。

面向情感分类的非监督异构对比蒸馏模型

网络评论的数量呈爆炸式增长,对这些评论进行情感分析有着重要的研究价值。自从BERT模型被提出后,预训练模型成为情感分析任务上的常用方法,但存在模型参数量过大、推理速度缓慢的缺点。在此之前情感分析的方法是一些简单的神经网络模型,训练速度快,可部署性强,但效果一般。因此,结合两类方法的优点,该文提出一种异构设置的非监督对比蒸馏模型,用于网络评论情感分析。在相同数据集和计算资源的情况下,该模型较BERT模型参数量减少146倍,推理时间减少270倍;较DistilBERT蒸馏参数量减少88倍,推理时间减少42.3倍,效果提升1.8个百分点(68.3%vs 70.1%)。

用于方面级情感分析的情感增强双图卷积网络

方面级情感分析是一项细粒度的情感分类任务。近年来,依存树上的图神经网络被用于建模方面项及其意见项间的依赖关系。然而,这类方法通常具有高度依赖依存树解析质量的缺点。同时,大多数现有研究着重关注语法信息,忽视了情感知识在建模特定方面与上下文之间情感依赖关系中的作用。为解决以上问题,设计并提出了用于方面级情感分析的情感增强双图卷积网络。模型基于依存树与注意力机制建立双通道结构,在更为准确、高效地捕捉方面与上下文间语法与语义关联的同时减轻了模型对依存树的依赖程度。此外,模型引入情感知识用于增强图结构,帮助模型更好地提取特定方面的情感依赖关系。模型在3个公开基准数据集Rest14、Lap14、Twitter上的准确率分别达到了84.32%、78.20%、76.12%,接近或超越目前最先进的性能。实验表明,提出的方法能够合理利用语义和语法信息,在使用更少参数的情况下实现较为先进的情感分类性能。

“建议专家不要建议”:公共卫生事件中的大众“信息厌倦”研究

本研究通过整理新冠疫情期间公众对专家知识相关微博的评论文本,运用文本情感分析和BTM主题模型,实证研究了公众对专家知识的“信息厌倦”现象。在验证S-S-O理论基本观点的基础上,本研究进一步发现,“信息厌倦”现象在不同类型专家知识和风险情境中存在差异。具体地,公众对病毒科普类知识最不易产生“信息厌倦”,且其程度受风险情境更迭的影响最小;其次是政策解读类知识;公众对行为呼吁类知识最易产生“信息厌倦”,且其程度随风险情境的更迭变化最大。这一发现为解释社交媒体中的“专家-公众”对立现象提供了新的经验性认知。

一种用于方面级情感分析的知识增强双图卷积网络

近年来,深度神经网络特别是图神经网络在方面级情感分析任务上取得了较大进展,但是仍存在未充分利用外部知识信息、句法依赖树的边关系信息以及知识图谱结构信息的缺陷.针对上述问题,本文提出了一种知识增强的双图卷积网络BGCN-KE(Knowledge-enhanced Bi-Graph Convolutional Network).首先,提出一种融合句法依赖关系与外部知识的子图构造算法,得到节点间语义关系更紧密的知识子图.其次,提出了双图卷积网络,分别利用两个图卷积网络在句法依赖知识子图中引导评论文本的节点学习邻接节点的外部知识,以及在评论文本的句法依赖图中融合特定方面相关的语义信息,从而增强评论文本的特定方面知识表示和语义表示.再次,BGCN-KE引入边关系注意力机制,更好地捕获特定方面和上下文词语间的语义关系.最后,提出了一种多级特征融合机制,充分融合特定方面相关的外部知识、语义信息和边关系特征.多个公共数据集上的实验证明,BGCN-KE的性能优于最新的对比模型.

知识增强的双通道多头GCN用于方面级情感分析

方面级情感分析(aspect based sentiment analysis,ABSA)是自然语言处理领域的一个重要任务,其目标是对句子中给定的方面词进行情感极性的判断。目前,最先进的ABSA模型采用图神经网络处理句子的语义信息和句法结构。然而,这些方法对句法依赖树蕴含的信息使用不足,不仅缺少对外部知识的挖掘,而且忽略了对模型引入上下文噪声的消除。针对这些问题,提出了一种知识增强的双通道多头图卷积神经网络。该模型建立了基于语义的多头图卷积网络和基于句法的多头图卷积网络,利用外部情感知识以及句法依赖距离重构句法依赖树,使模型充分融入外部知识。同时采用自注意力机制构建动态语义图并过滤引入噪声,从而更多地关注方面词。模型在3个公开基准数据集Rest14、Lap14、Twitter上的准确率分别达到了87.57%、82.34%、77.75%,显著优于基线模型。

基于知识蒸馏的跨模态语音情感分类

针对语音情感分类任务面临的语音数据标注困难的挑战,该文提出了一种新的跨模态语音情感分类任务,其可以使用文本模态数据(源端)帮助语音模态数据(目标端)进行情感分类。在此基础上,提出了一种基于知识蒸馏的跨模态情感分类模型,旨在通过知识蒸馏方法将文本情感分类模型(教师模型)学习到的预训练先验知识蒸馏到语音情感分类模型(学生模型)中。该模型的特色在于无须在测试端依赖昂贵的语音识别技术,可对原始语音数据直接进行情感分类,有利于该模型在实际语音情感分类应用场景中大规模落地。实验结果表明,该文所提出的方法可以有效利用文本模态分类的经验来提升语音模态的分类效果。

句法感知与知识增强的方面级情感分析

在方面级情感分析任务中需要先对文本进行句法依存解析,一方面存在着高度依赖依存解析质量的问题,另一方面未考虑依存解析与语义知识关联性缺失的问题。为此,提出一种基于句法感知与知识增强的双通道图卷积模型进行方面级情感分析任务。在一个通道上使用句法感知机制学习句子的依存关系,在另一个通道上通过知识图谱进行知识增强,并通过信息交互机制关联两通道的输出,使得模型对与方面词相关联的重要词汇赋予更多句法与语义上的关注。此外,引入位置注意力机制,对词语进行位置上的得分权重调整,进而提高方面级情感分析任务的性能。在3个公开数据集Rest14、Lap14、Twitter上进行实验,相较于其他方面级情感分析模型,所提模型在准确率与F1值都有较为明显的提升。实验表明,句法感知与知识增强能够指导图卷积模型进行更加深入的语义学习与合理的权重分配,从而提高方面级情感分析任务的性能。

基于课程思政的高校药物分析学课程教学改革探索

“药物分析学”是药学专业本科生必修的一门核心课程,其不仅承担着传授学生知识、培养学生能力的功能,还承载着育人功能。在具体实践中,教学团队要积极收集典型案例,充分挖掘、梳理课程中的思政元素,并在课前—课中—课后全过程巧妙融入职业素养、科学精神、家国情怀、环保意识、哲学智慧五大思政元素,以此落实知识传授、能力培养、价值塑造的课程教学任务。教学实践表明,课程思政的融入极大激发了学生的学习兴趣,提高了学生学习的主观能动性及职业素养,实现了培养学生的家国情怀和科学精神等教学目标。