Sentiment analysis is one of the most popular fields in NLP,and with the development of computer software and hardware,its application is increasingly extensive.Supervised corpus has a positive effect on model trainin...Sentiment analysis is one of the most popular fields in NLP,and with the development of computer software and hardware,its application is increasingly extensive.Supervised corpus has a positive effect on model training,but these corpus are prohibitively expensive to manually produce.This paper proposes a deep learning sentiment analysis model based on transfer learning.It represents the sentiment and semantics of words and improves the effect of Vietnamese sentiment analysis model by using English corpus.It generated semantic vectors through Word2Vec,an open-source tool,and built sentiment vectors through LSTM with attention mechanism to get sentiment word vector.With the method of sharing parameters,the model was pre-training with English corpus.Finally,the sentiment of the text was classified by stacked Bi-LSTM with attention mechanism,with input of sentiment word vector.Experiments show that the model can effectively improve the performance of Vietnamese sentiment analysis under small language materials.展开更多
隐式情感句子由于缺乏显式情感词并且其语义特征无法深入挖掘,导致现有模型进行情感分类时准确率不高。针对这一现状,提出一种基于情感特征增强的中文隐式情感分类模型(CISC),通过构建积极和消极情感词库,并将情感词进行位置嵌入得到情...隐式情感句子由于缺乏显式情感词并且其语义特征无法深入挖掘,导致现有模型进行情感分类时准确率不高。针对这一现状,提出一种基于情感特征增强的中文隐式情感分类模型(CISC),通过构建积极和消极情感词库,并将情感词进行位置嵌入得到情感特征增强的句子,进而提高分类准确率。对句子进行预处理得到对应的词语序列;通过自注意力机制的情感词检测方法进行句子情感词定位并分别嵌入积极和消极词,借助多层注意力网络得到对应的正向和负向的句子表示;分别将获取到的句子表示通过Bi-GRU模型和交互注意力机制(attention over attention,AOA)提取出对应的语义特征;将语义特征分别通过Softmax进行情感倾向概率计算,通过融入积极词的句子正向情感概率与融入消极词句子的负向情感概率进行均值计算并比较,得到最终的情感倾向。与EBA、GGBA等多种模型在SMP-ECISA2019公开数据集进行了比对实验,实验结果证明,提出的CISC模型可以提高中文隐式情感文本的分类效果。展开更多
通过基于预训练转换器(Transformer)双向编码器表征的文本卷积神经网络(text convolutional neural network model based on pre-training bidirectional encoder representations from transformer,BERT-TextCNN)模型实现汽车网站评论...通过基于预训练转换器(Transformer)双向编码器表征的文本卷积神经网络(text convolutional neural network model based on pre-training bidirectional encoder representations from transformer,BERT-TextCNN)模型实现汽车网站评论的情感分析,其目的在于研究用户对汽车产品和汽车服务的情感态度。首先采用基于Transformer的双向编码器表征(bidirectional encoder representations from transformer,BERT)模型能有效解决汽车评论中存在的一词多义问题,并产生包含丰富信息的动态词向量,然后结合文本卷积神经网络(text convolutional neural network,TextCNN)模型中的卷积运算和池化运算提取关键特征,最后通过softmax函数计算评论文本情感的概率分布。试验结果表明,BERT-TextCNN模型在情感分类中相比几种常见的神经网络模型的精度、召回率和F1值均有所提升。展开更多
近年来,情感分析是近年来自然语言处理领域备受学者关注的核心研究方向,传统文本情感分析模型只能捕捉文本的表面特征,在不同领域或语境下缺乏泛化能力,难以处理长文本以及语义歧义等问题.针对上述问题,本文设计了基于图神经网络与表示...近年来,情感分析是近年来自然语言处理领域备受学者关注的核心研究方向,传统文本情感分析模型只能捕捉文本的表面特征,在不同领域或语境下缺乏泛化能力,难以处理长文本以及语义歧义等问题.针对上述问题,本文设计了基于图神经网络与表示学习的文本情感分析模型(a text sentiment analysis model based on graph neural networks and representation learning,GNNRL).利用Spacy生成句子的语法依赖树,利用图卷积神经网络进行编码,以捕捉句子中词语之间更复杂的关系;采用动态k-max池化进一步筛选特征,保留文本相对位置的序列特征,避免部分特征损失的问题,从而提高模型的特征提取能力.最后将情感特征向量输送到分类器SoftMax中,根据归一化后的值来判断情感分类.为验证本文所提GNNRL模型的有效性,采用OS10和SMP2020两个文本情感分析数据集进行测试,与HyperGAT、IBHC、BERT_CNN、BERT_GCN、TextGCN模型比较,结果表明,综合accuracy、precision、recall、f14个指标,本文改进的AM_DNN模型均优于其他模型,在文本情感中具有较好的分类性能,并探究了不同优化器的选择对本模型的影响.展开更多
基金Chinese National Science Foundation(#61763007)the higher education research project of National Ethnic Affairs Commission“Research and Practice on the Training Mode of Applied Innovative SoftwareTalents Base on Collaborative Education and innovation” (17056)the InnovationTeam project of Xiangsihu Youth Scholars of Guangxi University For Nationalities。
文摘Sentiment analysis is one of the most popular fields in NLP,and with the development of computer software and hardware,its application is increasingly extensive.Supervised corpus has a positive effect on model training,but these corpus are prohibitively expensive to manually produce.This paper proposes a deep learning sentiment analysis model based on transfer learning.It represents the sentiment and semantics of words and improves the effect of Vietnamese sentiment analysis model by using English corpus.It generated semantic vectors through Word2Vec,an open-source tool,and built sentiment vectors through LSTM with attention mechanism to get sentiment word vector.With the method of sharing parameters,the model was pre-training with English corpus.Finally,the sentiment of the text was classified by stacked Bi-LSTM with attention mechanism,with input of sentiment word vector.Experiments show that the model can effectively improve the performance of Vietnamese sentiment analysis under small language materials.
文摘隐式情感句子由于缺乏显式情感词并且其语义特征无法深入挖掘,导致现有模型进行情感分类时准确率不高。针对这一现状,提出一种基于情感特征增强的中文隐式情感分类模型(CISC),通过构建积极和消极情感词库,并将情感词进行位置嵌入得到情感特征增强的句子,进而提高分类准确率。对句子进行预处理得到对应的词语序列;通过自注意力机制的情感词检测方法进行句子情感词定位并分别嵌入积极和消极词,借助多层注意力网络得到对应的正向和负向的句子表示;分别将获取到的句子表示通过Bi-GRU模型和交互注意力机制(attention over attention,AOA)提取出对应的语义特征;将语义特征分别通过Softmax进行情感倾向概率计算,通过融入积极词的句子正向情感概率与融入消极词句子的负向情感概率进行均值计算并比较,得到最终的情感倾向。与EBA、GGBA等多种模型在SMP-ECISA2019公开数据集进行了比对实验,实验结果证明,提出的CISC模型可以提高中文隐式情感文本的分类效果。
文摘通过基于预训练转换器(Transformer)双向编码器表征的文本卷积神经网络(text convolutional neural network model based on pre-training bidirectional encoder representations from transformer,BERT-TextCNN)模型实现汽车网站评论的情感分析,其目的在于研究用户对汽车产品和汽车服务的情感态度。首先采用基于Transformer的双向编码器表征(bidirectional encoder representations from transformer,BERT)模型能有效解决汽车评论中存在的一词多义问题,并产生包含丰富信息的动态词向量,然后结合文本卷积神经网络(text convolutional neural network,TextCNN)模型中的卷积运算和池化运算提取关键特征,最后通过softmax函数计算评论文本情感的概率分布。试验结果表明,BERT-TextCNN模型在情感分类中相比几种常见的神经网络模型的精度、召回率和F1值均有所提升。
文摘近年来,情感分析是近年来自然语言处理领域备受学者关注的核心研究方向,传统文本情感分析模型只能捕捉文本的表面特征,在不同领域或语境下缺乏泛化能力,难以处理长文本以及语义歧义等问题.针对上述问题,本文设计了基于图神经网络与表示学习的文本情感分析模型(a text sentiment analysis model based on graph neural networks and representation learning,GNNRL).利用Spacy生成句子的语法依赖树,利用图卷积神经网络进行编码,以捕捉句子中词语之间更复杂的关系;采用动态k-max池化进一步筛选特征,保留文本相对位置的序列特征,避免部分特征损失的问题,从而提高模型的特征提取能力.最后将情感特征向量输送到分类器SoftMax中,根据归一化后的值来判断情感分类.为验证本文所提GNNRL模型的有效性,采用OS10和SMP2020两个文本情感分析数据集进行测试,与HyperGAT、IBHC、BERT_CNN、BERT_GCN、TextGCN模型比较,结果表明,综合accuracy、precision、recall、f14个指标,本文改进的AM_DNN模型均优于其他模型,在文本情感中具有较好的分类性能,并探究了不同优化器的选择对本模型的影响.
