融合双通道特征的中文短文本情感分类模型

中文短文本具有特征稀疏、歧义多、信息不规范、文本情感丰富等特点,现有基于深度学习的中文短文本情感分类模型具有提取文本特征不充分和只注重语义信息而忽视句法信息的问题。针对上述问题提出融合双通道特征的中文短文本情感分类模型。预训练模型得到动态词向量,赋予模型更丰富的语言特征和明确的句法信息。双通道提取动态词向量的文本特征,上侧通道改进了DPCNN网络,提取文本丰富的长距离依赖关系;下侧通道建立双向长短期记忆网络各时间的字词特征和文本特征的多头自注意力关系,学习更加充分的文本特征,对分类结果较为关键的词汇给予更多的关注。将双通道的特征信息拼接获得最终的文本表示。实验结果表明,该分类模型在Chn-SentiCorp、微博评论和电商评论数据集的准确率分别能够达到96.54%、92.05%和94.3%,对比模型准确率平均值高2.28、2.44和1.01个百分点。融合双通道特征的中文短文本情感分类模型能有效提高文本分类准确率,为中文短文本情感分类提供了新的理论模型。

基于SimCSE和BERT混合模型的短文本情感分类

为了解决BERT模型训练效果受到文本向量存在的各向异性问题,将对比学习(SimCSE)和BERT结合起来构建模型(SimCSE-BERT),分类器不但通过对比学习思想扩充了训练数据量,还可基于SimCSE模型获得“对齐”和“均匀性”俱佳的文本向量去优化基础BERT模型以提高分类效果。实验结果表明,与基础BERT模型相比,混合模型的准确率在外卖、携程酒店和淘宝数据集上分别提升0.562、0.584和0.734个百分点。该模型在短文本情感分类数据集上的分类效果有明显提升,并且具有良好的泛化能力。

基于结构性符号文本的多通道情感分类模型构建

本文提出了一种改进的用于处理包含颜文字的结构性符号和文字混合文本的新的情感分类模型。模型综合包括多层感知机、统计情感缩放、预构建词典、多通道处理和自注意力机制在内的多种技术,具有较高的可扩展性和可解释性。同现有的情感分类模型相比,本模型能更好地感知颜文字对文本语义的影响,并在此基础上实现文本情感分类。实验结果表明,该模型在融合颜文字的文本情感分类任务中表现出更好的性能。此外,模型可用于解决其他混合结构符号和文本的自然语言处理问题,为情感分类领域的发展提供了新思路和新方法。

基于情感倾向和SVM混合极短文本分类模型

随着智能终端设备的不断普及,微博、微信等国内最受欢迎的社交平台等富含情感倾向的中英文混合极短文本数据的信息呈爆发式增长。为了有效提取中英文混合极短文本中的情感倾向等关键特征信息,本文提出了一种基于情感倾向和SVM的极短文本分类模型。首先对原数据进行识别并利用kettle、N-Gram模型对数据进行处理;然后利用TF-IDF提取分类所需要的关键词;再将处理后的数据存入词向量集;最后利用SVM对混合极短文本进行分类。经过K-fold交叉验证,检验了模型的有效性。实验以微博等主流社交平台上的6905条极短文本数据作为样本进行实验与分析。结果表明在分类准确率方面,该方法能够有效提高匹配效率;同时在泛化误差与精确度指标上匹配结果更加均衡。

基于情感词属性和云模型的文本情感分类方法

受语言固有的模糊性、随机性以及传统文本特征词权重值计算方法不适用于情感词等因素的影响,文本情感分类的正确率很难达到传统文本主题分类的水平。为此,提出一种基于情感词属性和云模型的情感分类方法。结合情感词属性和简单句法结构以确定情感词的权重值,并利用云模型对情感词进行定性定量表示的转换。实验结果表明,该方法对情感词权重值计算是有效的,召回率最高达到78.8%,且与基于词典的方法相比,其文本情感分类结果更精确,正确率最高达到68.4%,增加了约9%的精度。

基于类别空间模型的文本倾向性分类方法

在对现有分类方法和文本倾向性分类的复杂性进行分析的基础上,提出了一种基于类别空间模型的文本倾向性分类方法。该方法采用组合特征提取方法,基于词语对类别的倾向性进行分类。实验结果表明该方法有效地提高了倾向性分类的精度和速度。

基于情感角色模型的文本情感分类方法

针对传统情感分类方法因情感项指向不明引发的误判和隐藏观点遗漏等问题,提出一种基于评价对象情感角色模型的文本情感分类方法。该方法首先识别文本中的潜在评价对象,通过局部语义分析对潜在评价对象所在语句进行情感标注,确定潜在评价对象所在语句的正负极性,并定义其情感角色;然后,改进特征权值计算方法,将情感角色对应的倾向值融入模型特征空间中;最后,通过特征聚合对特征空间实现模型降维。实验结果表明,所提方法与提取强主观性情感项作为特征的情感分类方法相比,分类准确率约提高3.2%,可有效改善文本情感分类效果。

文本情感分类中生成式情感模型的发展

描述了生成式模型的概念及它在文本情感分类领域的发展,分析了生成式情感模型的分类,着重研究了不同生成式情感模型之间的关联性,并对生成式模型中最有代表性的三类模型进行了介绍,最后对生成式情感模型发展以及未来趋势进行了总结。

针对文本情感分类任务的textSE-ResNeXt集成模型

针对深度学习方法中文本表示形式单一,难以有效地利用语料之间细化的特征的缺陷,利用中英文语料的不同特性,有区别地对照抽取中英文语料的特征提出了一种新型的textSE-ResNeXt集成模型。通过PDTB语料库对语料的显式关系进行分析,从而截取语料主要情感部分,针对不同中、英文情感词典进行情感程度关系划分以此获得不同情感程度的子数据集。在textSE-ResNeXt神经网络模型中采用了动态卷积核策略,以此对文本数据特征进行更为有效的提取,模型中融合了SEnet和ResNeXt,有效地进行了深层次文本特征的抽取和分类。将不同情感程度的子集上对textSE-ResNeXt模型采用投票集成的方法进一步提高分类效率。分别在中文酒店评论语料和六类常见英文分类数据集上进行实验。实验结果表明了本模型的有效性。

ELMo-CNN-BiGRU双通道文本情感分类模型

文本情感分类通过对带有情感色彩的主观性文本进行分析和推理,帮助用户更好地做出判断与决策。针对传统情感分类模型难以根据上下文信息调整词向量的问题,提出一种双通道文本情感分类模型。利用ELMo和Glove预训练模型分别生成动态和静态词向量,通过堆叠嵌入2种词向量生成输入向量。采用自注意力机制处理输入向量,计算内部的词依赖关系。构建融合卷积神经网络(CNN)和双向门控递归单元(BiGRU)的双通道神经网络结构,同时获取文本局部特征和全局特征。最终将双通道处理结果进行拼接,经过全连接层处理后输入分类器获得文本情感分类结果。实验结果表明,与同类情感分类模型中性能较优的H-BiGRU模型相比,ELMo-CNN-BiGRU模型在IMDB、yelp和sentiment140数据集上的准确率和F1值分别提升了2.42、1.98、2.52和2.40、1.94、2.43个百分点,具有更好的短文本情感分类效果和稳定性。

基于情感特征向量空间模型的中文商品评论倾向分类算法

为了能够快速有效地将中文商品评论识别为好评或差评,提出一种算法。针对不同类别的商品,预先根据其评论语料构建领域情感词典,评论文本与情感词典集匹配提取情感特征,构建情感特征向量空间模型SF-VSM(Sentiment Feature Vector Space Model),解决传统的特征向量空间模型维数较高及特征选择误差问题。然后基于该模型结合改进的多项式朴素贝叶斯方法对评论进行情感倾向分类。实验结果表明,相比分别基于原始特征和基于χ2特征选取的朴素贝叶斯分类算法,该算法分类精度较高且分类速度快。

基于混合特征云向量模型和SVM的文本情感分类

文本信息中存在的模糊性和不确定性在很大程度上影响文本情感观点的准确判定.为了提高文本情感分类准确率,提出基于混合特征云模型和支持向量机的多级文本情感分类算法.首先,将文本的TF-IDF权重特征和词性特征相结合,采用信息增益法选取特征的同时对特征降维;然后,在文档混合特征向量集上生成云向量模型,依据模型间的相似度筛选出相似度较大的R个文档,作为支持向量机的输入.实验结果表明,该算法具有良好的分类准确率,且系统的训练速度有显著的提高.

Mixed-Fisher特征云模型聚类在文本情感分类中的应用

海量网络信息的出现,使得提取文本信息情感观点成为研究的热点。针对文本情感分类中文本信息模糊及分类准确率低的问题,提出了一种基于Mixed-Fisher特征选择的文本云向量模型聚类算法。该算法首先分别计算文档中各个词性特征项的Fisher判别比,根据Fisher判别比越大特征向量判别性越强的Fisher准则,选择Fisher比值较大的前q个特征,并按照词性进行组合生成文档的Mixed-Fisher特征向量。然后在Mixed-Fisher特征向量集上构建文档的云向量模型,根据云向量模型间的差异度对模型进行聚类和合并。将该算法应用于文本情感观点的分类,选择核Fisher判别技术用于最终文本观点的判定。仿真实验结果表明,基于Mixed-Fisher特征的云向量聚类模型的分类准确率明显优于传统向量空间模型,从而验证了核Fisher判别技术的有效性。

改进混合特征模型聚类的文本情感分类算法研究

海量文本信息导致文本情感分类准确率低以及实时性差.针对这一问题,提出一种基于混合特征选择的向量空间模型聚类算法.首先将信息增益(Information Gain,IG)和互信息(Mutual Information,MI)与文档的不同词性特征相结合,生成文档的混合特征向量;然后计算文档向量空间模型之间的差异度,根据该差异度对向量空间模型进行聚类,得到聚类中心向量,采用聚类中心向量重新构造文档集的向量空间模型;最终采用支持向量机(Support Vector Machine,SVM)进行文档情感的判定.仿真实验结果表明:该混合特征向量空间模型聚类算法可以有效地降低文档样本特征的维数和数量,加快SVM的训练速度,同时实验结果也表明不同的词性特征和提取算法组合对系统的分类准确率有较大的影响.

面向心理健康与改进CNN-BiLSTM的文本情感分类研究

传统文本情感极性判断时易忽视外部信息的有效性,进而导致最终分类准确性不高。基于心理健康,构建CNN-BiLSTM-Att文本情感分类模型。首先,构建基于主题模型的BiLSTM和CNN情感分类模型;其次,将BiLSTM和CNN采用并行融合,构建CNN-BiLSTM文本情感分类模型,为提高情感极性词语分类的准确性,引入Attention机制对CNN-BiLSTM模型进行改进;最后,以Stop Words数据集对设计的模型进行实验验证。结果表明,相较于对比模型,研究构建模型性能更优越,可提升情感分类的准确率。

情感文本分类混合模型及特征扩展策略

针对篇章级别情感文本分类问题,分析了传统的生成式模型和判别式模型的性能,提出了一种级联式情感文本分类混合模型以及句法结构特征扩展策略.在该模型中,生成式模型(朴素贝叶斯分类器)和判别式模型(支持向量机)以级联的方式进行组合,旨在消除对于分类临界样本,模型判决置信度不足引起的误差.在混合模型的基础上,提出了一种高效扩展依存句法特征的策略.该策略既提高了系统的正确率,又避免了传统特征扩展方法所带来的计算量增加的问题.实验结果表明,混合模型及特征扩展策略与传统方法相比,在算法准确性和效率上,都有显著的提高.

基于文本纹理特征的中文情感倾向性分类

随着互联网的发展,社交网络、电子商务等已经成为人们关注的焦点,对社交网络的文本进行情感倾向性分析和挖掘变得越来越重要。该文针对网络上的中文文本,提出一种基于文本纹理特征的情感倾向性分类方法。通过测试多种文本纹理特征对文本情感倾向性的影响,成功将文本纹理特征融入情感分类中。通过计算各类特征与文本的情感倾向性的相关度,对特征进行降维。相对于基于词频的情感倾向性分类方法,查准率平均提高了10%左右。

基于文本分类和情感识别的服务类电商满意度研究——以搬家服务为例

基于用户评论数据,本文对电商平台中搬家行业的用户满意度进行了研究。首先,对评论数据进行分词并词频统计,根据高频词汇和专家经验,确定用户关注的5个方面;其次,将评论数据分割成短句,采用细调后的分类模型对短句进行分类、计算情感分值,确保每个短句清晰地反映一个方面的情感;最后,根据各短句的分值计算出评论语句的所属方面和整体情感分值,最终得到用户满意度。该方法不仅有效地解决了评论文本中包含多个方面情感、混淆不清的问题,还采用了目前自然语言处理技术中最领先的方法,得到了更高精度的情感分值。研究发现了搬家行业中各方面存在的问题,并提出了改进的建议和策略,以期为搬家行业的健康发展和有序监管提供思路和借鉴。

基于LSTM前融合中文情感倾向分类模型的研究

在互联网平台上,用户可以针对电影、新闻等发表自己的观点、表达自己的情感,为其他用户提供消费该商品的参考意见,也帮助产品经理制定有效的产品消费策略。目前,针对中文情感倾向分类、深度学习的方法取得了一定的成就,尤其是长短期记忆神经网络(LSTM)。该网络是一个时序模型,可以很好地理解评论语义抓住评论中蕴含的情感倾向,但是它存在词向量构建阶段无法突出情感词的情感信息,以及无法针对不同场景进行文本情感倾向分析的问题。为此,提出LSTM前融合情感倾向分类模型。新模型利用情感词的情感标签修正情感词向量,解决了情感词向量无法突出情感信息的问题,并且将电影的简介作为一个输入特征融合到最终句子的特征向量中,实现针对具体的电影新闻场景评论情感倾向分类。实验结果表明,新模型相对于基本的LSTM模型取得了更好的效果,亦表明该模型能更加精确地抓取评论的情感信息。

基于双向预训练语言模型的文本情感分类

针对Word2vec和GloVe等词嵌入方法无法学习相同词汇在不同上下文中的一词多义,以及单向语言模型的特征融合能力较弱的问题,提出一种基于双向预训练语言模型的文本情感分类方法。在大型通用语料库上利用双向Transformer语言模型进行无监督的训练,得到预训练语言模型。在预训练语言模型的输出层上添加一层softmax网络,并在文本情感分类的任务语料上微调模型,利用该模型进行文本情感分类。实验结果表明,该方法在SST-2和Yelp14数据集上分类的准确率分别提高了1.8%和1.4%,有效地提高了情感分类准确率。