基于MacBERT和标签平滑的新冠疫情公众情感分析研究

针对BERT预训练与下游任务微调阶段存在不匹配差异,以及人工对文本数据进行情感倾向性标注可能存在误差的问题,提出一种基于MacBERT和标签平滑的网络模型(MacLMC).首先,在BERT的基础上引入MLM as correction策略,利用近义词替换被掩码词,通过MacBERT预训练模型获取词向量;其次,经过双层LSTM学习长距离依赖;再次,采用双通道多卷积核的卷积操作,分别提取信息的最大特征和均值特征;最后,利用标签平滑策略降低模型预测类别的概率,提升模型对于标签的容错能力,提高模型泛化性.实验结果表明:与现有主流模型相比,本文模型在多种数据集上性能表现更佳,能够更好地用于新冠疫情公众情感分析任务.

基于双语信息和标签传播算法的中文情感词典构建方法

文本情感分析是目前自然语言处理领域的一个热点研究问题,具有广泛的实用价值和理论研究意义。情感词典构建则是文本情感分析的一项基础任务,即将词语按照情感倾向分为褒义、中性或者贬义。然而,中文情感词典构建存在两个主要问题:1)许多情感词存在多义、歧义的现象,即一个词语在不同语境中它的语义倾向也不尽相同,这给词语的情感计算带来困难;2)由国内外相关研究现状可知,中文情感字典建设的可用资源相对较少。考虑到英文情感分析研究中存在大量语料和词典,该文借助机器翻译系统,结合双语言资源的约束信息,利用标签传播算法(LP)计算词语的情感信息。在四个领域的实验结果显示我们的方法能获得一个分类精度高、覆盖领域语境的中文情感词典。

基于神经网络融合标签相关性的多标签情感预测研究

近年来,多标签分类任务(MLC)受到了广泛关注。传统的情感预测被视为一种单标签的监督学习,而忽视了多种情感可能在同一实例中共存的问题。以往的多标签情感预测方法没有同时提取文本的局部特征和全局语义信息,或未考虑标签之间的相关性。基于此,该文提出了一种基于神经网络融合标签相关性的多标签情感预测模型(Label-CNNLSTMAttention,L-CLA),利用Word2Vec方法训练词向量,将CNN和LSTM相结合,通过CNN层挖掘文本更深层次的词语特征,通过LSTM层学习词语之间的长期依赖关系,利用Attention机制为情意词特征分配更高的权重。同时,用标签相关矩阵将标签特征向量补全后与文本特征共同作为分类器的输入,考察了标签之间的相关性。实验结果表明,L-CLA模型在重新标注后的NLP&CC2013数据集上拥有较好的分类效果。

网购农产品评论中的消费者情感标签抽取方法研究

以电子商务平台中的网购农产品在线评论为对象,研究抽取消费者在其评论文本中表达出的情感标签方法。首先对网购农产品评论进行分词和词性标注,其次采用TF-IDF特征抽取方法对评价对象和评价词进行关键词过滤再利用PMI计算出各个关联词的共现性,根据用户评分建立规则判断情感词倾向性,从而最终获得情感标签集合。利用网络抓取的网购农产品评论语料作为测试数据对情感标签集进行测试,获得较高的抽取准确率和召回率,表明这种方法可以有效地抽取农产品评论中的消费者情感,具有较好的领域适应性。

基于多视角多标签学习的读者情绪分类

传统的读者情绪分类主要从情感分析的角度出发,着重考量读者评论中体现出来的情感极性。然而现实中,读者评论的缺失有可能影响情绪分类的有效性和及时性。如何融合包括新闻文本和评论在内的多视角信息,对读者情绪进行更加准确的研判,成为了一个具有挑战性的问题。针对这一问题,构建了一种融合多视角信息的多标签隐语义映射模型(Multi-view Multi-label Latent Indexing,MV-MLSI),将不同视角下的文本特征映射到低维语义空间,同时建立特征和标签之间的映射函数,通过最小化重构误差对模型进行求解,并设计了相关算法,从而实现对读者情绪的有效预测。相比于传统模型,该模型不仅可以充分利用多视角的信息,而且考虑了标签之间的相关性。在新闻文本数据集上的实验表明,该方法可以获得更高的准确率和稳定性。

基于情绪词与情感词协作学习的情感分类方法研究

情感分类任务旨在自动识别文本所表达的情感色彩信息(例如,褒或者贬、支持或者反对)。提出一种基于情绪词与情感词协作学习的情感分类方法:在基于传统情感词资源的基础上,引入少量情绪词辅助学习,只利用大规模未标注数据实现情感分类。具体来讲,基于文档-单词二部图的标签传播算法框架,利用情绪词与情感词构建两个视图,通过协作学习的方法从大规模未标注语料中抽取高正确率的自动标注样本作为训练数据,然后训练分类器进行情感分类。实验表明,该方法在多个领域的情感分类任务中都取得了较好的分类效果。

基于上下文语境的微博情感分析

传统情感分析方法仅考虑单一文本,对长度短小且口语化严重的微博文本情感极性识别率较低。针对上述问题,提出一种结合上下文消息的情感分析方法。将微博情感分析问题看做标签序列学习任务,使用隐马尔可夫支持向量机把微博上下文语境融人微博情感分析问题中。实验结果表明,该方法较之于基于朴素贝叶斯或支持向量机的微博情感分析模型可以更好地分析微博情感极性。

基于层叠CRFs模型的句子褒贬度分析研究

本文研究句子的褒贬度分析问题。针对传统的基于分类的句子褒贬度分析方法不能考虑上下文信息的问题,以及基于单层模型的句子褒贬度分类方法中的由于标记冗余引起的分类精度不高问题,本文提出了基于层叠式CRFs模型的句子褒贬度分析方法。该方法利用多个CRFs模型从粗到细分步地判断句子的褒贬类别及其褒贬强度,其中层叠式框架可以考虑句子褒贬类别与褒贬强度类别之间的层级冗余关系,而CRFs模型可以利用上下文信息对于句子褒贬类别和强度的影响。该方法在有效识别句子褒贬度的同时,提高了句子褒贬强度判别的准确度。实验证明相对于传统分类方法和单层CRFs模型,本文的方法取得了良好的效果。

基于补全矩阵的多标签相关性情感分类

目前,对新闻情感分类问题的研究大部分是从新闻作者的角度进行的,而对读者反馈的真实情感分析的较少.本文从读者角度入手进行情感分析研究.提出一种基于补全矩阵的多标签相关性情感分类模型,采用LDA提取主题表示新闻文本,然后通过使用标签相关性矩阵对原始的标签矩阵进行补全,构造了一个增强的补全标签矩阵模型(CM-LDA).最后通过和原始矩阵的LDA模型进行比较,该模型使最终的多标签分类性能有了明显的提高,准确率达到了85.72%.

基于五元模型的中文句子情感倾向性判断

针对中文句子情感倾向性判断问题,提出一种五元表示模型,给出句子级文本情感倾向性判断的定义及其主要任务,通过标注词性、制定句子情感倾向性判断规则,对具有代表性的特定句型进行分析。实验结果表明,与常用的支持向量机方法相比,该方法能够使句子情感倾向性判断更全面客观。

面向半监督情感分类的特征选择方法研究

特征选择旨在降低高维度特征空间,进而简化问题和优化学习方法。已有的研究显示特征提取方法能够有效降低监督学习的情感分类中的特征维度空间。同以往研究不一样的是,该文首次探讨半监督情感分类中的特征提取方法,提出一种基于二部图的特征选择方法。该方法首先借助二部图模型来表述文档与单词间的关系;然后,结合小规模标注样本的标签信息和二部图模型,利用标签传播(LP)算法计算每个特征的情感概率;最后,按照特征的情感概率进行排序进而实现特征选择。多个领域的实验结果表明,在半监督情感分类任务中,基于二部图的特征选择方法明显优于随机特征选择,在保证分类效果不下降(甚至提高)的前提下有效降低了特征空间维度。

主观性句子情感倾向性分析方法的研究

随着电子商务的飞速发展,用户评论信息对潜在顾客、商家和商品生产商的影响越来越大。由于在线的评论信息十分海量,所以很难通过人工浏览方式进行全面获取。评论句子往往具有很强的主观性,本文提出了整体方案帮助解决评论信息的获取、处理和可视化显示。通过利用词语的相似性计算方法和字的情感倾向分布概率计算方法,实现了极性词典的倾向值量化计算和极性词典的自动扩展。通过利用语义角色标注实现对评论句子的浅层语义分析,并利用统计结果设计出计算句子细粒度情感倾向值的方法。实验结果证明,基于语义角色标注方法比基于词性标注方法在句子细粒度情感倾向值计算中更有效。

基于多重冗余标记CRFs的句子情感分析研究

本文提出了一种基于多重冗余标记的CRFs并将其应用于情感分析任务。该方法不仅能够有效地解决有序标记的分类问题,还能够在保证情感分析中各子任务能够使用不同特征的前提下,将情感分析中的主客观分类、褒贬分类和褒贬强弱分类任务统一在一个模型之中,在多个子任务上寻求联合最优,制约分步完成时误差的传播。实验证明,该方法有效地提高了句子情感分析任务的准确率。在理论上,该方法也为基于最大似然训练的算法解决序回归问题提供了一条途径。

面向短文本情感分析的多特征融合方法研究

近年来,深度学习技术被广泛应用于文本情感分析任务中.目前,大量的研究使用不同类型的神经网络从文本词向量中学习和提取情感特征.针对单一文本词向量无法全面表示文本中的情感特征信息,并且难以有效捕获文本和标签之间的联系,提出了一种基于多特征融合的短文本情感分析模型,该模型针对短文本自身特性构建多种情感特征组合(词特征+情感符号特征+词性特征、词特征+情感符号特征、情感标签特征)形成多输入矩阵,接着将其输入到多通道卷积神经网络(multichannel convolutional neural netw orks,M CNN)中提取情感特征,最后完成情感分类,整个模型简称M F-M CNN(M ulti-feature Fusion based on M CNN).M F-M CNN能够从多特征矩阵中学习到句子更全面的情感信息,情感分类能力得到有效提升.M F-M CNN模型在SemEval2017数据集(英文)和NLPCC2014数据集(中文)上完成与传统分类器和目前先进的模型共7种模型的对比,实验结果证明MF-MCNN具有更高的准确率和较低的训练时间代价.

基于多类别语义词簇的新闻读者情绪分类

分析和研究文本读者情绪有助于发现互联网的负面信息,是舆情监控的重要组成部分。考虑到引起读者不同情绪主要因素在于文本的语义内容,如何抽取文本语义特征因此成为一个重要问题。针对这一问题,提出首先使用word2vec模型对文本进行初始的语义表达;在此基础上结合各个情绪类别分别构建有代表性的语义词簇,进而采用一定准则筛选对类别判断有效的词簇,从而将传统的文本词向量表达改进为语义词簇上的向量表达;最后使用多标签分类方法进行情绪标签的学习和分类。实验结果表明,该方法相对于现有的代表性方法来说能够获得更好的精度和稳定性。

产品评论中领域情感词典的构建

领域情感词典是情感分析最重要的基础。由于产品评论的数量巨大、领域众多,如何自动构建领域情感词典已经成为近年来的一个研究热点。该文提出了一个两阶段的领域情感词典构建算法。第一阶段,利用情感词间的点互信息和上下文约束,使用基于约束的标签传播算法构造基本情感词典;第二阶段,根据情感冲突的频率来识别领域相关情感词,并根据其上下文约束以及修饰的特征完善领域情感词典。实验结果表明,该方法在实际产品评论数据集上取得了较好的效果。

基于种子词的微博表情符情感倾向判定方法

情感倾向明显的表情符,容易通过人工进行标注。但是对于情感倾向不明显的表情符,多人手工的标注结果往往难以达成一致。因此,提出一种利用种子词自动判定表情符情感倾向的方法。该方法利用少量种子表情符自动标注情感倾向比较明显的表情符,生成表情符标注集;对于情感倾向不明显的表情符,利用种子情感词和已得到的表情符标注集构建模型,实现其情感倾向的自动判定。实验结果表明,本文方法在微博表情符情感倾向的自动判定上有很好的效果。

基于CRFs的评价对象抽取特征研究

评价对象是情感分析中情感信息的一个重要组成部分。该文基于条件随机场模型,研究多种特征在评价对象抽取任务中的表现,并将特征归纳为词法、依存关系、相对位置、语义四大类别。其中,重点引入语义角色标注新特征。在实验中,我们在三个不同的数据集上考查了各个特征及其组合对系统性能的影响,作了详细地比较研究。另外,实验结果表明新提出的语义角色标注特征对评价对象抽取有很好地指示作用。

基于标签传播的情感词典构建方法

传统情感词典构建方法存在依赖语义知识库、覆盖率有限、领域适应性差等问题。为此,提出一种利用语料库来构建情感词典的方法。该方法选取情感种子词,在语料上训练Word2Vec词向量来选取与种子词相似度高的词语作为候选情感词,并在语料上分析与种子词具有连词关系的词语作为候选情感词。通过种子词和候选情感词之间的相似度构建语义关联图,使用标签传播算法计算情感词的极性,从而构建情感词典。实验结果表明,与基线方法相比,该方法能获得较高的准确率和较好的鲁棒性。

基于改进型神经网络的影评文本情感分析算法

考虑到电影影评上下文信息带有固有的属性特征和语序不合理性等特点,提出CRCNN模型进行文本情感分析。为了减少噪音数据对分析的影响,对卷积神经网络进行改进,在输入层和卷积层之间引入了权重分布层对重要部分进行分析,减少噪音,使处理的特征得到提升。在卷积层中使用梯度下降法来求解训练参数时会引起梯度弥散或爆炸,为了解决此问题引入了门控机制。最后引入序列标注层,同时和神经网络学习的语义特征进行整体的优化求解。另外,利用字粒度词向量为特征,解决了歧义词的切分的同时学习到更加具体的特征。实验结果表明,利用该模型进行影评分析的效果明显好于其它几种模型。