融合词性特征的深度迁移学习商品评论情感分析

情感分析是文本分类的研究方向,深度迁移学习通过学习目标领域数据和已有领域数据之间的相关度,提高当目标数据不足时文本分类的精度。从基于网络迁移的角度设计算法,首先使用Word2vec+词性特征词向量表示,然后进行卷积神经网络文本分类,再将训练好的模型共享网络参数,迁移至跨域商品评论数据,训练、分类评论数据。实验证明,在小样本数据集中算法精度有明显提升。

试论动、名词性特征在动名词中的转化

摒弃对英语动名词的传统研究,揭示了动名词的动态性质,即动、名词特征在动名词中的转化。认为在某种意义上,其名词性的加强导致动名词在动、名两个词类的边缘发挥作用。

基于词性特征与句法分析的商品评价对象提取

针对中文在线评论中语言不规范以及多样性导致评价对象识别错误的问题,提出基于词性特征与句法分析的商品评价对象提取方法。根据中文语言特点,利用形容词、副词、动词的词性特征构建规则提取评价词。通过子句序列的句法树结构提取候选评价对象并进行过滤。基于核心句法路径筛选评价搭配,以减少提取过程中引入的评价对象以及评价词噪声,从而提取出真正的评价对象。实验结果表明,引入句法树结构与核心句法路径使得商品评价对象识别的F值达到80%以上。

论拟声词的实词性特征

现代汉语里的拟声词是一个特殊的词类 ,由于其自身的特殊性 ,对于拟声词到底是实词还是虚词 ,目前还是众说纷纭 ,尚无定论。从句法功能、词汇和语法意义、所表示的概念及审美功能诸方面进行分析 。

基于词性特征的CNN_BiGRU文本分类模型

传统词嵌入通常将词项的不同上下文编码至同一参数空间,造成词向量未能有效辨别多义词的语义;CNN网络极易关注文本局部特征而忽略文本时序语义,BiGRU网络善于学习文本时序整体语义,造成关键局部特征提取不足。针对上述问题,提出一种基于词性特征的CNNBiGRU文本分类模型。引入词性特征构建具有词性属性的词性向量;将词性向量与词向量交叉组合形成增强词向量,以改善文本表示;采用CNN网络获取增强词向量的局部表示,利用BiGRU网络捕获增强词向量的全局上下文表示;融合两模型学习的表示形成深度语义特征;将该深度语义特征连接至Softmax分类器完成分类预测。实验结果表明,该模型提高了分类准确率,具有良好的文本语义建模和识别能力。

现代英语个体表量词名词性特征内部差异研究

本文基于第三代语料库和功能对等理论、英汉对等表达的不同研究对英语个体表量词名词的特征内部差异进行动态追踪,对语言的发展变化进行对比和监测。研究发现,名词性内部差异在单数与复数的变异、词汇与句法、名词组合等具体方面存在不同;名词性内部差异如数量集合单位的表达、长短句存在不同表达。

医学院校学生英语心理词汇构成的词性特征研究

本研究以医学院校学生心理词汇构成为对象,从词性视角出发,选择东北某医学院校150名非英语专业学生作为被试者,利用词汇联想测试获取实验数据,分析其心理词汇的词性特征。通过整体分析、差异比较及相关分析等,考察医学院校学生心理词汇的构成及联结机制。研究发现:(1)医学院校EFL学习者心理词汇的词性分块组织特征明显;(2)名词是学习者心理词汇构成的主体,动词和形容词所占比例相对较小。

融合词性特征的基于BiGRU-Attention的影评分类研究

笔者提出了一种结合词性特征与注意力机制的双向门控循环神经网络分类模型。使用文本词性特征,提升了模型深入挖掘上下文之间隐含特征的能力,降低了噪音文本对模型的干扰。在隐层增加注意力机制,为隐层输入的特征分配相应概率权重,提升重要隐层特征的关注度。此分类模型的准确率为91.36%,相比于原模型BiGRU,提升近3个百分点,有显著改进效果。

联合词性特征的微博文本命名实体识别

微博文本语法不规范且多由短语组成,严重影响了现有针对规范、长句文本设计的命名实体识别算法的性能.针对上述问题,本文提出了一种融合词性信息的微博文本命名实体识别模型.该模型通过分词工具提取词性信息,将词性信息作为特征与单词嵌入向量结合后输入双向长短期记忆神经网络,最后使用条件随机场对神经网络输出进行解码,从而实现词性特征辅助命名实体识别.实验结果表明,融合词性信息的命名实体识别模型,显著提高了微博文本命名实体识别的准确率.相比于其它模型,该模型F1值提高了1.88%.

融合词性位置特征的多任务汉老双语短文本相似度计算方法

老挝语属于低资源语言,在有限的语料中获取更多的语义信息可以有效解决汉语和老挝语短文本相似度计算不准确的问题。多任务学习是有效获取语义信息的一种方法,该文对汉语和老挝语短文本特点进行研究后,提出一种融合词性位置特征的多任务汉老双语短文本相似度计算方法:首先,通过词性位置特征权重和TF-IDF权重加权表征双语短文本的同时,使用改进后的TextRank算法获取双语短文本的核心句;然后,通过带有自注意力机制的双向长短时记忆网络分别计算双语短文本的相似度与双语短文本对应核心句的相似度;最后,使用多任务学习方法,将双语短文本的核心句相似度计算作为辅助任务,获取更多的语义信息进行共享以提升汉老双语短文本相似度计算模型的性能。实验结果表明,该文提出的方法在有限的训练语料下取得了更好的效果,F_(1)值达76.16%。

融合词性句法位置特征的汉老双语句子相似度计算

汉语和老挝语句子表达存在较大的词序差异,在汉老平行句对语料中融入名词、形容词、量词、数词等词性的位置特征能有效提高句子相似度量的准确性。该文提出一种基于词性句法位置特征的相似度计算方法,首先向汉老双语句子添加特征词标签和特征词性标签使得句子的分布式表示包含更丰富的语义信息,然后利用含有自注意力机制(Self-Attention)的3个不同卷积核尺度的门控线性卷积网络(GCN)和双向长短时记忆网络(BiLSTM)分别挖掘汉老双语句子的深层语义信息,将两个网络输出的特征语义向量拼接,最后计算特征语义向量的相对差和相对积,将二者拼接并输入到全连接层得到汉老双语句子的相似度分数。实验结果表明,该文提出的方法在有限的语料下取得了更好的效果,F_1值达到了77.19%。

基于SVM的以词性和依存关系为特征的句子倾向性判断分析

将句法平面词的词性特征、依存关系、依存关系中的词性特征、邻接依存关系、邻接依存关系中的词性特征与倾向性词汇和倾向性搭配作为支持向量机(SVM)分类器的特征集,以句子为单位对多个领域的文本进行倾向性判断.通过交叉验证的方式,估计出分类器的精度为95.6%,据此提出句子倾向性分析可不以句子倾向性判断为前提.

融合内容特征与传播特征的微博文本情感分类

基于Word2vec的文本向量化表示方法未充分考虑微博文本的内容特征与传播特征,导致文本向量化表示欠佳,且采用单个机器学习算法进行情感分类的精度不高。提出一种融合文本中表情符号,词的语义、词性与情感等内容特征,评论、转发与点赞数等传播特征,共同构建蕴含丰富语义与情感信息的文本特征向量。根据各基分类器在训练数据集上的性能表现设置不同权重,并与类概率向量相乘,保留最大、最小与平均加权概率值,同时结合原始文本特征向量作为元分类器的输入数据以改进原Stacking算法,进行微博文本情感分类。在微博数据集上的实验结果表明:本文方法能更好地表示文本向量,以加权方式改进的Stacking集成学习分类器优于单个分类器;相较于其他情感分类方法,本文方法的准确率提升1.75%~4.90%。

基于ELECTRA模型与词性特征的金融事件抽取方法研究

【目的】针对金融事件抽取中金融事件实体边界模糊、抽取不准确的问题,提出基于预训练模型ELECTRA和词性特征的金融事件抽取方法。【方法】为增强模型对金融关键实体的感知力,充分考虑语料原始的语义信息以及词性特征信息,将语料分别通过两个ELECTRA预训练模型后进行融合操作,达到增强语义的效果;将学习到的信息传入BiGRU中,获取上下文长距离的语义依赖,输出原始的序列标签;利用CRF克服标签偏差问题,通过上述步骤完成金融事件抽取。【结果】基于预训练模型ELECTRA和词性特征的金融事件抽取方法在金融事件数据集上F1值达到70.96%,比经典的抽取模型BiLSTM-CRF性能提升20.74个百分点。【局限】数据集中事件数较少,预训练模型体积较大,会受到GPU/TPU内存的限制。【结论】本文模型能够更加全面地捕捉金融事件元素之间的联系,提升金融事件抽取的效果。

融合词性与双向时间卷积网络的中文命名实体识别方法

针对目前中文命名时实体识别方法中存在的中文边界识别困难、模型梯度、文本特征不够充分等问题,提出了一种融合词性特征与双向时间卷积网络的中文命名时实体识别模型。该模型提出使用XLNet预训练语言模型生成对应的词嵌入表示,融合后使用双向时间卷积网络提取文本前向特征与后向特征。实验中对时间卷积网络的空洞因子、卷积层数和卷积核数进行参数实验并分析其影响原因,结果表明,该模型与其他模型相比,能够更准确且有效地提取文本中的实体。

Mixed-Fisher特征云模型聚类在文本情感分类中的应用

海量网络信息的出现,使得提取文本信息情感观点成为研究的热点。针对文本情感分类中文本信息模糊及分类准确率低的问题,提出了一种基于Mixed-Fisher特征选择的文本云向量模型聚类算法。该算法首先分别计算文档中各个词性特征项的Fisher判别比,根据Fisher判别比越大特征向量判别性越强的Fisher准则,选择Fisher比值较大的前q个特征,并按照词性进行组合生成文档的Mixed-Fisher特征向量。然后在Mixed-Fisher特征向量集上构建文档的云向量模型,根据云向量模型间的差异度对模型进行聚类和合并。将该算法应用于文本情感观点的分类,选择核Fisher判别技术用于最终文本观点的判定。仿真实验结果表明,基于Mixed-Fisher特征的云向量聚类模型的分类准确率明显优于传统向量空间模型,从而验证了核Fisher判别技术的有效性。

引入词性标记的基于语境相似度的词义消歧

目前的语境向量模型在对语义空间建模的时候,没有考虑到同一个词的不同词性具有不同的含义,将它们看作同一个点进行建模,导致得到的语境向量质量不高,使用这种语境向量计算语境相似度效果不好。针对该类问题,提出了一种加入词性特征的语境向量模型,加入词性后,可以将原本用语义空间中一个点表示的几个语义区分出来,得到质量更好的语境向量和语境相似度,进而得到更好的消歧效果。实验结果表明,这种建模方式可以有效区分不同词性的语义,在2004年的Senseval-3测试集上进行测试,准确率达到了75.3%,并在SemEval-13和SemEval-15公开测试集上进行了测试,消歧效果相比未引入词性特征的模型均得到了提升。

基于多特征的关键词抽取算法

互联网技术的快速发展导致信息爆炸式的增长。因此,在海量信息中查找关键信息变得非常困难,关键信息的提取技术就变得愈加重要,该关键信息通常表现为关键词。针对该问题,文章设计了一种无监督的关键词抽取算法,无需训练文档,根据候选词的统计特征和词性特征等直接从单个文档中提取关键词。实验表明,算法所提取的关键词优于现有算法所获取的关键词,同时,该算法的时间效率也优于现有的算法。

中文名词性谓词语义角色标注

研究了中文名词性谓词的语义角色标注(semantic role labeling,简称SRL).在使用传统动词性谓词SRL相关特征的基础上,进一步提出了名词性谓词SRL相关的特征集.此外,探索了中文动词性谓词SRL对中文名词性谓词SRL的影响,并且联合谓词自动识别实现了全自动的中文名词性谓词SRL.在中文NomBank上的实验结果表明,中文动词性谓词的SRL合理使用能够大幅度提高中文名词性谓词的SRL性能;基于正确句法树和正确谓词识别,中文名词性谓词的SRL性能F1值达到了72.67,大大优于目前国内外的同类系统;基于自动句法树和自动谓词识别,性能F1值为55.14.

名词动用现象及其与体词性谓语的区别

体词性谓语现象是一种语言现象。句子结构内不存在形态上的主谓一致关系制约是汉语存在体词性谓语句的外在条件,是否具有潜在的谓词性特征则是体词性词语直接充任谓语的内在动因;此外,语用因素的作用也可能导致部分体词性谓语句的出现。“名词动用”现象中被临时用作“动词”的名词本身并不内含谓词性特征,因此该现象的出现是词语在话语或篇章层面上形成的一种临时的功能变异,是语境因素、特殊的交际需要以及特殊句法手段的运用等多方面因素综合作用的结果,属于一种言语活动现象。