基于概念依存图理论研究机械产品设计任务书的功能抽象表达

提出了用节点表达概念 ,弧描述概念之间关系的概念依存图理论来表达产品任务书中的要求 ,开发了四个准则。借此方法对用自然语言表达的产品任务书中定性与定量元素进行识别 ,查找遗失的信息 ,组合单个元素进入全局的概念依存图中 ,最终为计算机实现机械产品功能的抽象表达提供一条可行的方法 。

基于语义依存图库的兼语句句模研究

句子语义分析是语言研究深入发展的客观要求,也是当前制约语言信息处理技术深度应用的主要因素。在探索深层语义分析方法的基础上,该文根据汉语的特点,提出了一整套语义依存图的构建方法,并建立了一个包含30 000个句子的语义依存图库。以兼语句为重点研究对象,该文研究了语料库中所有纯粹的兼语句所对应的句模情况,进而试图构建基于语义依存图的句模系统,总结句型和句模的映射规则,从而为更好的建立语义自动分析模型提供相应的知识库。

基于依存图网络的汉越神经机器翻译方法

汉越神经机器翻译是典型的低资源翻译任务,由于缺少大规模的平行语料,可能导致模型对双语句法差异学习不充分,翻译效果不佳。句法的依存关系对译文生成有一定的指导和约束作用,因此,该文提出一种基于依存图网络的汉越神经机器翻译方法。该方法利用依存句法关系构建依存图网络并融入神经机器翻译模型中,在Transformer模型框架下,引入一个图编码器,对源语言的依存结构图进行向量化编码,利用多头注意力机制,将向量化的依存图结构编码融入到序列编码中,在解码时利用该结构编码和序列编码一起指导模型解码生成译文。实验结果表明,在汉越翻译任务中,融入依存句法图可以提升翻译模型的性能。

基于情感增强和语义依存的金融隐式情感分析模型

金融情感分析是一种判断金融文本的情感倾向性的技术,广泛应用于舆情分析和监管协调等方面。由于金融领域文本中包含隐式情感信息,难以根据情感特征直接判定情感极性。针对这一问题,提出一种基于情感增强和语义依存的金融隐式情感分析模型(FSED),以期提高分类的准确率。首先,采用FinBERT生成词向量,并输入到Bi-GRU提取上下文语义信息,通过嵌入积极和消极情感词向量构建两极注意力机制,用于分别提取2种语境下的情感特征向量;然后,根据文本的语义依存图建立依存关系和关系类型矩阵,结合2种矩阵和top-k策略构建选择注意力矩阵,再输入到图卷积网络来提取文本的语义依存特征;最后,融合情感增强和语义依存的特征,并使用平均池化和最大池化层对特征进行压缩,经全连接层和Softmax获得分类结果。实验结果表明,相较于A-GCN,FSED可以提升金融领域隐式情感分析的准确率。

基于依存关系图的汉语话语标记可解释性识别研究

自然口语中话语标记的研究对言谈互动、话语理解、情感分析、人机对话和口语机器翻译具有重大意义.为实现话语标记的自动识别,该文基于依存语法理论,分析判定话语标记的句法依存关系、语义依存关系、话轮位置以及共现成分的语义与功能信息.针对人工智能深度学习方法缺乏原理和语义上的解释性问题,运用朴素贝叶斯、决策树、大规模线性支持向量机以及贝叶斯网络四种解释性强的机器学习方法,对话语标记进行识别对比实验.研究结果表明,贝叶斯网络识别准确率可达92.3%,验证了该研究结论的可行性和有效性.

基于图卷积网络融合依存信息的事件检测方法

句子级别细粒度的事件检测任务旨在对触发词进行识别与分类。针对现有事件检测方法中存在的过度平滑及缺乏依存类型信息的问题,提出了一种基于图卷积网络融合依存信息的事件检测方法。该模型首先使用双向长短期记忆网络对句子进行编码,同时根据依存分析构建多阶句法图和依存句法图;然后利用图卷积网络融合句子的依存信息,从而有效地利用多跳信息和依存标签信息。在自动文本抽取数据集上进行实验,在触发词识别和分类这两个子任务中分别取得了81.7%和78.6%的F 1值。结果显示,提出的方法能更加有效地捕获句子中的事件信息,提升了事件检测的效果。

融合BiLSTM的双图神经网络文本分类模型

采用图神经网络模型为整个语料库构建异构图处理文本分类任务时,存在难以泛化到新样本和词序信息缺失的问题。针对上述问题,提出了一种融合双图特征和上下文语义信息的文本分类模型。首先,为每个文本独立构建共现图和句法依存图,从而实现对新样本的归纳式学习,从双图角度捕获文本特征,解决忽略单词间依存关系的问题;其次,利用双向长短期记忆网络(bidirectional long short-term memory,BiLSTM)编码文本,解决忽略词序特征和难以捕捉上下文语义信息的问题;最后,融合双图特征,增强图神经网络模型的分类性能。在MR,Ohsumed,R8,R52数据集上的实验结果表明,相较于经典的文本分类模型,该模型能够提取更丰富的文本特征,在准确率上平均提高了2.17%,5.38%,0.61%,2.48%。

语义增强的图神经网络方面级文本情感分析

方面级情感分析是一种细粒度文本情感分析技术,可以判断文本目标方面的情感倾向,被广泛应用于商品评价、教育评价等领域,可以辅助用户更全面地了解实体属性并做出精准决策。但是现有方面级情感分析技术大多存在文本句法依存关系特征以及外部知识特征提取不充分的问题,为此,利用图卷积神经网络可以处理异构数据的特点,构建一种语义增强的方面级文本情感分析模型。将文本的词嵌入向量输入双向门控循环神经网络以提取文本和目标方面词的上下文语义信息,依据句法依存关系类型构建加权句法依存图,根据文本单词和外部知识库构建知识子图,使用图卷积神经网络处理加权句法依存图和知识子图,从而获取融合文本句法结构信息的文本特征和体现外部知识信息的目标方面特征,在此基础上,拼接两组特征向量完成情感极性分类。实验结果表明,在Laptop14、Restaurat14和Restaurat15数据集上,该模型的F1值分别达到77.34%、76.58%和68.57%,相比ATAELSTM、TD-LSTM、ASGCN等基线模型,其F1值分别平均提高7.28%、5.71%和6.28%,所提模型通过提取文本句法依存关系特征以及外部知识特征获得了更好的情感分析性能。

基于图依存分析的情感原因对抽取任务

情感原因对抽取是情感分析任务中的子任务,旨在抽取出给定文档中的所有情感子句以及引起该情感所对应的原因子句。先前的研究在生成情感子句与原因子句表示时忽略了情感子句与原因子句之间的相互联系。为了解决上述问题,基于图依存分析的思想并融入了图注意力机制,提出了GAT-ECPE模型。该模型在获取到情感子句表示与原因子句表示时,将句向量作为节点输入图注意力层从而学习到子句之间关系的信息,而后进行双仿射映射得到情感原因对的编码表示。并且设置了多任务来将情感抽取与原因抽取任务建立联系。在ECPE数据集上的实验结果证明,该模型相较于先前的一系列模型,在评估指标上有所提升。

一种基于依存句法图的中文实体关系抽取模型

针对中文关系抽取中的数据稀疏和数据噪声问题,提出了基于最短依存路径的图卷积神经网络(DSP-GCN)模型。在输入层使用BERT模型对文本进行表示学习,更好地表达文本的语义,减少文本噪声的产生和传播;对于长文本实体间距离较长而导致的梯度消失问题,使用句法依存图对模型进行改善,以提高模型的抽取效果。在SemEval 2010和人物关系语料集上进行了实体关系抽取实验,验证了所提出模型的有效性。

基于图注意力网络的因果关系抽取

因果关系作为一种重要的关系类型在关系推理等许多领域中起着至关重要的作用,因此对因果关系进行抽取是文本挖掘中的一项基本任务.与传统文本分类方法或关系抽取不同,采用序列标注的方法可以抽取文本中的因果实体并确定因果关系方向,不需要依赖特征工程或因果背景知识.主要贡献有:1)拓展句法依存树到句法依存图,将图注意力网络应用到自然语言处理中,引入了基于句法依存图的图注意力网络的概念;2)提出Bi-LSTM+CRF+S-GAT因果关系抽取模型,根据输入的词向量生成句子中每个词的因果标签;3)对SemEval数据集进行修正与拓展,针对其存在的缺陷制定规则重新标注实验数据.在拓展后的SemEval数据集上进行了大量的实验,结果表明:该模型在预测准确率上比现有最优模型Bi-LSTM+CRF+self-ATT提高了0.064.

中文非投射语义依存现象分析研究

汉语是一种语序灵活的语言,句子变式很多,基于传统依存树的投射现象还不能很好解决某些句式的语义理解问题。文章以10 000个句子的汉语语义依存图库为基础,验证并明确了汉语非投射现象的客观存在性,考察了汉语句子中存在的非投射现象,并从语言学和句子深层语义理解的角度对非投射现象进行了归纳和解释。文章总结了7类出现非投射现象的情况,包括小句宾语句、比较句、主谓谓语句、紧缩复句、代词、动补谓语句以及注释短语或复句。这对于自动语义依存标注有重要的指导作用。

基于图神经网络的联合实体关系抽取

从非结构化文本中联合提取实体和关系是信息抽取中的一项重要任务。现有方法取得了可观的性能,但仍受到一些固有的限制,如错误传播、预测存在冗余性、无法解决关系重叠问题等。为此,提出一种基于图神经网络的联合实体关系抽取模型BSGB(BiLSTM+SDA-GAT+BiGCN)。BSGB分为两个阶段:第一阶段将语义依存分析扩展到语义依存图,提出融合语义依存图的图注意力网络(SDA-GAT),通过堆叠BiLSTM和SDA-GAT提取句子序列和局部依赖特征,并进行实体跨度检测和初步的关系预测;第二阶段构建关系加权GCN,进一步建模实体和关系的交互,完成最终的实体关系三元组抽取。在NYT数据集上的实验结果表明,该模型F_(1)值达到了67.1%,对比在该数据集的基线模型提高了5.2%,对重叠关系的预测也有大幅改善。

基于语义依存和外部知识库的关键词抽取

为提升基于TextRank算法的关键词抽取效果,分析中文语义结构和分词算法的特点,提出一种融合语义依存和外部知识库的方法。使用语义依存图代替共现窗口构建词图,增强词图中各节点间的语义联系;在此基础上引入规范化谷歌距离和领域词典这两个外部知识库特征,结合文档内外部信息对词图中的边进行加权计算,对提取出的文档关键词应用前后向匹配算法做进一步处理,使提取的关键词更具语义完整性。实验结果表明,该方法在数据集上的关键词抽取效果有了显著提升,可读性更强,验证了所提方法的有效性。

基于依存树和注意力机制情感分析模型的改进

主流的情感分析模型是基于依存树和注意力机制的LSTM神经网络模型,但依存树捕捉依存关系较弱;注意力机制有时隐藏层和目标向量维度可能不一致,且归一化后对应的梯度将会变小,使模型很难训练。针对上述问题,提出一种基于依存图和双线性串联平衡因子的注意力机制情感分析模型(BSBDG-LSTM),引入依存图形结构,允许多个依存根节点存在,使依存关系理解更加充分;在注意力机制中添加可学习的参数矩阵和平衡因子,使隐藏层和向量的维度保持一致,并降低维度系数。电商评论数据的实验结果表明,BSADG-LSTM模型比LSTM模型、ATAE-LSTM模型、DAT-LSTM模型和DASN模型在情感分析中准确率更高,模型训练效果更好。

汉语框架语义网构建及其应用技术研究

汉语框架语义网(Chinese FrameNet,CFN)是一个以Fillmore的框架语义学为理论基础、以英文FrameNet为参照、以汉语语料事实为依据的供计算机使用的汉语词汇语义数据库。该文首先介绍了汉语框架语义网的构建基础——框架语义学以及英语的框架语义网工程,然后具体分析了汉语框架语义网的构建技术,并对基于汉语框架网的语义角色自动标注研究进行了介绍,25个框架的交叉验证的实验结果的准确率、召回率、F1-值分别达到74.16%,52.70%,61.62%;最后,介绍了几个基于汉语框架语义网的研究课题的进展情况。

框架元素语义核心词自动识别研究

该文基于汉语框架网,利用框架核心依存图形式化地表示一个汉语句子,使得对句子能够进行深层语义理解。为了得到框架核心依存图,需要提取其中框架元素的语义核心词。该文较为系统地描述了框架元素的语义核心词的识别问题。我们利用条件随机场模型、最大熵模型和支持向量机模型来识别框架元素语义核心词,并分别对这三种不同的模型所选的特征集进行了分析,且通过构造不同的特征模板进行对比实验,选取其中较优的特征模板和模型。结果表明,条件随机场模型具有较好的识别性能,在对其特征模板做进一步改进的基础上,识别效率也得到一定的提高。其中对简单型和复合型短语类型框架元素语义核心词识别的平均正确率分别达到了97.34%和94.03%。

基于语用交互的跨目标立场检测

针对缺乏足够的带标注意见数据、跨目标立场检测结果不佳且可解释性弱等问题,提出一种基于语用交互(pragmatic interaction graph convolution, PIGCN)的跨目标立场检测模型。考虑情感与立场在语义上的耦合关系,利用交互式图卷积神经网络(graphical convolutional network, GCN),增量式聚合单词在不同目标之间语用信息的相互作用,缓解目标间的信息孤岛问题。实验结果表明,该模型在平均F1值上达到了53.4%,优于基准模型,具有更好的可扩展性和适应性,在提升模型可解释性方面具有潜力。