基于神经网络的GLR句法分析算法

提出并实现了一种基于神经网络的GLR(GeneralizedLR)句法分析算法,该算法结合神经网络自学习、自组织和并行分布处理等优点,以BP神经网络结构模型取代了GLR算法的分析表,模拟其移进和归约动作,通过计算网络输出来分析句法结构。该分析算法较好地解决了GLR算法对于存在多个移进归约冲突动作时,复制分析栈会使得动作表变得很大的缺点,实验结果表明,这种算法具有较好的泛化能力。

基于方面级情感分析的深度语义挖掘模型

方面级情感分析是一种细粒度的情感分类任务,具有广泛的应用前景,正因为如此,得到了广泛关注与研究,尤其是近年来,基于依赖树的图神经网络和基于注意力的网络模型的研究取得了较大进展.但是,由于在线评论表达的复杂性和依赖关系不易解析使得这些方法在情感分析的性能上得不到有效提升.为了克服这些挑战,本文提出了一种同时考虑句法语义和上下文语义的深度语义挖掘模型(Deep Semantic Mining Model,DSMM).具体地,为了深度挖掘句法背后隐含的深度语义,模型采用并行的图卷积和多头注意力机制挖掘丰富的语义;为了充分利用句法语义和上下文语义的内在关联关系,采用了关联注意力机制获取句法语义和上下文语义的相关性,并且采用自适应方面路由机制有效获取方面的情感语义,并在此基础上,通过引入基于依赖树的语义位置嵌入,进一步增强方面-意见词的关联.在三个公共数据集上的实验结果表明,该模型在复杂句情感分析中既能从不同语义空间挖掘句子的语义特征,也能有效利用句法特征强化句子的语义表征,在分类准确率和泛化能力上的表现优于相关工作.

人工智能视角下的未来城市结构:发掘复杂网络背后的空间特征

在城市规划和网络分析的领域中,深入洞察城市道路网络的构造及其隐藏在背后的空间特征对于理解城市的功能和组织架构至关重要。传统的城市网络分析方法主要关注道路的固有物理属性,如长度和连通性,但这些方法往往无法充分展现城市网络的复杂性和多维特性。特别是当考虑城市空间中的沿街功能信息或可视区域时,传统方法在捕捉城市空间的深层特征方面存在限制。为解决上述问题,文章提出了一种新颖的方法,通过变分图自编码器(VGAE)捕捉和分析城市道路网络及其空间特征,以深入理解城市的功能和组织架构。与侧重于道路物理属性的传统城市网络分析方法相比,本方法考虑了沿街功能信息和可视区域等维度,揭示了城市网络复杂性和多维特性的新层面。通过结合城市道路网络和空间数据,VGAE模型揭示了城市空间在融入不同数据后的隐空间结构变化,从而发现城市空间组织和功能分布的关键作用。这一研究成果不仅揭示了城市空间的新结构,而且展现了这种结构的独特性。这种隐藏空间结构的理解,可以被视为一种“空间基因”,有潜力成为生成和规划未来城市空间结构的基础,为我们理解和预测城市空间的发展提供了新的视角。

基于因素分析的复合神经网络及其在软测量中的应用

针对工业生产中 ,众多因素对生产影响程度不同的特点 ,提出了一种基于因素分析的复合神经网络 (FA MNN)模型 .介绍了FA MNN模型的结构 ,改进了神经网络的学习算法 ,并将其应用于氧化铝高压溶出过程中苛性比值及溶出率的软测量 ,利用现场实际运行数据进行仿真 ,结果表明FA

融合语法规则的双通道中文情感模型分析

针对使用中文文本进行情感分析时,忽略语法规会降低分类准确率的问题,提出一种融合语法规则的双通道中文情感分类模型CB_Rule。首先设计语法规则提取出情感倾向更加明确的信息,再利用卷积神经网络(CNN)的局部感知特点提取出语义特征;然后考虑到规则处理时可能忽略上下文的问题,使用双向长短时记忆(Bi-LSTM)网络提取包含上下文信息的全局特征,并对局部特征进行融合补充,从而完善CNN模型的情感特征倾向信息;最后将完善后的特征输入到分类器中进行情感倾向判定,完成中文情感模型的构建。在中文电商评论文本数据集上将所提模型与融合语法规则的Bi-LSTM中文情感分类方法R-Bi-LSTM以及融合句法规则和CNN的旅游评论情感分析模型SCNN进行对比,实验结果表明,所提模型在准确率上分别提高了3.7个百分点和0.6个百分点,说明CB_Rule模型具有很好的分类效果。

自然语言处理:方法与技术

无论是作为一项科学前沿研究,还是一门应用学科,自然语言处理已引起人们越来越多的关注与重视。本文讨论了它的理论基础,主要计算模式,系统的实现技术,并扼要介绍了这一领域新的发展动向。

基于神经网络语法分析

文章提出了基于神经网络理论适用于LR文法的语法分析，与传统LR分析器相比，神经网络LR分析器具有较高的性能。

基于LL(1)文法的印刷体数学公式结构分析方法

当前的OCR(optica l character recogn ition)系统对手写、打印文本都有很高的识别率,但是缺少对数学公式的结构进行分析及重组的功能.为此,将程序设计语言编译程序的基本设计方法用于数学公式的结构分析.重点介绍了上下标的定位、基于LL(1)文法的表达式构成规则和公式结构分析器的设计,并简略介绍了基于神经网络的数学符号识别方法.对于印刷体科学文献中的数学表达式,先通过预处理和分类过程识别每一个数学符号,得到按左边界排序的一串字符.然后通过结构分析器,进行上下标的定位以及前后关系的确定.最后把结构分析器生成的语法树转换成可编辑的L aT ex格式.实例证明得到了比较满意的结果.

融合图游走信息的图注意力网络方面级情感分析

在方面级情感分析任务中常用注意力机制获取单词的权重信息,忽略了句法结构对提取句子中不同单词重要程度的作用。此外,多方面词语句中会出现方面词和情感词关联混淆的问题,以及无法有效地关注与目标方面词情感极性相关的上下文部分。提出了融合图游走信息的图注意力神经网络模型GW-GAT。在语法图上执行图游走获取句子的单词权重系数;使用图注意力网络结合单词节点权重与节点之间的权重突出对目标方面词情感极性起重要作用的上下文部分,经过全连接和softmax获得最终的情感极性。在SemEval2014任务和Twitter数据集上的实验结果表明,GW-GAT模型性能优于基线模型,获得了较好的实验结果。

融合相似性判断的网络新词发现算法

新词的有效识别是文本预处理过程中一项非常重要的任务,关系到分词效果的好坏。针对传统新词发现方法未考虑单字新词的识别,且忽略了上下文句法结构与语义信息对新词识别结果的影响,提出一种统计量计算结合相似性判断的网络新词发现算法。首先,基于字的粒度,依次计算单字词频、最大增强互信息和加权左右邻接熵,从左向右逐字扩展多字词,获得具有高成词概率的候选新词集合;再利用基于句法与语义的改进相似性计算模型,得到语句相似度,过滤无效新词。对比实验结果表明,该算法能够有效识别新词,相较于传统新词发现方法具有更高的准确率、召回率和F值。

基于神经网络的汉语文法分析专家系统的设计

本文提出了一种基于神经网络的汉语文法分析专家系统的设计方案。知识库采用产生式规则的知识表达方式,并将知识二元化存储在神经网络中。推理机采用神经网络进行推理。在论文的结尾给出了系统的运行实例,说明了该系统的有效性。

数据库汉语接口句法分析的一种神经网络模型

为数据库汉语接口句法分析建立了一个抑制竞争型神经网络模型．该网络具有易于实现，收敛性较好，激活和抑制联结的强度可由网络结构特征确定等特点．

一种基于神经网络的代码嵌入方法

对代码进行分析研究具有很多的应用场景,例如代码抄袭检测、软件漏洞搜索等。随着人工智能的发展,神经网络技术被广泛应用于代码分析和研究。然而,现有的方法要么简单地将代码视为普通的自然语言处理,要么使用太过复杂的规则对代码进行采样,前者的处理方式容易造成代码关键信息的丢失,而后者会造成算法过于复杂,模型的训练需要花费较长的时间。Alon等提出了一种名为Code2vec的算法,该算法采用了一种简单且有效的代码表示方法,相比之前的代码分析方法有着显著的优势,但Code2vec算法仍存在一些局限性。因此,在其基础上提出了一种基于神经网络的代码嵌入方法,该方法的主要思想是将代码函数表示为代码的嵌入向量。首先将一个代码函数分解为一系列抽象语法树路径,然后通过神经网络去学习如何表示每一条路径,最后将所有路径聚合成一个嵌入向量来表示当前的代码函数。文中实现了一个基于该方法的原型系统,实验结果表明,相比Code2vec,所提算法的结构更加简单、训练速度更快。

融合多层注意力表示的中文新闻文本摘要生成

针对现有的文本摘要模型词向量表意不全面,且难以对远距离词句进行表征,提出一种融合多层注意力表示的中长文本摘要方法。通过抽取式技术将新闻文本进行分割,得到主体文本和辅助文本;将主体文本进行图卷积神经网络的学习和依存句法分析,得到词向量的图卷积表示和依存词对信息,同时对辅助文本进行高频主题词的挖掘;将这三种信息融合送入Transformer序列模型中,并对编码器和解码器的局部注意力稍作修改,使其能够更多地关注主题相关的部分和依存句法结构;生成文本摘要。在公共文本摘要数据集NLPCC 2017上的实验表明,该方法能够得到较高的ROUGE分数,生成质量更好的文本摘要。