一种MAKLINK图多节点链路建模的路径规划研究

针对传统MAKLINK图规划路径线路改变时,其最优化路径易与环境约束条件冲突的问题,提出了在MAKLINK图中各链路上增加节点数目的方法,以提高系统建模的适应性和鲁棒性。设计的多节点链路通过dijkstra算法得到更为理想的次优化路径,由蚁群算法进行迭代计算获得最优化路径,实现了在保证路径适应度的前提下,提高优化路径对环境约束条件的适应性。实验结果表明,与基本MAKLINK图路径规划算法相比,多节点链路的建模路径规划算法可有效提高次优路径的建模精度,最优路径的适应度值较单节点链路减小了1.43%,具有一定的建模优势。

基于时序图卷积的动态网络链路预测

动态网络链路预测广泛的应用前景,使得其逐渐成为网络科学研究的热点.动态网络链路演化过程中具有复杂的空间相关性和时间依赖性,导致其链路预测任务极具挑战.提出一个基于时序图卷积的动态网络链路预测模型(dynamic network link prediction based on sequential graph convolution, DNLP-SGC).针对网络快照序列不能有效反映动态网络连续性的问题,采用边缘触发机制对原始网络权重矩阵进行修正,弥补了离散快照表示动态网络存在时序信息丢失的不足.从网络演化过程出发,综合考虑节点间的特征相似性以及历史交互信息,采用时序图卷积提取动态网络中节点的特征,该方法融合了节点时空依赖关系.进一步,采用因果卷积网络捕获网络演化过程中潜在的全局时序特征,实现动态网络链路预测.在2个真实的网络数据集上的实验结果表明,DNLP-SGC在precision, recall, AUC指标上均优于对比的基线模型.

面向链接预测的知识图谱表示学习方法综述

作为人工智能的重要基石,知识图谱能够从互联网海量数据中抽取并表达先验知识,极大程度解决了智能系统认知决策可解释性差的瓶颈问题,对智能系统的构建与应用起关键作用.随着知识图谱技术应用的不断深化,旨在解决图谱欠完整性问题的知识图谱补全工作迫在眉睫.链接预测是针对知识图谱中缺失的实体与关系进行预测的任务,是知识图谱构建与补全中不可或缺的一环.要充分挖掘知识图谱中的隐藏关系,利用海量的实体与关系进行计算,就需要将符号化表示的信息转换为数值形式,即进行知识图谱表示学习.基于此,面向链接预测的知识图谱表示学习成为知识图谱领域的研究热点.从链接预测与表示学习的基本概念出发,系统性地介绍面向链接预测的知识图谱表示学习方法最新研究进展.具体从知识表示形式、算法建模方式两种维度对研究进展进行详细论述.以知识表示形式的发展历程为线索,分别介绍二元关系、多元关系和超关系知识表示形式下链接预测任务的数学建模.基于表示学习建模方式,将现有方法细化为4类模型:平移距离模型、张量分解模型、传统神经网络模型和图神经网络模型,并详细描述每类模型的实现方式与解决不同关系元数链接预测任务的代表模型.在介绍链接预测的常用的数据集与评判标准基础上,分别对比分析二元关系、多元关系和超关系3类知识表示形式下,4类知识表示学习模型的链接预测效果,并从模型优化、知识表示形式和问题作用域3个方面展望未来发展趋势.

k阶采样和图注意力网络的知识图谱表示模型

知识图谱表示(KGE)旨在将知识图谱中的实体和关系映射到低维度向量空间而获得其向量表示。现有的KGE模型只考虑一阶近邻,这影响了知识图谱中推理和预测任务的准确性。为了解决这一问题,提出了一种基于k阶采样算法和图注意力网络的KGE模型。k阶采样算法通过聚集剪枝子图中的k阶邻域来获取中心实体的邻居特征。引入图注意力网络来学习中心实体邻居的注意力值,通过邻居特征加权和得到新的实体向量表示。利用ConvKB作为解码器来分析三元组的全局表示特征。在WN18RR、FB15k-237、NELL-995、Kinship数据集上的评价实验表明,该模型在链接预测任务上的性能明显优于最新的模型。此外,还讨论了阶数k和采样系数b的改变对模型命中率的影响。

E-TUP:融合E-CP与TUP的联合知识图谱学习推荐方法

目前,大部分将知识图谱引入推荐系统的方法只是将已知的表层知识图谱实体进行引入,没有对图谱的内在关系进行预测和挖掘,因此无法利用知识图谱中的隐藏关系。针对上述问题,提出联合学习推荐模型E-TUP(enhance towards understanding of user preference),使用E-CP(enhance canonical polyadic)进行知识图谱补全并将完整信息进行传递。利用储存空间负采样方法,将优质负例三元组进行存储,并随训练过程进行更新,以提高知识图谱补全中负例三元组的质量。链接预测实验结果显示,储存空间方法使E-TUP模型链接预测准确率对比现有模型最高提升10.3%。在MovieLens-1m和DBbook2014数据集上进行推荐实验,在多个评价指标上取得最佳结果,对比现有模型实现最高5.5%的提升,表明E-TUP可以有效利用知识图谱中的隐藏关系提高模型推荐准确率。基于汽车维修数据进行推荐实验,结果表明E-TUP可以有效推荐相关知识。

引入知识增强和对比学习的知识图谱补全

知识图谱补全是提高知识图谱质量的重要手段,主要分为基于结构和基于描述的方法。基于结构的补全方法对图谱中常见的长尾实体推理性能表现不佳,基于描述的补全方法在描述信息利用和负样本信息学习方面存在不足。针对上述问题,提出基于知识增强的知识图谱补全方法KEKGC。设计一种特定模板,将三元组及其描述信息通过人工定义的模板转换为连贯的自然语言描述语句输入预训练语言模型,增强语言模型对三元组结构知识与描述知识的理解能力。在此基础上,提出一种对比学习框架来提高链接预测任务的效率与准确率,通过建立记忆库存储实体嵌入向量,从中选择正负样本并结合Info NCE损失进行训练。实验结果显示,相较于MEM-KGC,KEKGC在WN18RR数据集上链接预测任务的平均倒数秩(MRR)提升了5.5,Hits@1、Hits@3、Hits@10指标分别提升了2.8、0.7、4.2个百分点,三元组分类任务准确率达到94.1%,表明所提方法具有更高的预测准确率与更好的泛化能力,尤其对于长尾实体,能够有效提升图谱补全的效果与效率。

基于图注意力网络的小样本知识图谱补全

提出了一种基于图注意力网络(graph attention network,GAT)的小样本知识图谱补全方法.该方法通过图注意力网络的注意力机制赋予邻居不同的权重,生成更强大的特征表示,通过匹配网络匹配查询集与参考集,选择相似性度量分数最高的候选实体作为补全后的尾实体.实验结果表明,图注意力网络模型对小样本知识图谱中缺失的链接能够进行有效的预测.

动态图神经网络链接预测综述

在现实世界中,复杂的动态网络数据广泛存在,如社交网络、蛋白质相互作用网络和传染病传播网络,它们由大量的节点和边构成。针对这类数据的有效挖掘和利用,以进行精准预测,成为了一项关键任务。动态图神经网络链接预测是深度学习研究领域的一个重要分支,它旨在解析网络随时间演化的内在规律,并预测未来可能形成的链接,为各领域的决策提供有价值的信息和依据。回顾了动态图神经网络的发展历程,介绍动态图的建模方法和训练流程。在此基础上,根据时间粒度的不同,将动态图神经网络链接预测模型细分为离散动态图模型和连续动态图模型两大类,并综述了每一类别中当前主流模型所采用的建模方法;介绍了动态图链接预测研究中常用的数据集、评价指标和应用场景。最后,对该领域的未来发展趋势进行了前瞻性探讨。

基于双融合图注意力网络多模态知识图谱链路预测

知识图谱链路预测是一种根据知识图谱已存在的事实去预测缺失事实的任务,旨在解决知识图谱不完整性问题。但是现有的知识图谱链路预测有一定的缺陷,传统方法只使用单一的数据模态,没有充分利用不同数据模态的丰富信息,并且在图神经网络中孤立地看待实体和关系,没有考虑到不同邻域实体关系权重的不同。为了解决上述缺陷,提出了基于双融合图注意力网络的多模态知识图谱链路预测模型。首先,使用了图像、文本和属性3种模态,同时为了保证数据模态特征的一致性和互补性,设计了一个基于早期融合和晚期融合结合的双融合机制对多模态信息进行融合;然后,为了加强知识图中实体关系的融合以及邻域关系,同时考虑了实体以及关系的多样性,融合了实体表示和关系表示,并通过图注意力网络进行聚合以加强实体的特征表示。通过在4个公开的数据集FB15K-237、WN18RR、DB15K以及YAGO15K进行模拟实验,结果表明,提出的多模态知识图谱链路预测方法具有较好的性能。

基于语义增强模式链接的Text-to-SQL模型

为优化基于异构图编码器的Text-to-SQL生成效果,提出SELSQL模型。首先,模型采用端到端的学习框架,使用双曲空间下的庞加莱距离度量替代欧氏距离度量,以此优化使用探针技术从预训练语言模型中构建的语义增强的模式链接图;其次,利用K头加权的余弦相似度以及图正则化方法学习相似度度量图使得初始模式链接图在训练中迭代优化;最后,使用改良的关系图注意力网络(RGAT)图编码器以及多头注意力机制对两个模块的联合语义模式链接图进行编码,并且使用基于语法的神经语义解码器和预定义的结构化语言进行结构化查询语言(SQL)语句解码。在Spider数据集上的实验结果表明,使用ELECTRA-large预训练模型时,SELSQL模型比最佳基线模型的准确率提升了2.5个百分点,对于复杂SQL语句生成的提升效果很大。

完全图高阶关系驱动的链接预测

图卷积网络(graph convolutional network,GCN)因其在处理图数据方面的独特优势而被广泛应用于推荐系统中,它通过利用图中节点之间的依赖关系传播节点属性信息,极大地提高了节点表示的准确度从而提升推荐性能.然而现有基于GCN的推荐方法仍因过平滑问题而难以进行更深层的建模,从而限制了用户与项目间高阶关系的表达.为此,提出了一种基于项目间关系的完全图高阶关系驱动的链接预测(link prediction driven by high-order relations in complete graph,LinkCG)方法.LinkCG通过用户-项目交互图与项目间隐式关联关系全局图组成的异构图预测用户到项目的链接,跳过了中间的用户节点直接利用完全图建模每个用户历史交互的项目间的局部隐式关联关系,获得项目间的高阶关系从而缓解数据稀疏性问题;此外,不同于基于节点嵌入的推荐方法,LinkCG通过赋予项目间的链接权重来表示项目间关系的紧密程度,并根据紧密程度进行链接预测,优化了模型的训练过程.在3个公开数据集上的实验结果表明,LinkCG作为只包含2个超参数的非深度学习模型,与一些先进的基于深度学习的基线方法相比提供了更好的性能.在社交关系数据上的应用进一步表明LinkCG能够从用户历史交互项目中获取足够丰富的用户偏好信息.

融合关系层次结构的知识图谱嵌入

针对目前知识图谱嵌入方法大都侧重于三元组中的实体和关系信息,忽略了三元组之外与关系相关的丰富信息,提出一种融合关系层次结构信息的知识图谱嵌入方法CompGCN-RHS。在关系表示中融入关系的层次结构信息,将实体和关系联合进行嵌入学习,通过在聚合邻居节点信息时引入注意力机制来学习不同邻居节点对于中心节点的不同贡献。在数据集Sport上该方法的MRR、Hits@1分别提升2.2百分点和2.3百分点;在Location上分别提升了4.7百分点和6百分点,实验结果验证了该方法的有效性。

时序知识图谱补全方法研究综述

知识图谱补全是近年来的研究热点,在下游应用中,如知识问答、推荐系统和智能搜索等都有着广泛的应用前景。然而,大部分补全方法忽略了知识图谱的动态特性,其中许多的事实都会随着时间的变化而发生改变。新兴的时序知识图谱补全方法考虑到了以往补全方法的局限性,在其中加入了时间信息,使得知识图谱随时间的动态变化也能很好地被捕获。针对时序知识图谱补全方法在社交网络、交通运输、金融贸易等动态变化且具有复杂时间依赖特性的研究领域所拥有的巨大潜力,梳理了时序知识图谱补全技术。根据模型主要使用原理的不同,总结了基于逻辑规则、张量分解、平移模型、神经网络、深度强化学习和语言模型的补全方法,归纳了现有方法的常用评价指标、公开数据集、核心思想、优缺点、适用场景以及在对应静态模型上的改进。最后,对时序知识图谱补全方法的未来研究方向进行了展望。

基于知识图谱的网络攻击预测方法研究及应用

针对网络攻击知识图谱,同时引入了时序信息,提出一种基于知识图谱的网络攻击预测方案,并对其进行应用。通过对网络攻击知识图谱进行规则学习和应用,能够有效地得到网络攻击事件预测结果,为网络安全运维人员提供决策支持。以企业提供的网络安全运维知识图谱为例,将文中研究的方法应用到企业安全检测系统,结果证明该方法具有充分的准确性和可行性,同时为后续研究提供了思路。

面向个性化推荐的node2vec-side融合知识表示

推荐系统中知识图谱对系统的推荐效果起到很重要的作用,图谱中的知识表示成为影响推荐系统的关键因素,这也成为当前的研究热点之一。针对推荐系统中知识图谱的结构特点,在传统node2vec模型基础上增加关系表示和多元化游走策略,提出一种基于node2vec的知识表示node2vec-side,结合推荐系统知识图谱网络结构,旨在挖掘大规模推荐实体节点间潜在的关联关系,降低表示方式复杂度,提高可解释性。经过时间复杂度分析可知,提出的知识表示方式在复杂度上低于Trans系列和RGCN。在传统知识图谱数据集FB15K、WN18和推荐领域数据集MovieLens-1M、Book-Crossing、Last.FM上分别进行链接预测对比实验。实验结果表明:在MovieLens-1M数据集上,hits@10分别提升了5.5%~12.1%,MRR提升了0.09~0.24;在Book-Crossing数据集上,hits@10分别提升了3.5%~20.6%,MRR平均提升了0.04~0.24;而在Last.FM数据集上,hits@1提升了0.3%~8.5%,MRR平均提升了0.04~0.16,优于现有算法,验证了所提方法的有效性。

基于多视图对比学习的动态图链接预测方法

链接预测旨在推断网络中缺失的边或预测未来可能出现的边.先前的链接预测研究主要集中在处理静态网络上,其目标是预测已知网络中缺失的边,然而,现实世界中许多复杂网络通常是动态变化的,使得动态网络中的链接预测任务往往比静态网络中更为复杂和困难.近年来,基于动态图表示学习的链接预测方法已经展现较好的结果,这类方法利用动态图表示学习方法学习节点的嵌入表示,以捕捉网络的结构和演化信息,从而在动态网络中实现有效的链接预测.现有方法主要采用循环神经网络或自注意力机制作为神经网络架构的组件,通过时间序列网络学习动态网络的演化信息,然而,动态网络的多样性和演化模式的可变性对基于复杂时序网络的方法提出挑战.这些方法可能很难适应不同动态网络中不断发展的演化模式,同时,在图表示学习领域,图对比学习因为其强大的自监督学习能力受到广泛关注,但是现有方法大多针对静态图,对于动态图的研究较少.为了解决上述问题,提出一种动态网络多视图对比学习的链接预测方法,不依赖额外的时序网络参数,实现动态网络的表示学习和链接预测.该方法将动态网络快照视为网络的多个视图,摆脱对比学习对数据增强的依赖.通过构建包含网络结构、节点演化以及拓扑演化三个视图的对比学习目标函数,挖掘快照内网络结构、快照间节点和网络高阶结构的演化模式学习节点表示,实现链接预测任务.最后,在多个真实数据集上进行了多类动态链接预测实验,实验结果显著优于所有基线方法,验证了所提方法的有效性.

No-CapsE:一种基于节点共现的四元数胶囊网络知识图谱补全模型

知识图谱补全是通过预测知识图谱中缺失的事实进行填补,以解决知识图谱中的数据稀疏问题。CapsE、QuatE等用于知识图谱嵌入的模型在链接预测方面已经取得了较好的表现,但是,CapsE模型因其在复数空间进行链接预测与数据挖掘,会受限于其数据维度,使得数据挖掘不够深入,QuatE采用四元数构造超复数平面进行逻辑旋转,但其方法简单,无法有效地构建复杂关系。为此,提出一种改进的胶囊网络补全方法No-CapsE,在超复数平面构建胶囊网络。将数据用四元数进行表示并输入到四元数卷积网络中,输出的特征向量作为胶囊网络的输入,通过点积操作进行评分并依据评分判定三元组的正确性。此外,为了提高模型的训练速度,提出节点共现的思想,将实体和关系都视作节点。在公开数据集FB15K-237与WN18RR上进行链接预测实验,同时为了进一步探究所提模型的性能与效果,进行消融实验。实验结果均表明,相较于对比模型,No-CapsE的知识图谱补全效果更好,可以应用于大规模链接预测任务。

融合描述信息和结构特征的知识图谱链接预测

知识图谱普遍存在知识不完整的问题,这使得链接预测成为知识图谱的重要研究内容。现有模型仅关注三元组的嵌入表示,一方面,在模型的输入仅对实体和关系的嵌入表示进行随机初始化,并未融入实体及关系的描述信息,会缺失语义信息;另一方面,在解码时忽略三元组自身结构特征对链接预测结果的影响。针对上述问题,提出一种融合描述信息与结构特征的知识图谱链接预测模型BFGAT。BFGAT模型利用BERT预训练模型编码实体和关系的描述信息,并将描述信息融入到实体与关系的嵌入表示中,解决缺失语义信息的问题;在编码过程使用图注意力机制聚合邻接节点的信息,解决目标节点获得更为丰富信息的问题;在解码过程把三元组的嵌入表示拼接成矩阵,采用基于CNN卷积池化的方法,解决三元组结构特征的问题。该模型在公开数据集FB15k-237和WN18RR上进行了详细的实验,实验表明BFGAT模型能有效提高知识图谱链接预测的效果。

一种基于强化学习的软件安全实体关系预测方法

为改善现有基于翻译的软件安全知识图谱实体关系预测方法不具备可解释性,而基于路径推理的方法准确性不高的现状,本研究提出一种基于强化学习的预测方法 .该方法首先分别使用TuckER模型和SBERT模型将软件安全知识图谱的结构信息和描述信息表示为低维度向量,接着将实体关系预测过程建模为强化学习过程,将TuckER模型计算得到的得分引入强化学习的奖励函数,并且使用输入的实体关系向量训练强化学习的策略网络,最后使用波束搜索得到答案实体的排名列表和与之对应的推理路径.实验结果表明,该方法给出了所有预测结果相应的关系路径,在链接预测实验中hit@5为0.426,hit@10为0.797,MRR为0.672,在事实预测实验中准确率为0.802,精确率为0.916,在准确性方面与同类实体关系预测模型相比具有不同程度的提升,并且通过进行可解释性分析实验,验证了该方法所具备的可解释性.

基于改进图注意力网络的电力系统脆弱性关键环节辨识

随着电网的扩大与新能源比例的增加,电网的不确定性和随机性因素增加,危及系统安全运行,寻找出电网中的脆弱性关键环节来保障电网运行时的可靠性就显得尤为重要。针对当前传统电网脆弱性关键环节辨别方法识别速度慢、难以满足电网实际运行要求的问题,提出了基于改进图注意力网络算法(improved graph attention network,IGAT)的电网脆弱性关键环节辨识方法。首先,结合复杂网络理论和电网实际运行数据建立评价指标集。其次,利用IGAT挖掘出电网运行时的各项指标与脆弱性关键环节之间的映射关系,建立脆弱性关键环节辨识模型,并且考虑到训练准确性和效率等需求,对原始的图注意力网络进行优化。再次,通过仿真得到原始数据集,对辨识模型进行训练、验证和测试。最后,利用所述模型应用于改进的IEEE 30节点系统和实际电网中,结果表明所提方法具有可行性,且准确性和速度优于传统方法,有一定的工程利用价值。