面向链接预测的知识图谱表示学习方法综述

作为人工智能的重要基石,知识图谱能够从互联网海量数据中抽取并表达先验知识,极大程度解决了智能系统认知决策可解释性差的瓶颈问题,对智能系统的构建与应用起关键作用.随着知识图谱技术应用的不断深化,旨在解决图谱欠完整性问题的知识图谱补全工作迫在眉睫.链接预测是针对知识图谱中缺失的实体与关系进行预测的任务,是知识图谱构建与补全中不可或缺的一环.要充分挖掘知识图谱中的隐藏关系,利用海量的实体与关系进行计算,就需要将符号化表示的信息转换为数值形式,即进行知识图谱表示学习.基于此,面向链接预测的知识图谱表示学习成为知识图谱领域的研究热点.从链接预测与表示学习的基本概念出发,系统性地介绍面向链接预测的知识图谱表示学习方法最新研究进展.具体从知识表示形式、算法建模方式两种维度对研究进展进行详细论述.以知识表示形式的发展历程为线索,分别介绍二元关系、多元关系和超关系知识表示形式下链接预测任务的数学建模.基于表示学习建模方式,将现有方法细化为4类模型:平移距离模型、张量分解模型、传统神经网络模型和图神经网络模型,并详细描述每类模型的实现方式与解决不同关系元数链接预测任务的代表模型.在介绍链接预测的常用的数据集与评判标准基础上,分别对比分析二元关系、多元关系和超关系3类知识表示形式下,4类知识表示学习模型的链接预测效果,并从模型优化、知识表示形式和问题作用域3个方面展望未来发展趋势.

完全图高阶关系驱动的链接预测

图卷积网络(graph convolutional network,GCN)因其在处理图数据方面的独特优势而被广泛应用于推荐系统中,它通过利用图中节点之间的依赖关系传播节点属性信息,极大地提高了节点表示的准确度从而提升推荐性能.然而现有基于GCN的推荐方法仍因过平滑问题而难以进行更深层的建模,从而限制了用户与项目间高阶关系的表达.为此,提出了一种基于项目间关系的完全图高阶关系驱动的链接预测(link prediction driven by high-order relations in complete graph,LinkCG)方法.LinkCG通过用户-项目交互图与项目间隐式关联关系全局图组成的异构图预测用户到项目的链接,跳过了中间的用户节点直接利用完全图建模每个用户历史交互的项目间的局部隐式关联关系,获得项目间的高阶关系从而缓解数据稀疏性问题;此外,不同于基于节点嵌入的推荐方法,LinkCG通过赋予项目间的链接权重来表示项目间关系的紧密程度,并根据紧密程度进行链接预测,优化了模型的训练过程.在3个公开数据集上的实验结果表明,LinkCG作为只包含2个超参数的非深度学习模型,与一些先进的基于深度学习的基线方法相比提供了更好的性能.在社交关系数据上的应用进一步表明LinkCG能够从用户历史交互项目中获取足够丰富的用户偏好信息.

基于多视图对比学习的动态图链接预测方法

链接预测旨在推断网络中缺失的边或预测未来可能出现的边.先前的链接预测研究主要集中在处理静态网络上,其目标是预测已知网络中缺失的边,然而,现实世界中许多复杂网络通常是动态变化的,使得动态网络中的链接预测任务往往比静态网络中更为复杂和困难.近年来,基于动态图表示学习的链接预测方法已经展现较好的结果,这类方法利用动态图表示学习方法学习节点的嵌入表示,以捕捉网络的结构和演化信息,从而在动态网络中实现有效的链接预测.现有方法主要采用循环神经网络或自注意力机制作为神经网络架构的组件,通过时间序列网络学习动态网络的演化信息,然而,动态网络的多样性和演化模式的可变性对基于复杂时序网络的方法提出挑战.这些方法可能很难适应不同动态网络中不断发展的演化模式,同时,在图表示学习领域,图对比学习因为其强大的自监督学习能力受到广泛关注,但是现有方法大多针对静态图,对于动态图的研究较少.为了解决上述问题,提出一种动态网络多视图对比学习的链接预测方法,不依赖额外的时序网络参数,实现动态网络的表示学习和链接预测.该方法将动态网络快照视为网络的多个视图,摆脱对比学习对数据增强的依赖.通过构建包含网络结构、节点演化以及拓扑演化三个视图的对比学习目标函数,挖掘快照内网络结构、快照间节点和网络高阶结构的演化模式学习节点表示,实现链接预测任务.最后,在多个真实数据集上进行了多类动态链接预测实验,实验结果显著优于所有基线方法,验证了所提方法的有效性.

动态图神经网络链接预测综述

在现实世界中,复杂的动态网络数据广泛存在,如社交网络、蛋白质相互作用网络和传染病传播网络,它们由大量的节点和边构成。针对这类数据的有效挖掘和利用,以进行精准预测,成为了一项关键任务。动态图神经网络链接预测是深度学习研究领域的一个重要分支,它旨在解析网络随时间演化的内在规律,并预测未来可能形成的链接,为各领域的决策提供有价值的信息和依据。回顾了动态图神经网络的发展历程,介绍动态图的建模方法和训练流程。在此基础上,根据时间粒度的不同,将动态图神经网络链接预测模型细分为离散动态图模型和连续动态图模型两大类,并综述了每一类别中当前主流模型所采用的建模方法;介绍了动态图链接预测研究中常用的数据集、评价指标和应用场景。最后,对该领域的未来发展趋势进行了前瞻性探讨。

融合描述信息和结构特征的知识图谱链接预测

知识图谱普遍存在知识不完整的问题,这使得链接预测成为知识图谱的重要研究内容。现有模型仅关注三元组的嵌入表示,一方面,在模型的输入仅对实体和关系的嵌入表示进行随机初始化,并未融入实体及关系的描述信息,会缺失语义信息;另一方面,在解码时忽略三元组自身结构特征对链接预测结果的影响。针对上述问题,提出一种融合描述信息与结构特征的知识图谱链接预测模型BFGAT。BFGAT模型利用BERT预训练模型编码实体和关系的描述信息,并将描述信息融入到实体与关系的嵌入表示中,解决缺失语义信息的问题;在编码过程使用图注意力机制聚合邻接节点的信息,解决目标节点获得更为丰富信息的问题;在解码过程把三元组的嵌入表示拼接成矩阵,采用基于CNN卷积池化的方法,解决三元组结构特征的问题。该模型在公开数据集FB15k-237和WN18RR上进行了详细的实验,实验表明BFGAT模型能有效提高知识图谱链接预测的效果。

基于图神经网络链接预测与回归的新兴技术预测研究--以人工智能技术为例

面向专利文本数据的新兴技术预测对于协助管理者挖掘并聚焦技术发展方向、调整技术研发路线和占据技术竞赛主动具有重要意义。以人工智能技术为例,首先利用语法分析技术识别英文句子的名词短语,通过网络词语共现方法构造名词短语共现图。其次,构造图神经网络模型,并进行共现图链接预测和链接回归分析。最后,结合链接预测和链接回归结果,对人工智能技术进行技术预测。基于收集的专利数据进行预测实验,结果表明图神经网络融合名词短语共现图方法更适合复杂语义情形下的新兴技术预测,可获得更小预测识别粒度;此外,实验结果显示人工智能技术朝着电子会议、计算机视觉、医疗健康、交互界面、测量与监控、机器学习算法、传感器、数据通道和智能制造等方向应用发展。

基于相似性度量的PPI网络链接预测算法相关性分析

针对基于相似性度量的蛋白质相互作用网络(PPI网络)链接预测算法Sim,证明Sim指标是基于3-跳路径的指标,分析Sim矩阵和PPI网络邻接矩阵具有较强相关性,为基于相似性度量的PPI网络链接预测算法提供理论依据.

基于关系缩放模型的电商知识图谱链接预测问题研究

针对电商知识图谱链接预测模型精度较低且存在重复推荐同类型商品的问题,提出改进的关系缩放(Relation Scale, RS)模型。基于TransE和TuckER模型,判断三元组头尾实体关系强弱,引入关系缩放因子,确定所有关系路径权重,以提高模型收敛速度。实验结果表明,基于OpenBG500数据集,改进模型的MRR、Hits@1、Hits@3和Hits@10均有提高;相较于传统TransE模型,RSTransE的MRR和Hits@10分别提高了47.4%和71.1%;相较于传统TuckER模型,RSTuckER的MRR和Hits@10分别提高了35.8%和28.4%。RS模型能更准确预测用户需求,实现更加个性化且精准的推荐结果。

基于子图特征融合的链接预测方法

链接预测旨在预测知识图谱查询过程中缺失的事实三元组,通常广泛应用于智能问答、信息检索等任务,但由于知识图谱中节点和关系数量庞大,将整个图谱进行编码需要耗费相当大的资源,且图嵌入的编码方式缺少询问句中自带的语义信息,使链接预测结果并不理想。为此,提出一种基于子图嵌入的实体链接方法 LPBS,基于强化学习模型设计相关策略来获取预测链接路径上下文集合并进行输入编码,然后通过基于多头自注意力机制的双塔模型获取询问句和子图的嵌入特征,最后通过交叉注意力机制将量特征融合后得到各节点的预测分布。在自建工业领域数据集上的测试发现,所提方法评的MMR达到0.362,Hits@1达到0.313,并通过消融实验证明了模型的有效性。

基于链接预测匹配的动态社交机器人检测方法

在线社交网络中机器人集群的恶意协同活动威胁了正常用户信息安全,影响了社交网络的信用体系,进行社交网络机器人账号有效检测势在必行。针对现有基于社交图的检测方法难以刻画时序社交图中的动态的链接行为的问题,提出基于链接预测匹配的动态社交网络机器人检测方法。该方法基于已知节点的链接行为,对机器人和正常用户节点分别建立节点链接预测模型并学习两类节点的链接行为的特性,通过考察未知节点链接行为关于两类链接预测模型的匹配度实现节点属性的分类。在Twitter数据集上,相比于部分主流未采用时序数据的基线方法,该方法检测准确率有显著提升,验证了对时序数据利用的有效性。

一种面向临床领域时序知识图谱的链接预测模型

知识图谱(knowledge graph)链接预测可以解决知识图谱中缺失信息的发现和还原,是目前知识图谱领域的研究热点.传统的知识图谱链接预测方法大多面向静态的数据,并不适用于具有动态变化特性的时序知识图谱.时序知识图谱广泛存在于不同领域中,以临床医学领域为例,糖尿病作为一种典型的慢性病,其病程是一个疾病缓慢发展演化的过程.因此,在临床医学时序知识图谱上进行临床意义的链接预测,比如预测糖尿病的并发症,则需要考虑糖尿病病程发展随时间变化的时序特性,这也为传统的知识图谱链接预测方法带来巨大挑战.为此,结合临床医学事实知识的时序特性,提出一种基于LSTM序列增量学习的临床领域时序知识图谱链接预测模型.该模型结合LSTM长短期记忆单元递归神经网络在序列学习上的优势,通过构建基于LSTM的序列增量学习层,以端到端的方式提取时序知识图谱中的三元组时序特征,从而实现对时序知识图谱的链接预测.通过在糖尿病时序知识图谱上的实验,验证了模型的高效性、可用性及稳定性.

基于低秩和稀疏矩阵分解的多源融合链接预测算法

近年来,链接预测成为社会网络和其他复杂网络链接挖掘中的热门研究领域.在链接预测问题中,经常会存在用来提高预测效果的附加数据信息源,这些数据可以用于预测网络中的链接是否存在.在所有的数据源中,最主要的数据源在链接预测中起到最重要的作用.因此,设计具备健壮性的算法用于充分利用所有数据源的信息来进行链接预测十分重要,算法还需要平衡主数据源和附加数据源的关系,使得链接预测能够获得更好的效果.同时,传统基于拓扑结构计算的无监督算法大多数通过计算网络中节点间的评分值来解决预测链接存在可能性的问题,这些方法能够获得有效的结果.在链接预测方法中,最关键的一步是构建准确的输入矩阵数据.由于许多真实世界数据集存在噪声,这导致降低了大多数链接预测模型的效果.提出了一种新的链接预测方法,通过多个数据源的融合,兼顾地利用了主数据源的信息和其他附加数据源的信息.接着,主数据源和其他附加数据源被用于构建一个低噪声且更准确的矩阵,而新的矩阵被用于作为传统无监督拓扑链接预测算法的输入.根据在多个真实世界数据上的测试结果,在多源数据集上进行对比实验,提出的基于低秩和稀疏矩阵分解的多源融合链接预测算法相对于基准算法能够获得更好的效果.

一种大规模网络中基于节点结构特征映射的链接预测方法

网络链接预测能够获取网络中丢失链接的重要信息或进行网络的动态演变分析.现有的基于节点相似性的网络链接预测方法往往针对简单的一(多)阶邻居信息或特定类型的小型网络,设计较为复杂的计算方法,其扩展性和大规模网络中的可计算性都受到了严峻的挑战.文中基于深度学习在神经网络语言模型中应用的启发,提出了一个LsNet2Vec(Large-scale Network to Vector)模型.通过结合随机游走的网络数据集序列化方法,进行大规模的无监督机器学习,从而将网络中节点的结构特征信息映射到一个连续的、固定维度的实数向量.然后,使用学习到的节点结构特征向量,就可以迅速计算大规模网络中任意节点之间的相似度,以此来进行网络中的链接预测.通过在16个大规模真实数据集上和目前的多个基准的最优预测算法对比发现,LsNet2Vec模型所得到的预测总体效果是最优的:在保证了大规模网络中链接预测计算可行性的同时,于多个数据集上相对已有方法呈现出较大的AUC值提升,最高达8.9%.

基于节点相似性的链接预测

链接预测是图数据挖掘中的一个重要问题。它是通过已知的网络结构等信息预测和估计尚未链接的两个节点存在链接的可能性。目前大部分基于节点相似性的链接预测算法只考虑共同邻居节点的个体特征,针对目前预测算法对共同邻居节点间相互关系的考虑不足,提出了一种新算法:节点引力指数算法。该算法在保持低时间复杂度的同时,提高了预测的准确率。通过多个现实网络实验证实了算法的预测效果。

基于链接预测的科学研究机会发现方法研究

[目的/意义]概念的新组合在一定程度上可以带来科学研究上的新突破和新发现,需要探索一套方法来客观有效地挖掘科学知识网络中基于关联关系的研究机会,从而为科研决策提供定量依据。[方法/过程]提出了一种基于链接预测模型的科学研究机会发现方法,以领域中的关键词共现矩阵为数据基础,基于多种评价指标全面评估并选取链接预测算法,最后通过熵权融合指标值,从而预测关键词组合成为有前途研究机会的可能性。[结果/结论]将此方法用于分析和预测自然语言处理领域的研究机会,预测的动态准确率可达50%左右,高于利用单个预测指标的动态准确率,验证了所提方法的可行性和准确性。

加权网络中基于多路径节点相似性的链接预测

鉴于现有大多数链接预测算法仅考虑了图的局部或全局特性,在预测准确率和计算复杂度上难以均衡,且有关加权网络的链接预测研究相对较少,提出新的加权社会网络链接预测算法(STNMP).引入节点对边权强度的概念,用于度量邻居节点间的局部相似度.提出路径相似性贡献的概念,定义多路径传输节点相似性,用于描述步长为2和3的所有路径及这些路径上的中间节点对于所连接的两个节点的相似性总贡献.在多个真实网络中对算法的有效性进行验证,以AUC作为评价指标,与经典相似性算法CN、Jaccard、AA等进行预测准确率的对比分析.结果显示,针对小规模社会网络,STNMP算法的预测准确率高于现有算法.

一种改进的针对合著关系网络的链接预测方法

主要针对那些实体类标号属性未知的社会网络进行链接预测。由于实体的类标号属性与具体的社会网络有关,因此具体解决对作者之间合著关系网络图的链接预测问题。首先,给出了合著关系图的结构表示,然后把一个作者是否是多产的定义为合著关系图中作者实体的类标号属性。另外,还提出了一种改进的利用有指导学习进行链接预测的方法。在改进的链接预测方法中为每对作者新引入了一个特征属性——是否至少有一个是多产的。当所要预测的合著关系图中作者实体的类标号属性不完全已知时,用改进后的ICCLP算法对合著关系进行预测,以提高链接预测的性能。改进后的ICCLP算法中采用上面提到的改进后的链接预测方法。

一种集成局部加权聚类系数的链接预测算法

针对基于局部结构的加权链接预测算法仅仅利用了一级共邻节点的拓扑属性,无法反映共邻节点的邻居对潜在节点对的贡献以及度量共邻节点互连密集程度对预测结果的影响这一问题,从局部结构的密集层面来分析共邻节点对潜在节点对的影响,提出了一种集成加权聚类系数的相似度指标(WCCLP)。该指标能够有效地扩大局部共邻节点结构对预测性能的影响,同时也能轻易地拓展到加权局部朴素贝叶斯链接预测模型(WLNB)中。采用无监督学习的实验表明,WCCLP在多个真实数据集比现有的基准指标取得了更好的预测效果,拓展到WLNB的实验效果证明加权聚类系数的定义能够有效推广到其他模型当中。同时在有监督学习的链接预测场景中,由WCCLP构建的特征比现有的局部相似度算法构成的特征更具判别性。

基于交互意见和地位理论的符号网络链接预测模型

随着社会网络的普遍和流行,社会网络为符号网络(signed network)的深入研究提出了更多的全新问题,其中链接预测是符号网络研究的核心问题之一.交互意见和地位理论能够较好地解释符号网络中链接关系的构建和链接的符号属性,二者作为链接构建的诱因为提高链接预测的质量提供了理论基础.因此,通过研究交互意见和地位理论与链接关系的强相关性,构建符号网络链接预测模型.首先,利用交互意见增强待分解矩阵的可靠度,弥补由地位理论的对称性所带来的局限性;然后,在稀疏学习矩阵分解模型基础上,将交互意见建模为增强可靠度因子,同时将地位理论建模为稀疏学习模型的正则化项;最后,构建基于交互意见和地位理论的符号网络链接预测模型MF-SI.实验结果表明相比于其他基本方法,MF-SI模型获得了较好的预测质量,说明集成交互意见和地位理论能够较好地实现符号网络链接预测问题.

针对通信社会网络的时间序列链接预测算法

已有静态链接预测主要采用覆盖图表示社会网络,利用链接之间的结构信息来预测链接的发生。然而,这些方法仅能预测新链接的发生,而对旧链接的重复发生没有做预测,因此不适合预测重复发生的链接是主要兴趣的应用领域。针对静态链接预测算法的不足,引入时间序列链接预测算法,并且组合静态和时间序列链接预测算法为混合时间序列链接预测算法。在Enron电子邮件数据集上的实验结果表明,时间序列链接预测算法性能优于静态链接预测,混合时间序列链接预测算法的预测性能比单独使用静态或时间序列链接预测算法都要优越。