武汉市国土空间用途管制时序图谱构建与应用研究

国土空间用途管制作为落实国土空间规划、提升空间治理水平的重要手段,已成为国家推进空间治理体系和治理能力现代化的一项基本制度。现有基于关系型数据的用途管制信息管理和利用方式,已难以满足其全域、全要素、全流程数字化转型的要求。以武汉市为例,研究了面向用途管制的时序图谱构建的关键技术和流程,提出了时序图谱链接国土空间用途管制空间单元和各管理环节信息的技术方法,为国土空间用途管制全周期监管、数字化转型和智能化提升提供了可行的思路和实践参考。

SL-tgStore:新的时序知识图谱存储模型

为了解决时序知识图谱的存储问题,提出结合快照和日志模式的时序知识图谱存储模型SL-tgStore.模型由若干时间桶组成,每个时间桶由一系列的时间窗口组成.在首个时间窗口引入初始快照作为时序知识图谱存储和处理的基本单元,在接下来的时间窗口存储为增量日志.提出相应的阈值来确定初始快照的生成,即生成一个新的时间桶,以达到初始快照数量与增量日志数量的平衡,并提出临时快照生成算法.所提模型能够有效解决快照存储模式消耗内存大,日志存储模式查询效率低的问题.为了对SL-tgStore模型进行高效查询,在此基础上提出4种索引结构.在4个真实数据集上进行实验,理论研究与实验结果表明所提出的SL-tgStore存储模型具有高效性.

基于时序知识推理的时序知识图谱补全方法

基于知识推理的知识图谱补全技术研究在静态图谱上已经获得了较为明显的效果,但其在处理与时间相关的事件上仍存在着不足,而基于时序推理的知识图谱补全方法更加贴合真实事件,有较高的研究价值。然而,现有的时序知识图谱补全技术在处理节点信息和全局信息上存在局限性问题。因此,提出了一种基于注意力聚合邻居信息并使用双向LSTM处理时间信息的改进方法。首先,通过推理预测的方式补全时序知识图谱中缺失的信息,并在推理过程中生成推理路径图来解决由神经网络所带来的不可解释性问题;然后,使用4种不同时间跨度的公开数据集进行了实验并与主流方法进行了比较。实验结果表明:所提方法在R mr、h@1和h@10这3个指标上是优于现有方法的。

时序知识图谱表示与推理的研究进展与趋势

知识图谱作为近年来人工智能领域的一大热点研究方向,已应用于现实中多个领域.但是随着知识图谱应用场景日益多样化,人们逐渐发现不随着时间改变而更新的静态知识图谱不能完全适应知识高频更新的场景.为此,研究者们提出时序知识图谱的概念,一种包含时间信息的知识图谱.对现有所有时序知识图谱表示与推理模型进行整理,并归纳和建立一个表示与推理模型理论框架.然后基于此对当前时序表示推理研究进展进行简要介绍分析和未来趋势预测,以期望帮助研究者开发设计出更为优异的模型.

故事启发大语言模型的时序知识图谱预测

时序知识图谱海量稀疏,实体的长尾分布导致对分布外实体的推理泛化性较差,历史交互低频导致对未来事件的预测偏差较大.为此,文中提出故事启发大语言模型的时序知识图谱预测方法,利用大语言模型的世界知识储备和复杂语义推理能力,增强对分布外实体的理解和交互稀疏事件的关联.首先,根据时序知识图谱中时间和结构的特性筛选“关键事件树”,通过历史事件筛选策略提炼最具代表性的事件,并摘要当前查询相关的历史信息,减少数据输入量并保留最重要的信息.然后,微调大语言模型生成器,生成时序语义关联且符合逻辑的“关键事件树”叙事故事,作为非结构化输入.在生成过程中,特别关注事件之间的因果关系和时间顺序,确保生成的故事具有连贯性和合理性.最后,利用大语言模型推理器推理缺失的时序实体.在3个公开数据集上的实验表明,文中方法可充分发挥大模型的能力,完成精准的时序实体推理.

时序知识图谱补全方法研究综述

知识图谱补全是近年来的研究热点,在下游应用中,如知识问答、推荐系统和智能搜索等都有着广泛的应用前景。然而,大部分补全方法忽略了知识图谱的动态特性,其中许多的事实都会随着时间的变化而发生改变。新兴的时序知识图谱补全方法考虑到了以往补全方法的局限性,在其中加入了时间信息,使得知识图谱随时间的动态变化也能很好地被捕获。针对时序知识图谱补全方法在社交网络、交通运输、金融贸易等动态变化且具有复杂时间依赖特性的研究领域所拥有的巨大潜力,梳理了时序知识图谱补全技术。根据模型主要使用原理的不同,总结了基于逻辑规则、张量分解、平移模型、神经网络、深度强化学习和语言模型的补全方法,归纳了现有方法的常用评价指标、公开数据集、核心思想、优缺点、适用场景以及在对应静态模型上的改进。最后,对时序知识图谱补全方法的未来研究方向进行了展望。

融合图注意力的复杂时序知识图谱推理问答模型

在时序知识图谱问答(TKGQA)任务中,针对模型难以捕获并利用问句中隐含的时间信息增强模型的复杂问题推理能力的问题,提出一种融合图注意力的时序知识图谱推理问答(GACTR)模型。所提模型采用四元组形式的时序知识库(KB)进行预训练,同时引入图注意力网络(GAT)以有效捕获问句中隐式时间信息;通过与RoBERTa(Robustly optimized Bidirectional Encoder Representations from Transformers pretraining approach)模型训练的关系表示进行集成,进一步增强问句的时序关系表示;将该表示与预训练的时序知识图谱(TKG)嵌入相结合,以获得最高评分的实体或时间戳作为答案预测结果。在最大的基准数据集CRONQUESTIONS上的实验结果显示,GACTR模型在时序推理模式下能更好地捕获隐含时间信息,有效提升模型的复杂推理能力。与基线模型CRONKGQA(Knowledge Graph Question Answering on CRONQUESTIONS)相比,GACTR模型在处理复杂问题类型和时间答案类型上的Hits@1结果分别提升了34.6、13.2个百分点;与TempoQR(Temporal Question Reasoning)模型相比,分别提升了8.3、2.8个百分点。

基于图注意力网络的时序知识图谱人机交互模型

组织和检索信息是人机交互重点关注的话题之一。基于知识图谱(Knowledge Graph,KG)的智能问答系统通过语义解析用户问题,检索知识并回答问题,已成为一种信息检索的有效途径,是人机交互的典型应用。时序知识图谱(Temporal Knowledge Graph,TKG)问答系统通过语言模型获取问题中的实体和时间戳,并在大型TKG中检索答案。TKG问答系统包含2个挑战:①给定问题,需检索整个TKG,效率低且易受干扰项的影响;②难以捕获问题中隐含的时间词和时间顺序信息。提出一种基于图注意力网络的时间对比学习(Time Contrast Learning,TCL)模型,将源问题与替换时间词后的对比问题同时训练,使用图注意力网络更新实体邻接子图的节点特征,缩小潜在答案的检索空间。在CRONQUESTIONS数据集上进行大量实验,结果表明TCL比其他基准方法具有更好的性能,相较于最先进的基准方法在H it@1和Hits@10指标上平均提升3.44%和2.02%。

基于张量分解嵌入的时序知识图谱推理

针对现有时序知识图谱推理中外推方法没有充分利用时间信息的问题,受张量分解模型的启发,提出将关系嵌入分为静态和动态(时序)2个部分,并通过头实体嵌入、关系嵌入和所有实体嵌入之间的双线性评分函数,计算得到对象实体的概率,从而预测对象实体。最后,在3个数据集上的实验结果验证了该方法的有效性。

基于语义和结构增强的时序知识图谱问答方法

知识图谱作为自然语言处理领域中的热门研究主题之一,一直受到学术界的广泛关注。在现实中,知识问答过程往往携带时间信息,因此,近年来,应用时序知识图谱来完成知识问答的技术广泛受到学者的青睐。传统的时序知识图谱问答技术主要通过对问题进行编码来完成推理过程,但其无法处理问题中包含的复杂的实体和时间关系。基于此,提出一种基于语义和结构增强的时序知识图谱问答方法,在推理过程中兼顾问题的语义信息和结构信息,提升对复杂问题正确回答的概率。首先,该方法解析出问题中的隐式时间表达,并基于时序知识图谱中的信息,用直接表达方式改写问题,再根据问题集合中的时间粒度,按照不同的时间粒度聚合时序知识图谱中的时间信息。其次,基于问题中的实体信息和时间信息,对问题语义信息进行表示和融合,以加强对于实体和时间语义的学习。再次,基于提取到的实体完成子图提取,并利用图卷积神经网络提取子图的结构信息。最后,将融合后的问题语义信息与结构信息进行拼接,并对候选答案进行评分,选取评分最高的实体作为答案。在MultiTQ数据集上进行对比测试,实验结果表明,提出的模型优于其他基准模型。

融合图谱重构的时序知识图谱推理

针对现有时序知识图谱模型多数基于静态知识图谱快照序列进行推理,无法充分捕获细粒度时序特征的问题,设计了基于图谱重构的时序知识图谱推理模型(graph reconstruction for temporal knowledge reasoning,GRTKR)。该模型通过对实体的时间邻域进行采样完成时序知识图谱重构,结合时间编码器提供的显式时序特征与邻域特征聚合器提供的隐式时序特征来提升对时序数据建模的能力。在时序知识图谱数据集ICEWS14、ICEWS05-15、YAGO11K上的实验验证了方法的有效性,并且相比于主流基线模型,MRR、Hits@1、Hits@3、Hits@10评价指标均有明显提升。

基于RE-GCN改进的时序知识图谱预测模型

为预测时序知识图谱中缺失的链接,解决时序知识图谱不完备性问题,改进现有时序知识图谱预测模型的RE-GCN模型,在模型演化单元部分进行结构依赖学习过程中,充分考虑与实体有关的所有事实,在考虑与实体相邻的事实基础上,延伸到所有历史事实,丰富实体之间的结构依赖关系。结果表明,改进后的RE-GCN模型与原模型相比,在ICEWS18数据集上,实体预测任务和关系预测任务的MMR分别提升2.02%和5.58%。

基于时序知识图谱的电力设备缺陷预测

随着电力设施规模的日渐增长,对于电力设备的运行监测成为电力系统管理的一个重要内容。电力设备的缺陷预测是电力系统运行监测的关键步骤。为解决对大规模电力系统中的电力设备进行缺陷预测的问题,结合人工智能技术,提出一种基于时序知识图谱的电力设备缺陷预测模型。通过注意力机制对多模态信息进行融合,利用关系感知的图神经网络和循环神经网络得到实体和关系的时序表示,基于时序表示对电力设备进行缺陷预测。提出基于图神经网络的时序知识图谱推理方法能够充分利用多模态信息,提升电力设备缺陷预测的准确率。实验表明:所提模型性能优于基线模型。

基于时间约束子图抽取的时序知识图谱问答

针对时序知识图谱的问答的相关研究较少,并且大多拘泥于语义或者时间信息的匹配,缺乏对时间约束信息利用的问题,提出一种基于时间约束子图抽取的时序知识图谱问答方法。首先通过时间范围信息修剪子图,然后利用修剪后的子图和时间信息进行答案推理得到最终答案。实验结果表明:本文方法相较于基线模型在回答复杂类型以及时间类型问题时有较大提升。

基于时序知识图谱补全的关系预测

知识图谱是对客观世界中实体、概念及其关系的图形描述。传统知识图谱主要关注静态的常识性知识,缺乏对时间信息的考虑,难以处理网络空间中的动态演化和时间信息。时序知识图谱强调将时间纳入知识,通过引入时间戳和四元数嵌入管理动态时态知识,为紧密时间耦合的应用提供支持。现有方法侧重于高频重复事件,可能导致对新事件的错误判断。对此,我们提出了时空知识感知网络(SKAN),分为主体空间感知、事件序列感知和关系表征学习三个模块。SKAN通过全局关联图卷积挖掘主体关联性,进行时序学习,并通过关系表征学习预测未来关系,为时序知识图谱学习提供了新的架构。我们在四个国际事件数据集上进行了实验,实验结果表明,我们的方法优于目前的主流方法。

基于行为修饰嵌入的时序知识图谱嵌入研究

随着时序知识图谱的不断发展与应用,时序知识图谱的嵌入作为时序知识图谱应用的桥梁,在时序知识图谱的研究中有着较高的地位。时序知识图谱嵌入模型也越来越受重视。根据词语间的修饰关系与修饰方式提出一种基于行为修饰实体的嵌入模型,并利用这一模型将时间嵌入到实体使四元组转变为三元组。之后将其与DistMult模型结合形成新的时序知识图谱嵌入模型,即BME-DistMult。在ICEWS14与GDELT数据集上进行实验,与现有的静态知识图谱嵌入模型和其他时序知识图谱嵌入模型进行对比,该模型有较好的效果。

融合时序知识图谱的路段级交通事故风险预测

从历史交通事故数据中探究事故发生的规律,实现准确的路段级交通事故风险预测,可以有效提升交通出行的安全与效率.然而,由于天气、交通状态等多源因素的影响、交通事故之间复杂的时空相关性和事故数据的稀疏性,实现准确的路段级交通事故风险预测面临巨大的挑战.针对上述挑战,文中提出融合时序知识图谱的双层次多视角时空图神经网络模型(Two-Level and Multi-view Spatial-Temporal Graph Neural Network by Incorporating Temporal Knowledge Graph,STGN-TKG).首先,构建交通事故时序知识图谱并设计交通事故时序知识图谱历时嵌入模型,挖掘多源影响因素数据之间的动态、高阶相关性.然后,利用空间图卷积注意力模块和时序表征模块,从两个层次、多个语义视角,充分建模交通事故之间复杂的时空相关性.最后,提出符合实际场景的事故风险传播策略,缓解数据稀疏带来的零膨胀问题.在两个真实的路段级交通事故风险数据集上的实验表明,STGN-TKG在路段级事故风险预测任务中表现较优.

FS-Net:面向时序知识图谱推理的频次统计网络

时序知识图谱推理吸引了研究人员的极大关注.现有的时序知识图谱推理技术通过建模历史信息取得了巨大的进步.但是,时变性问题和不可见实体(关系)问题仍然是阻碍时序知识图谱推理模型性能进一步提升的两大挑战;而且由于需要对历史子图序列的结构信息和时间依赖信息进行建模,传统的基于嵌入的方法往往在训练和预测过程中具有较高的时间消耗,这极大地限制了推理模型在现实场景中的应用.针对以上困境,提出了一个用于时序知识图谱推理的频次统计网络,FS-Net.一方面,FS-Net不断基于最新的短期历史的事实频次统计,动态地为变化的时间戳上的预测生成时变的得分;另一方面,FS-Net基于当前时间戳上的事实频次统计,为预测补充历史不可见实体(关系);特别地,FS-Net不需要进行训练,而且具有极高的时间效率.在两个时序知识图谱基准数据集上的大量实验,表明了FS-Net相较于基准模型的巨大提升.

基于关系聚合的时序知识图谱表示学习

针对静态知识图表示方法不能对时间进行建模的局限性,从时序图谱实际应用的需求出发,设计了基于关系聚合的时序图谱表示学习方法来描述和推理动态知识图谱的时间信息.与离散的快照时序网络不同,将时间信息视为实体间的链接属性,提出利用时间感知的关系图注意力编码器来学习时序图谱的实体表征.将中心节点的邻域关系和时间戳融入图结构中,然后分配不同的权重,高效地聚合时间知识.在公开的时序知识图谱数据集上运行,结果表明,与传统的时序图谱编码框架相比,面向注意力聚合的时序图谱表示学习方法在补全和对齐任务的性能上都有较强的竞争优势,尤其对高时间敏感度实体更加显著,体现出算法的优越性和强鲁棒性.

基于注意力机制和多关系事件的时序知识图谱推理

时序知识图谱推理是将时序信息引入知识表征学习和知识推理任务中,旨在推断事件在未来的演变趋势.针对大多数时序知识图谱推理方法存在跨时间实体与关系推理能力有限的问题,提出基于多关系事件和注意力机制的时序知识图谱推理模型(Attention Events Network,Attn-Net).为利用时序知识图谱中推理任务与时序事件的关联信息,往往需要设计专门的、复杂度高的时序编码器.然而循环神经网络作为最常用的一类序列编码器,忽略了序列节点与任务之间的关联程度,并不能很好适用于知识推理.文中提出了使用自注意力机制序列编码模型来融合序列的历史信息,计算推理任务与时序历史信息的注意力标量,从而得到更准确的历史事件关联信息编码.在此基础上,使用注意力机制优化多关系邻域聚合器,根据不同关系下事件关注程度计算得到实体的邻域表示,从而获得更准确的事件编码,最终获取了更准确的实体邻域向量表示.在WIKI和YAGO数据集上实验表明,Attn-Net的效果分别提升了1.5%和2%,且有效提高了时序知识图谱推理的能力.