IndRT-GCNets: Knowledge Reasoning with Independent Recurrent Temporal Graph Convolutional Representations

Due to the structural dependencies among concurrent events in the knowledge graph and the substantial amount of sequential correlation information carried by temporally adjacent events,we propose an Independent Recurrent Temporal Graph Convolution Networks(IndRT-GCNets)framework to efficiently and accurately capture event attribute information.The framework models the knowledge graph sequences to learn the evolutionary represen-tations of entities and relations within each period.Firstly,by utilizing the temporal graph convolution module in the evolutionary representation unit,the framework captures the structural dependency relationships within the knowledge graph in each period.Meanwhile,to achieve better event representation and establish effective correlations,an independent recurrent neural network is employed to implement auto-regressive modeling.Furthermore,static attributes of entities in the entity-relation events are constrained andmerged using a static graph constraint to obtain optimal entity representations.Finally,the evolution of entity and relation representations is utilized to predict events in the next subsequent step.On multiple real-world datasets such as Freebase13(FB13),Freebase 15k(FB15K),WordNet11(WN11),WordNet18(WN18),FB15K-237,WN18RR,YAGO3-10,and Nell-995,the results of multiple evaluation indicators show that our proposed IndRT-GCNets framework outperforms most existing models on knowledge reasoning tasks,which validates the effectiveness and robustness.

Using BlazePose on Spatial Temporal Graph Convolutional Networks for Action Recognition

The ever-growing available visual data(i.e.,uploaded videos and pictures by internet users)has attracted the research community’s attention in the computer vision field.Therefore,finding efficient solutions to extract knowledge from these sources is imperative.Recently,the BlazePose system has been released for skeleton extraction from images oriented to mobile devices.With this skeleton graph representation in place,a Spatial-Temporal Graph Convolutional Network can be implemented to predict the action.We hypothesize that just by changing the skeleton input data for a different set of joints that offers more information about the action of interest,it is possible to increase the performance of the Spatial-Temporal Graph Convolutional Network for HAR tasks.Hence,in this study,we present the first implementation of the BlazePose skeleton topology upon this architecture for action recognition.Moreover,we propose the Enhanced-BlazePose topology that can achieve better results than its predecessor.Additionally,we propose different skeleton detection thresholds that can improve the accuracy performance even further.We reached a top-1 accuracy performance of 40.1%on the Kinetics dataset.For the NTU-RGB+D dataset,we achieved 87.59%and 92.1%accuracy for Cross-Subject and Cross-View evaluation criteria,respectively.

Skeleton Split Strategies for Spatial Temporal Graph Convolution Networks

Action recognition has been recognized as an activity in which individuals’behaviour can be observed.Assembling profiles of regular activities such as activities of daily living can support identifying trends in the data during critical events.A skeleton representation of the human body has been proven to be effective for this task.The skeletons are presented in graphs form-like.However,the topology of a graph is not structured like Euclideanbased data.Therefore,a new set of methods to perform the convolution operation upon the skeleton graph is proposed.Our proposal is based on the Spatial Temporal-Graph Convolutional Network(ST-GCN)framework.In this study,we proposed an improved set of label mapping methods for the ST-GCN framework.We introduce three split techniques(full distance split,connection split,and index split)as an alternative approach for the convolution operation.The experiments presented in this study have been trained using two benchmark datasets:NTU-RGB+D and Kinetics to evaluate the performance.Our results indicate that our split techniques outperform the previous partition strategies and aremore stable during training without using the edge importance weighting additional training parameter.Therefore,our proposal can provide a more realistic solution for real-time applications centred on daily living recognition systems activities for indoor environments.

A Spatio-Temporal Heterogeneity Data Accuracy Detection Method Fused by GCN and TCN

Spatio-temporal heterogeneous data is the database for decisionmaking in many fields,and checking its accuracy can provide data support for making decisions.Due to the randomness,complexity,global and local correlation of spatiotemporal heterogeneous data in the temporal and spatial dimensions,traditional detection methods can not guarantee both detection speed and accuracy.Therefore,this article proposes a method for detecting the accuracy of spatiotemporal heterogeneous data by fusing graph convolution and temporal convolution networks.Firstly,the geographic weighting function is introduced and improved to quantify the degree of association between nodes and calculate the weighted adjacency value to simplify the complex topology.Secondly,design spatiotemporal convolutional units based on graph convolutional neural networks and temporal convolutional networks to improve detection speed and accuracy.Finally,the proposed method is compared with three methods,ARIMA,T-GCN,and STGCN,in real scenarios to verify its effectiveness in terms of detection speed,detection accuracy and stability.The experimental results show that the RMSE,MAE,and MAPE of this method are the smallest in the cases of simple connectivity and complex connectivity degree,which are 13.82/12.08,2.77/2.41,and 16.70/14.73,respectively.Also,it detects the shortest time of 672.31/887.36,respectively.In addition,the evaluation results are the same under different time periods of processing and complex topology environment,which indicates that the detection accuracy of this method is the highest and has good research value and application prospects.

基于多特征融合的GraphHeat-ChebNet隧道形变预测模型

对隧道的形变进行预测是隧道结构异常检测的内容之一。为了充分挖掘形变特征的时空关联性,针对隧道内衬多个断面的形变同时预测,提出一种基于多特征融合的GraphHeat-ChebNet隧道形变预测模型。所提模型中利用GraphHeat和ChebNet这2种图卷积网络(graph convolution net,GCN)分别提取特征信号的低频和高频部分,并获取形变特征的空间关联性,ConvGRUs网络用于提取特征在时间上的关联性,通过三阶段融合方法保留挖掘的信息。为了解决实验数据在时间维度上不充足的问题,引入双层滑动窗口机制。此外,所提模型与其他模型或算法在不同数据集上实验比较,衡量一天和两天预测值的误差指标优于其他模型,而且对大部分节点预测的误差较低。说明模型受样本节点数影响较小,能较好地预测一天和两天的形变,模型学习特征与时空模式的能力较强,泛化性较好。

面向交通流量预测的时空Graph-CoordAttention网络

交通预测是城市智能交通系统的一个重要研究组成部分,使人们的出行更加效率和安全。由于复杂的时间和空间依赖性,准确预测交通流量仍然是一个巨大的挑战。近年来,图卷积网络(GCN)在交通预测方面表现出巨大的潜力,但基于GCN的模型往往侧重于单独捕捉时间和空间的依赖性,忽视了时间和空间依赖性之间的动态关联性,不能很好地融合它们。此外,以前的方法使用现实世界的静态交通网络来构建空间邻接矩阵,这可能忽略了动态的空间依赖性。为了克服这些局限性,并提高模型的性能,提出了一种新颖的时空Graph-CoordAttention网络(STGCA)。具体来说,提出了时空同步模块,用来建模不同时刻的时空依赖交融关系。然后,提出了一种动态图学习的方案,基于车流量之间数据关联,挖掘出潜在的图信息。在4个公开的数据集上和现有基线模型进行对比实验,STGCA表现了优异的性能。

基于时空图卷积神经网络的强迫振荡定位与传播预测

振荡源定位与传播预测是抑制强迫振荡和保证电力系统稳定的关键。现有方法未能充分利用电网的空间拓扑信息和振荡的时序特征,限制了定位和预测的精度。因此,该文提出一种基于时空图卷积神经网络的强迫振荡定位与传播预测方法。首先,根据节点特征和拓扑信息构建图数据,考虑到强迫振荡传播的快速性,通过切比雪夫多项式扩大节点空间感受野,提取振荡空间特征。同时,利用门控循环单元网络提取多个节点振荡数据的时序关联,通过时空图卷积单元融合空间和时序特征。然后,将定位与传播预测分别建模为分类和回归问题,训练时空图卷积神经网络模型。算例分析表明,所提方法具有更高的准确率,且在噪声和部分节点数据缺失的情况下依然具有较好的性能。

亚马孙河流域地表覆盖时空变化知识建模

亚马孙河流域地表覆盖时空变化影响着全球气候和生态系统的稳定,目前亚马孙河流域地表覆盖的研究广泛,具有海量数据和信息,但缺少系统性的时空知识体系。为了更好地了解亚马孙河流域地表覆盖时空变化知识,本文首先引入本体建模理论,提出了亚马孙河流域地表覆盖时空变化知识建模方法,利用Protégé工具完成了亚马孙河流域地表覆盖模式层的设计和构建;然后利用提取的亚马孙河流域地表覆盖时空变化数据、时空变化信息和景观格局指数等,完成了亚马孙河流域的建模,从而为亚马孙河流域的分析决策提供支撑。

时空异常探测:从数据驱动到知识驱动的内涵转变与实现路径

时空异常探测是地理空间数据挖掘的核心技术之一,可为深层揭示地理过程演化机理提供关键突破口。在大数据与人工智能技术的推动下,从数据驱动向知识驱动转变是地理大数据时空异常智能探测的发展趋势。本文系统梳理了时空异常探测研究的发展历程与主流研究思路,剖析了数据、信息与知识间的辩证关系,并从“地理变量、空间基底、时空关系、知识类型”四位一体的视角构建了时空知识的统一描述框架。进而,结合案例阐述了时空知识与时空异常的“双向驱动”内涵,提出了“时空知识关联建模→时空异常智能识别→时空知识动态更新”的时空异常智能探测实现路径,支撑时空异常可靠探测与时空知识可信服务。

地理知识图谱增强与多时空条件约束的轨迹预测

基于机器学习的轨迹预测方法通常依赖历史轨迹数据的数量和质量,而社交媒体签到数据更新频率低,形成的轨迹稀疏,在预测中易出现难学习、过拟合等问题。为突破低质量轨迹数据在预测任务中的限制,本文提出一种基于地理知识图谱增强与多时空约束条件建模的轨迹预测方法。将复杂异构的多源地理信息结构化为由若干三元组构成的地理知识图谱进行统一表达,并通过知识表示模型挖掘其中语义关联来增强轨迹序列的向量表征,同时采用具有多重时空约束条件的多头自注意力机制提取稀疏轨迹序列中的多重时空特征,从而提升轨迹预测精度。研究采用纽约市Foursquare社交媒体签到数据进行方法验证,试验结果表明:本文方法相较于其他表示学习方法和轨迹预测方法,在命中率和平均倒数排名两个评价指标上均有不同程度的提升,能够有效增强稀疏轨迹序列的表征,提取轨迹的多重时空特征,提高社交媒体用户签到轨迹的预测精度。

基于超图卷积的跨交通方式客流联合预测模型

大城市多种交通方式交织形成了彼此互通的客流网络,而跨交通方式客流之间的时空关联关系错综复杂,需要客流联合预测来解析整体出行规律,这对实现跨交通方式客流无缝衔接出行至关重要。针对跨交通方式客流网络,引入跨交通方式超图关联矩阵刻画公交和地铁的客流超图网络之间关联关系,提出一种基于双模时空超图卷积网络(BSTHCN)的跨交通方式客流联合预测模型。具体来说,模型由3部分组成:输入模块、时空卷积模块(包括时间卷积和空间卷积)和输出模块,可同时捕捉公交、地铁站点和线路的客流特征,以及两种客流网络之间换乘客流特征。最终,模型可识别提取重要信息特征,并进行特征聚合和分配。实证分析结果表明,相对于经典预测模型而言,BSTHCN具有更优的预测精度,以预测1h后的客流为例,在公交和地铁数据集上的平均绝对误差(MAE)指标至少分别减小了8.93%和8.10%,均方根误差(RMSE)指标至少分别降低了10.64%、7.47%。且BSTHCN的参数量和模型运行时间均在合理范围内,相比于时空卷积网络(S-TGCN)和扩散卷积递归神经网络(DCRNN),BSTHCN在实现更精准预测的同时,运行时间仅增加了4.82%。综合来看,BSTHCN显示出较强的竞争力。消融实验结果则进一步表明,BSTHCN在引入超图并考虑跨交通方式关联后,可更好地反映客流网络中的局部与整体特征,提升客流预测的精度。

基于时空图神经网络的应用层DDoS攻击检测方法

分布式拒绝服务(Distributed Denial of Service,DDoS)攻击已经成为网络安全的主要威胁之一,其中应用层DDoS攻击是主要的攻击手段。应用层DDoS攻击是针对具体应用服务的攻击,其在网络层行为表现正常,传统安全设备无法有效抵御。同时,现有的针对应用层DDoS攻击的检测方法检测能力不足,难以适应攻击模式的变化。为此,文章提出一种基于时空图神经网络(Spatio-Temporal Graph Neural Network,STGNN)的应用层DDoS攻击检测方法,利用应用层服务的特征,从应用层数据和应用层协议交互信息出发,引入注意力机制并结合多个GraphSAGE层,学习不同时间窗口下的实体交互模式,进而计算检测流量与正常流量的偏差,完成攻击检测。该方法仅利用时间、源IP、目的IP、通信频率、平均数据包大小5维数据便可有效识别应用层DDoS攻击。由实验结果可知,该方法在攻击样本数量较少的情况下,与对比方法相比可获得较高的Recall和F1分数。

基于注意力特征融合时空图网络的超短期风电功率预测

为提高风电功率的预测精度,综合考虑时间和空间多维度因素的影响,提出了一种基于注意力机制和多阶段特征融合的时空图神经网络(Spatio-temporal graph neural network with attention mechanism and multistage feature fusion,AMF-STGNN)的超短期风电功率预测方法。首先基于Pearson相关系数法对数据特征进行降维,确定影响风电功率的关键因素。然后构建AMF-STGNN预测模型。该模型主要由时空关联网络构建模块和多维度时空特征抽取模块组成。通过时空关联网络构建模块构建时空图,以揭示风电气象因素的空间连接关系。通过多维度时空特征抽取模块应用时间卷积和图卷积挖掘数据的时空特征,并利用注意力机制学习重要特征。此外,该方法还引入残差结构和多阶段特征融合结构提高模型的表达能力。最后以宁夏3个风电场真实数据为例,验证了所提方法在提升风电功率预测精度方面的有效性。

基于聚类和深度学习的车联网轨迹隐私保护机制

针对车联网轨迹发布中用户面临的隐私泄露问题,提出基于聚类和深度学习的轨迹隐私保护机制(PPCDL).考虑轨迹中的时间因素,通过时间戳将轨迹空间划分为多个区域,获取区域中的轨迹分布点.对每个区域进行改进稳定隶属度多峰值聚类,根据区域轨迹密度进行隐私预算矩阵的预分配.利用时间图卷积网络模型提取轨迹数据的时空特征,对隐私预算预分配矩阵进行训练和预测.根据预测结果添加相应的拉普拉斯噪声,在轨迹数据发布前进行扰动.理论分析和实验结果表明,PPCDL相较于对比机制,时间开销更少,能够更精确地预测隐私预算.利用PPCDL可以合理地在轨迹数据中添加拉普拉斯噪声,有效地提高了轨迹数据的可用性.

基于时序图卷积的动态网络链路预测

动态网络链路预测广泛的应用前景,使得其逐渐成为网络科学研究的热点.动态网络链路演化过程中具有复杂的空间相关性和时间依赖性,导致其链路预测任务极具挑战.提出一个基于时序图卷积的动态网络链路预测模型(dynamic network link prediction based on sequential graph convolution, DNLP-SGC).针对网络快照序列不能有效反映动态网络连续性的问题,采用边缘触发机制对原始网络权重矩阵进行修正,弥补了离散快照表示动态网络存在时序信息丢失的不足.从网络演化过程出发,综合考虑节点间的特征相似性以及历史交互信息,采用时序图卷积提取动态网络中节点的特征,该方法融合了节点时空依赖关系.进一步,采用因果卷积网络捕获网络演化过程中潜在的全局时序特征,实现动态网络链路预测.在2个真实的网络数据集上的实验结果表明,DNLP-SGC在precision, recall, AUC指标上均优于对比的基线模型.

基于SHAP重要性排序和时空双流的多风场超短期功率预测

针对多风场风功率预测中时空特征提取不充分的问题,提出一种基于空间、时间双流特征提取的功率预测方法。采用沙普利加性解释(SHAP)方法分析原始高维数值天气预报(NWP)中各变量的重要性,选择贡献度高的变量子集作为预测模型输入,降低模型复杂度。构建基于自适应动态邻接矩阵的改进图注意力网络(IGAT)提取多风场的动态空间特征;同时将多头注意力机制(MHA)与时间卷积网络(TCN)结合,加强关键时序特征的学习。使用前馈神经网络输出多风场功率预测结果。以西北某十风场的数据进行案例研究,结果表明所提模型的预测效果优于其他模型。

基于ASTLSTM的地铁乘客流量短时预测

地铁乘客流量预测是智能交通系统的重要环节,当前大多数预测模型较少对地铁乘客流量进行时空相关性建模,且未考虑空气质量等天气因素带来的影响,存在地铁乘客流量预测准确度不高的问题。针对以上问题,提出基于注意力机制的时空长短期记忆(ASTLSTM)网络的地铁乘客流量短时预测模型。首先,对数据进行预处理;然后,利用注意力机制与图卷积网络(GCN)、卷积神经网络(CNN)相融合,挖掘地铁数据中的时空相关性,并通过长短期记忆网络(LSTM)来提取空气质量数据中的外部特征;最后,通过特征融合得到地铁乘客流量预测结果。实验结果表明,ASTLSTM模型与LSTM、Conv LSTM等典型模型相比,在短期的地铁乘客流量预测上都有较高的准确度。

一种改进STGCN的深地时空域地震子波提取方法

地震子波的准确提取可有效提高全波形反演和偏移成像等方法的准确性,对储层预测和油气分析具有重要意义。由于深层能量衰减和复杂地质构造,地震子波不仅具有时变特性,同时也具有不可忽略的空变特性。而传统时变子波提取方法仅通过单道地震记录提取时变子波,忽略了多道地震记录之间子波的空间变化。同时,传统时空域子波提取方法,如经验模态分解(EMD)方法,对测井资料等先验信息依赖程度较高,实际应用范围受限。深度学习为时空域子波提取提供了新的思路,针对以上问题,提出了一种改进时空图卷积神经网络(STGCN)的时空域子波提取方法。首先,根据目标区地震数据分布特征与非平稳性质,建立以非平稳地震剖面为输入,时空域子波为标签的合成训练数据,再利用传统EMD时变子波提取方法逐道提取目标区子波,有针对性地构建以目标区地震剖面为输入,目标区时空域子波为标签的实际训练数据。最后,利用两种训练数据对改进后的STGCN进行训练,使其能够融合提取的子波时空特征,从而实现目标区时空域子波的有效提取。合成数据和实际地震数据的处理结果表明,该方法对于深地时空域子波的提取有效且准确,相较于传统方法更具优越性,具有较好的实际应用价值。

交通速度预测时空图卷积网络及其FPGA实现研究

时空图卷积网络(STGCN)通过图卷积和时间卷积捕获交通数据的空间依赖性和时间依赖性,可有效提升交通速度预测的精度。但是硬件实现交通速度预测STGCN具有计算量大难以满足实际应用的实时性要求、资源消耗大导致成本增高等问题,在优化交通速度预测STGCN模型基础上,提出了一种交通速度预测STGCN的FPGA实现结构组合优化的方法。首先,通过轻量化裁剪和预测数据位宽的精确选择,对交通速度预测STGCN进行了模型优化,以降低计算复杂度和资源消耗,并经过Python仿真验证其可行性。其次,通过采用流水线、并行计算和数据交替流水存取等组合优化策略,提出了一种交通速度预测STGCN的FPGA实现结构组合优化的方法,以提升系统计算速度。最后,使用Verilog编程对交通速度预测STGCN进行了FPGA的实现仿真和硬件测试。利用PeMSD7(M)数据集进行实验,结果显示FPGA实现单数据交通速度预测的时间为355.5μs,相比CPU、GPU平台及FPGA设计方案1对比,其处理速度最大分别提高了25.9倍、6.7倍和3.5倍,证明了交通速度预测STGCN的FPGA实现结构组合优化方法,在保持预测准确性的前提下可较大幅度的提升系统处理速度。

跨模态语义时空动态交互情感分析研究

针对传统情感分析中存在的模态间交互性差、时空特征融合度低的问题,建立了一种跨模态的语义时空动态交互网络。通过引入双向长短期记忆网络挖掘各模态的时间序列特征,加入自注意力机制强化模态内特征的权重赋值,将自动筛选出的特征矩阵送入图卷积神经网络进行语义交互。然后以时间戳为基础进行特征聚合,计算聚合层的相关系数,获得融合后的联合特征,实现跨模态空间交互,最终完成情感极性的分类与预测。使用公开数据集对所提出的模型进行评估验证,实验结果表明,多模态时间序列提取和跨模态语义空间交互机制可以实现模态内和模态间特征的全动态融合,有效地提升了情感分类的准确率和F1值,在CMU-MOSEI数据集上分别提高了1.7%~13.5%和2.1%~14.0%,表现出良好的健壮性和先进性。