结合图同构和混合阶残差门控图神经网络的会话推荐

基于会话推荐的目的是依据当前会话的先前动作来预测用户的下一个动作。针对现有基于图神经网络的会话推荐模型存在的不足之处,提出一种结合图同构和混合阶残差门控图神经网络的会话推荐模型(GIHR-GNN)。使用图同构网络聚合相邻项目的特征向量,有效融合全局和局部信息,解决图神经网络善于捕获节点之间的局部连接而忽略全局信息的问题,并通过门控融合函数聚合用户的长短期兴趣以更好地捕捉用户兴趣的动态变化。使用混合阶门控图神经网络对位置嵌入向量进行处理以捕获用户长时间后重新交互所反映出的用户意图,并在此基础之上添加残差模块,解决深层网络的退化问题。将未去噪和去噪后的用户长期兴趣表示进行对比学习,缓解了数据稀疏和噪声干扰的问题。在Tmall和RetailRocket两个数据集上进行多次实验,并与先进基线模型进行比较,结果表明该模型在Tmall数据集上P@20指标和MRR@20指标至少提升了3.26%和10.33%,在RetailRocket数据集上P@20指标和MRR@20指标至少提升了0.55%和2.57%,证明了GIHR-GNN模型的有效性。

融合时序门控图神经网络的兴趣点推荐方法

现有的大多数兴趣点(point of interest,POI)推荐系统由于忽略了用户签到序列中的顺序行为模式,以及用户的个性化偏好对于POI推荐的影响,导致POI推荐系统性能较低,推荐结果不可靠,进而影响用户体验。为了解决上述问题,提出一种融合时序门控图神经网络的兴趣点推荐方法。运用时序门控图神经网络(temporal gated graph neural network,TGGNN)学习POI embedding;采用注意力机制捕获用户的长期偏好;通过注意力机制融合用户的最新偏好和实时偏好,进而捕获用户的短期偏好。通过自适应的方式结合用户的长期和短期偏好,计算候选POI的推荐得分,并根据得分为用户进行POI推荐。实验结果表明,与现有方法相比,该方法在召回率和平均倒数排名这两项指标上均有较为明显的提升,因此可以取得很好的推荐效果,具有良好的应用前景。

基于自适应门控图神经网络的交通流预测

交通流预测是智能交通系统中的重要组成部分,由于交通数据的复杂性,长期而又准确的交通流预测一直是时间序列预测中最具挑战性的任务之一。近年来,研究人员将基于图神经网络的时空图建模方法应用于交通流预测任务,并取得了良好的预测性能。然而,现有的图建模方法仅通过预定义的邻接结构反映道路网络中的空间依赖关系,忽略了各节点之间的序列关联关系对预测的重要性。针对这一局限性,提出了一种自适应门控图神经网络(Ada-GGNN),其核心为通过空间传递模块同时捕获道路网络的空间结构及自适应的时序相关性,并通过门控机制学习节点上的时间序列特征。在两个真实交通网络数据集PeMSD7和Los-loop上的实验结果证明了该模型具有更优越的性能。

基于门控图神经网络的栓母对知识图谱构建与应用

由于电网规模增长,直升机、无人机巡线的大量应用,产生的航拍图像数量剧增,其中螺栓的缺陷因数量众多和体积较小,故由输电线路螺栓缺陷引发的事故频频发生。另外,现有输电线路螺栓缺陷分类方法仅限于表面特征提取而忽略目标间关联和受复杂环境的影响大等问题。针对以上情况,该文提出利用螺栓螺母之间的关联组成栓母对,然后使用卷积神经网络提取栓母对特征初始化图网络节点和结合栓母对的先验知识表示栓母对缺陷与栓母对语义对象的关联,并以此来建立栓母对知识图谱指导栓母对缺陷分类。在此基础上,将输电线路上与螺栓相关的缺陷划分为栓母对缺陷,并建立粗级缺陷数据集和细级缺陷数据集。通过使用栓母对知识图谱来指导栓母对的缺陷分类实验,并以此来验证栓母对知识图谱的有效性和可行性。实验结果表明,该栓母对知识图谱实现了栓母对先验知识的有效运用,完成了栓母对粗级缺陷和细级缺陷的高效分类。

基于门控图神经网络的高容错配电网状态估计方法

随着电力系统可再生能源渗透率的逐渐提升,为应对可再生能源的间歇性特点并确保电网安全运行,对配电网进行实时、准确、高容错的状态估计至关重要。针对配电网量测装置装配水平不完备、模型驱动状态估计对高不确定性环境适应性不足的问题,基于数据采集与监视控制(SCADA)系统和相量测量单元(PMU)获得的多个时间尺度的混合量测,提出了一种基于门控图神经网络(GGNN)的高容错配电网状态估计方法,利用图卷积层和类门控循环单元提取量测时空高维特征,挖掘量测量与状态量的时空与因果关系。最后基于IEEE 33节点系统与IEEE118节点系统进行了仿真验证,结果表明,GGNN能有效拟合配电网量测量到状态量的时空映射,相比传统最小二乘法和多层感知机具有更高的精度和容错性。

基于四元数门控图神经网络的脚本事件预测

脚本事件预测需要考虑两类信息来源:事件间的关联与事件内的交互。针对于事件间的关联,采用门控图神经网络对其进行建模。而对于事件内的交互,采用四元数对事件进行表征,接着通过四元数的哈密顿乘积来捕捉事件4个组成部分之间的交互。提出结合四元数和门控图神经网络来学习事件表示,它既考虑了外部事件图的交互作用,又考虑了事件内部的依赖关系。得到事件表示后,利用注意机制学习上下文事件表示和每个候选上下文表示的相对权值。然后通过权重计算上下文事件表示的和,再计算其与候选事件表示的欧氏距离。最后选择距离最小的候选事件作为正确的候选事件。在纽约时报语库上进行了实验,结果表明,通过多项选择叙事完形填空评价,本文的模型优于现有的基线模型。

融合注意力机制的门控图神经网络文本分类算法

利用图神经网络进行文本分类,处理包含文本和单词的异构图时,存在文本-单词、单词-单词之间的细粒度交互不足问题。为解决该问题,论文提出了一种融合注意力机制的门控图神经网络文本分类算法(Text classification algorithm based on gated graph neural network integrating attention mechanism,GGNN-AM)。算法使用注意力机制,结合门控循环单元,提取单词的邻域重要信息,增强单词-单词的交互关系。将卷积核作为特征编码器,编码单个单词和多个单词的局部信息,提取重要特征和一般特征表示文本,增强文本-单词的细粒度交互。实验结果表明,与多种文本分类算法相比,GGNN-AM在三个英文基准数据集上取得了更好的效果。

基于门控图神经网络的新闻要素信息抽取方法

新闻要素信息抽取是指从新闻文本中识别出人名、地名、领域要素等信息,对于快速理解新闻文本有着关键作用。本文以抽取涉案新闻领域的要素信息为例,提出基于门控图神经网络(Gated Graph Neural Network,GGNN)融合案件相关词典的方法,利用图神经网络中结点与边之间的消息传播机制将外部词汇知识融入新闻文本中,挖掘文本潜在的语义特征,提高要素信息抽取性能。首先根据新闻文本特征选择领域相关的词汇构建案件相关词典,其次利用新闻文本和词典构建字粒度的组合图,通过GGNN模型对其进行编码得到字词组合关系的表征,最后利用Bi-LSTM-CRF模型解码得到要素信息序列。在标注的涉案新闻要素信息数据集上的实验结果表明,基于GGNN融入词典信息的要素抽取方法与常用的算法模型相比,F1值有2.12%~5.34%的提高,取得了更稳定的性能。

基于多模态融合的图神经网络推荐算法

已有的图神经网络(GNN)推荐算法大多利用用户-项目交互图的节点编号信息进行训练,学习用户-项目节点的高阶联系去丰富节点表示,但忽略了用户对不同模态信息的偏好,没有利用项目的图片、文本等模态信息,或对于不同模态特征的融合简单相加,不能区分用户对不同模态信息的偏好。针对上述问题,提出多模态融合的GNN推荐模型。首先针对单个模态,结合用户-项目交互二部图构建单模态图网络,在单模态图中学习用户对此模态信息的偏好;然后利用GAT聚合邻居信息,丰富本节点表示,同时根据门控循环单元决定是否聚合邻居信息,达到去噪效果;最后将各个模态图学习到的用户、项目表示通过注意力机制融合得到最终表示并送入预测模块。在MovieLens-20M、H&M两个数据集上的实验结果表明:多模态信息、注意力融合机制能有效提升推荐的准确度,算法模型在Precision@K、Recall@K和NDCG@K 3个指标上相较于基线最优算法均有显著提升;当评估指标K值选取10时,Precision@10、Recall@10和NDCG@10在两个数据集上分别提升了4.67%、2.42%、2.03%和2.49%、5.24%、2.05%。

融合全局信息的多图神经网络会话推荐

基于会话的推荐旨在根据当前会话预测下一个最可能交互的物品.由于单个会话点击序列较短,仅使用会话本身的信息很难提供准确的推荐.因此,综合考虑其它会话之间的交互信息已成为一种趋势,为了提高推荐性能,本文提出一种融合全局信息的多图神经网络会话推荐模型(GIMGNN)来增强会话推荐的效果.该模型首先通过超图卷积神经网络和门控图神经网络从全局会话超图和局部会话图中学习两个级别的物品表示,然后通过注意力机制将反向位置信息融合到两种表示中,最后利用融合后的表示完成预测.在两个真实数据集Yoochoose和Diginetica上进行了一系列实验,实验结果表明,对比性能最优的基准模型,GIMGNN模型在Yoochoose上P@20和MRR@20至少提升了2.42%和4.01%,在Diginetica上P@20和MRR@20至少提升了6.56%和9.11%,验证了模型的有效性.

基于图神经网络的多层信息交互融合算法用于会话推荐

针对当前会话推荐中存在对于当前会话的项目转换信息挖掘不充分且极少利用其他会话信息的问题,提出一种基于图神经网络的多层信息交互融合算法用于会话推荐。基于当前会话,首先,对节点之间的连接关系设计不同的权重聚合邻域节点的信息,并挖掘当前会话中项目转换的显性信息;其次,通过基于堆叠的残差图注意力网络聚合邻域节点信息,挖掘当前会话中项目转换的隐性信息;最后,通过单门控图神经网络挖掘基于时间戳的会话中存在的序列依赖信息。基于其他会话,通过节点的一阶邻居将整个会话集联系起来,学习全局信息编码,进而融合4个层次的嵌入表示以获得更全面的项目转换信息,同时使用软注意力机制和反向位置嵌入信息对获得的项目转换信息进行更有效的融合。实验结果表明,在Diginetica数据集上,所提模型的精度P@20和平均倒数排名MRR@20较次优模型GCE-GNN(Global Context Enhanced Graph Neural Network)分别提升了0.79%和0.84%;在Tmall数据集上,所提模型的P@20和MRR@20较次优模型HyperS2Rec分别提升了8.23%和7.86%;在Nowplaying数据集上,所提模型的P@20和MRR@20较次优模型HyperS2Rec分别提升了1.33%和7.16%。

基于图神经网络和时间注意力的会话序列推荐

为解决基于循环神经网络及其改进的方法在处理会话序列数据时只考虑序列行为,无法从有限的点击中获得准确的会话向量表示的问题,提出一种基于图神经网络和时间注意力的会话序列推荐算法。结合门控图神经网络和项目浏览时间信息,有效建模会话中所有点击项目之间的复杂转换,更充分利用用户浏览信息,使会话向量表示的计算更准确、区分度更高。实验结果表明,该方法能够提高推荐结果的准确性,更为有效地预测用户的下一次点击。

基于多层次图对比学习的序列推荐模型

针对现有的基于对比学习的序列推荐模型只考虑了项目和项目或者序列和序列这一个层级的表示学习,而没有办法学习到精细的、易于区分的用户与项目表示的问题,提出一种基于多层次图对比学习的序列推荐(MLGCL-SR)模型。首先,根据用户点击项目的顺序构建项目转移图,并对它进行嵌入表示;其次,利用优化后的双向门控图神经网络(BI-GGNN)在嵌入的项目转移图上进行用户的表示学习;最后,对主要推荐预测任务通过交叉熵损失函数进行参数更新,并使用多层次对比学习任务在嵌入层、节点层、序列层三个层次辅助推荐预测任务进行参数更新,其中在嵌入层和节点层辅助推荐预测任务进行更好的项目表示,而在序列层辅助推荐预测任务进行更好的用户表示。在3个基准数据集Sports、Beauty、Toys上的实验结果表明,相较于对比的最优模型MCLRec(Meta-optimized Contrastive Learning for sequential Recommendation),MLGCL-SR模型在命中率(HR)和归一化折损累计增益(NDCG)指标上有了显著的提升,在能较好反映推荐效果的NDCG@10指标上分别提升了14.2%、19.1%和23.1%,验证了模型的有效性。

基于事件演化图的多标记事件预测模型

多标记事件预测是指预测多个相关联的事件是否会在未来发生,相比传统单标记事件预测,需要同时预测多个目标事件。现有的事件预测研究忽略各领域存在的多标记事件情境,且对多标记事件预测研究较少。提出一种基于事件演化图的多标记事件预测模型(MLEP),以实现基于事件演化图(EEG)的多标记事件预测研究模式。首先基于事件链构建事件演化图;然后对多标记事件预测问题进行问题转换,将多标记问题转化为单标记问题,利用事件表示学习方法获取所有事件的向量表示,对多标记事件进行编码;最后采用门控图神经网络(GGNN)框架构建多标记事件预测模型,根据相似度匹配出最优的后续事件,实现多标记事件的预测。在真实数据集上的实验结果表明,MLEP模型可以有效地预测出多标记事件,预测准确率达到了65.58%,性能优于大多现有的基准模型,提升幅度达到了4.94%以上。通过消融实验也证明了更好的事件表示学习方法对事件具有较好的表示效果,提升多标记事件预测的性能。

融合行为交互图的兴趣感知新闻推荐算法

个性化新闻推荐的关键是候选新闻和用户兴趣的精准匹配,现有基于顺序模型的方法通过建模行为序列的单向交互仅能捕获单一的用户兴趣,而基于图的方法通常忽略了用户行为序列内部的高阶转换关系。针对上述问题,提出了融合行为交互图的兴趣感知新闻推荐模型,以全局和局部的角度建模用户动态兴趣。该模型结合知识图谱和深度预训练网络以多视图学习方式提取新闻深层语义信息,采用融合上下文位置信息的线性自注意力机制捕获局部用户兴趣。此外,将用户行为序列构建为有向交互图,使用门控图神经网络递归地聚合邻域信息捕获序列间的高阶转换关系,从而挖掘全局用户兴趣。在2个公开数据集上的实验结果表明,本文提出的模型在各个指标上均优于基线模型,并且有效提高了新闻推荐效果。

针对电力系统数据缺失的暂态电压稳定评估方法

针对数据缺失时暂态电压稳定评估模型精度下降的问题,提出一种基于多视图缺失数据填充和门控图神经网络的电力系统暂态电压稳定评估方法。首先,基于多视图互补的时空视图来填充缺失数据,得到完整的数据集;然后,采用修复完整的数据集训练门控图神经网络模型进行暂态电压稳定评估,评估模型要进行快速更新,以提高在线应用的性能;最后,在IEEE39节点系统算例上进行验证所提方法的有效性。仿真结果表明,本文方法可以在任何同步向量测量单元放置信息丢失和网络拓扑变化的情况下及时有效地填补缺失数据,且所用评估模型的评估性能具有显著优势。

基于词共现的方面级情感分析模型

针对方面级情感分析存在的局部信息捕捉不充分、多个意见词混淆的问题,提出了一种基于词共现的方面级情感分析模型。该模型将方面级情感分析看成句子对任务,利用BERT获得包含上下文与方面词交互注意力的节点信息;同时,对每条数据样本构建独立的词共现图,使用门控图神经网络更新节点,加强方面词附近信息的融合,减少无关意见词的干扰;之后在自注意力层进一步融合全局信息,最终取出方面词节点送入非线性层获得分类结果。与6个基线模型的对比实验结果表明,该模型有效地提升了方面级情感分析的准确性。

引入外部知识的社交平台立场检测模型

针对社交平台的用户评论进行立场检测,旨在对某一特定话题下的用户评论进行立场分类。现有立场检测研究只关注评论文本的内部语义特征,而忽略了与评论文本相关的外部知识。通过将评论的关键信息映射到知识图谱中,以检索与该关键信息有关的外部知识,并将外部知识引入到模型中进行立场检测任务,该方法可通过提供可能对立场检测任务至关重要的背景知识来提升分类效果。在构建立场检测模型时,除考虑评论的文本特征外,采用门控图神经网络方法融合评论之间的结构信息,从而提取相关评论的相互影响情况。实验结果表明,与已有解决该问题的立场检测模型相比,该模型取得了较好的检测结果。将评论的文本特征与结构信息相结合并引入外部知识,可有效提升模型的立场检测性能。

结合gazetteers和句法依存树的中文命名实体识别

中文命名实体识别在机器翻译、智能问答等下游任务中起着重要作用。提出一种新的基于gazetteers和句法依存树的中文命名实体识别方法,旨在解决由于字符向量缺少词信息和词之间的句法依赖结构信息而导致的错误传递问题。该方法将句子中的gazetteers信息和句法依存树信息形成图,再通过自适应门控图神经网络(adapted gated graph neural networks,AGGNN)将其融入到字符向量中,从而使得每个字向量很好地获取词汇间的语义关系,提升识别准确率。通过在Ecommerce、Resume、QI等数据集的验证,新的方法可以使得中文实体识别的准确率得到较大提升。