基于异常感知的变分图自编码器的图级异常检测算法

图异常检测在识别复杂数据结构的异常模式中具有重要作用,被广泛地应用于有害分子识别、金融欺诈检测、社交网络分析等领域.但目前的图异常检测研究大多数聚焦在节点级别的异常检测,针对图级别的异常检测方法仍然较少,且这些方法并不能对异常图数据进行充分挖掘,且对异常标签比较敏感,无法有效地捕捉异常样本的特征,存在模型泛化能力差、性能翻转问题,异常检测能力有待提升.提出了一种基于异常感知的变分图自编码器的图级异常检测算法(anomaly-aware variational graph autoencoder based graph-level anomaly detection algorithm,VGAE-D),利用具有异常感知能力的变分图自编码器提取正常图和异常图数据的特征,并差异化正常图和异常图在编码空间中的编码信息分布,对图编码信息进一步挖掘来计算图的异常得分.在不同领域的8个公开数据集上进行实验,实验结果表明,提出的图级别异常检测方法能有效地对不同数据集中的异常图进行识别,异常检测性能高于目前主流的图级别异常方法,且具有少异常样本学习能力,较大程度上克服了性能翻转问题.

NLGAE:一种基于改进网络结构及损失函数的图自编码器节点分类模型

利用图嵌入方法将图的拓扑结构、节点属性等高维异构信息映射到稠密的向量空间,是解决图数据由非欧空间性带来的计算不友好、邻接矩阵的高度空间复杂性等问题的主流方法。在对经典图自编码器模型GAE与VGAE所存在的问题进行分析的基础上,尝试从编码器、解码器及损失函数3个方面对基于图自编码器的图嵌入方法进行改进,提出一种基于改进网络结构及损失函数的图自编码器模型NLGAE。首先,在模型结构设计上,一方面将编码器中堆叠的图卷积层倒置,以解决GAE与VGAE中无参Decoder缺乏灵活性并且表达能力不足的问题,另一方面引入注意力机制的图卷积网络GAT来解决节点之间的权重系数固化的问题;其次,重新设计的损失函数能够同时考虑到图结构与节点特征属性两部分信息。对比实验结果表明:NLGAE作为一种无监督模型,能够学习到高质量的节点嵌入特征,在下游节点分类任务上优于DeepWalk,GAE,GrpahMAE,GATE等经典无监督模型,并且在选择合适分类模型的情况下,甚至优于GAT和GCN等有监督的图神经网络模型。

基于图自编码器和GRU网络的分层交通流预测模型

准确的交通流预测信息不仅可以为交通管理人员提供交通决策的坚实基础,还可以减少交通拥堵情况。在交通流预测任务中,获得有效的交通流的时空特性是保证预测效果的前提。现有的方法大多是用未来时刻的数据进行监督学习,提取的特征具有局限性。针对现有预测模型无法充分挖掘交通流的时空特性的问题,提出了基于改进的图自编码器和门控循环单元的分层交通预测模型。首先使用图注意力自编码器以无监督的方式深度挖掘交通流的空间特性,然后使用门控循环单元进行时间特征提取。分层结构采用分开训练的方式进行时空依赖关系的学习,旨在获取路网天然存在的空间拓扑特征,使其可以兼容不同时间步下的交通流预测任务。大量实验证明,所提出的GAE-GRU模型在不同数据集下的交通预测任务中取得了优异的表现,MAE,RMSE和MAPE指标均优于基线模型。

基于图自编码器多尺度特征的自监督群体发现

现有基于图自编码器的群体发现方法通常忽略了编码层多尺度特征对群体发现的影响,同时由于缺少统一的优化目标函数导致次优结果。为此,提出一种基于图自编码器多尺度特征融合的自监督群体发现方法。在图自编码器的基础上引入一种多尺度自表达模块,从不同编码层获取具有区分性的节点关系矩阵表示,并与节点潜在表示进行融合;通过节点聚类模块获得初步的群体识别结果;引入一种自监督模块监督节点表示学习过程,获得更优结果,构建一种端对端的网络群体发现模型。在多个公开数据集上进行对比实验,验证了所提方法的有效性,与现有方法相比,其在群体识别准确度上有了明显提升。

基于图自编码器与LightGBM的癌症驱动基因识别系统

在癌症的形成和进展中,癌症驱动基因扮演着重要角色.准确识别癌症驱动基因有助于深入理解癌症的发生机制,推动精准医学的发展.针对当前癌症驱动基因识别领域所面临的异质性和复杂性问题,本文设计并实现了一种基于图自编码器与LightGBM的癌症驱动基因识别系统ACGAI.该系统首先以无监督的方式通过图自编码器学习生物分子网络的复杂拓扑结构,随后将生成的嵌入表示与原始基因特征进行拼接,形成基因增强特征并输入至LightGBM.在经过训练后,系统输出生物分子网络上每个基因的预测得分,实现了对癌症驱动基因的准确识别.最终,该系统利用Web技术创建了一套用户友好、交互性强的可视化界面,实现在基因集分析场景中的癌症驱动基因识别,并为识别结果提供了生物学解释.经过测试,该系统表现出优于其他方法的识别性能,能有效识别癌症驱动基因.

基于二阶图自编码器的复杂网络分析

为了充分利用复杂网络中蕴含的信息,增强图自编码器模型的表征能力,提出一种基于二阶图卷积网络的自编码器模型SeGCN-AE。先使用二阶图卷积网络提取实体属性和关系信息,生成低维特征表示;然后使用内积解码器重构复杂网络链接关系矩阵,并通过重构损失对模型进行优化。在两个基准复杂网络数据集实验中,SeGCN-AE的性能始终优于当前较为先进的基线模型,表明二阶关系的引入能够增强模型的表征能力,提升复杂网络分析任务的表现。

基于多维云概念嵌入的变分图自编码器研究

变分图自编码器是图嵌入研究中重要的深度学习模型,但存在着先验正态分布缺陷、训练过程中容易出现后验塌陷等问题.本文从建立云概念空间与隐空间的映射关系入手,引入云模型数字特征对网络中的节点进行不确定性概念表示,设计了一种基于多维云模型的变分图自编码器(Variational Graph Autoencoder based on Multidimensional Cloud Model,MCM-VGAE).该模型实现了隐空间的多维云概念嵌入及相应的漂移性损失度量,将先验分布扩展为泛正态分布,利用多维正向云发生器及云包络带修正采样算法实现了重参数化过程,有效缓解了后验塌陷现象.在应用效果上,模型在多类型数据集上的链路预测、节点聚类、图嵌入可视化实验表现均优于基准模型,进一步说明了方法的普适有效性.

基于图自编码器的无监督多变量时间序列异常检测

针对多变量时间序列复杂的时间相关性和高维度使得异常检测性能较差的问题,以对抗训练框架为基础提出基于图自编码的无监督多变量时间序列异常检测模型.首先,将特征转换为嵌入向量来表示;其次,将划分好的时间序列结合嵌入向量转换为图结构数据;然后,用两个图自编码器模拟对抗训练重构数据样本;最后,根据测试数据在模型训练下的重构误差进行异常判定.将提出的方法与5种基线异常检测方法进行比较.实验结果表明,提出的模型在测试数据集获得了最高的F1分数,总体性能分F1分数比最新的异常检测模型USAD提高了28.4%.可见提出的模型有效提高异常检测性能.

基于有监督的多视角变分图自编码器的协同致死基因预测算法

协同致死关系是开发靶向抗癌药物的重要方法之一,通过计算方法预测协同致死基因可以为生物学上的研究提供目标指导,从而提高研究效率并降低实验成本。针对协同致死预测问题,提出了一种通用的、多视角变分图自编码器框架,引入了已知的协同致死关系作为监督信号,同时对局部的单视角数据和全局的多视角协同致死关系重构进行监督训练,在细粒度下获取每个视角中和协同致死相关的基因隐藏表示,最后将多视角的重构图融合在一起进行协同致死预测。在SynLethDB数据集上的实验结果表明方法的有效性。

节点属性增强的图自编码器

针对传统图自编码器的解码方法忽略节点属性作用的问题,提出一种联合重建图结构和属性信息的节点属性增强的图自编码器(NEGAE)模型。模型在编码器部分,采用图卷积神经网络进行图节点数据的特征提取,获得其节点表示;在解码器部分,一方面采用内积方式对图结构进行重建,另一方面采用反卷积的方式对节点属性进行重建;最后,将结构信息和节点属性信息的重建误差融合到一个统一的损失函数中进行优化。在Cora、Citeseer、Pubmed数据集上的结果表明:该模型在链路预测任务中的ROC曲线下面积(AUC)分别达到91.19%、90.27%、96.69%;聚类任务中的聚类准确度(ACC)分别达到60.31%、50.60%、66.79%,说明NEGAE方法在各种学习任务上均取得了良好的性能。

基于同步联合优化的注意力图自编码器

针对现有图嵌入方法损失函数来源单一导致节点表示不能被充分优化的问题,提出了基于同步联合优化的注意力图自编码器(attentional graph auto-encoder based on synchronous joint optimization,AGE-SJO)。设计基于注意力机制的编码器学习节点表示,并利用内积解码器重建图结构生成重建损失(L_(R));为从多方面优化表示,将编码器和多层感知机分别作为生成模型和判别模型进行对抗训练,获得生成损失(L_(G))和判别损失(L_(D));提出同步联合优化策略,依次在L_(R)的k步、L_(D)的k步和L_(G)的1步之间优化表示,并将其应用于链路预测和节点聚类。在引文数据集上的实验结果表明,所提出的AGE-SJO性能优越,与最强基线相比,AUC、AP、ACC、NMI和ARI指标可分别提升1.6%、2.1%、10.6%、4.9%和12.4%。

图自编码器推荐研究综述

图自编码器GAE是一种源自图神经网络的学习框架,在编码器中引入聚合邻域节点的思想,解码器对图结构数据进行解码,重构图结构数据;在模型中引入监督模块,可以提高图结构数据在模型中的嵌入完整性和数据生成的准确性;编解码可以采用不同的神经网络,从而利用不同神经网络的优点。近年来GAE推荐逐渐成为推荐系统研究的热点。从无监督学习与半监督学习方面分析了已有GAE推荐研究取得的进展;探讨了已有GAE推荐模型存在用户冷启动问题、可解释性差、模型复杂度高和难以处理数据的多源异构性等方面的问题;并从跨领域推荐,结合传统推荐方法,引入注意力机制,融合各类场景等研究方向对未来GAE推荐进行展望。

DeepCKI:一个基于变分图自编码器预测细胞-细胞因子相互作用的生物信息学模型

细胞因子(cytokine)是一类由免疫细胞和某些非免疫细胞合成和分泌的信号分子,在免疫系统中通过结合相应受体调节细胞生长、分化和调控免疫应答。目前研究多侧重于通过实验方法检测细胞因子和受体的相互作用来研究细胞间的通讯网络,但存在实验周期长、设备要求高和成本高等不足。因此,有必要通过计算方法来加快对细胞-细胞因子相互作用(cell-cytokine interactions,CKI)的系统研究。本文提出一种基于变分图自编码器(variational graph auto-encoder,VGAE)预测细胞-细胞因子相互作用的深度学习模型——DeepCKI。该模型可有效融合蛋白质相互作用网络和不同类型的蛋白质特征,充分挖掘网络拓扑结构和节点属性中的有效信息,实现对细胞-细胞因子相互作用的高效预测。与变分自编码和深度神经网络方法相比,采用图结构设计的DeepCKI表现出了最优的预测性能。DeepCKI模型对4种不同类型细胞-细胞因子相互作用的ROC曲线下面积均高于0.8,模型具有一定的鲁棒性和有效性。预测打分排名前100的细胞-细胞因子相互作用中,有36对已被最新发表文献验证,表明该模型具有发现新的细胞-细胞因子相互作用的能力。

基于重启随机游走的图自编码器

针对现有的图自编码器无法捕捉图中节点之间的上下文信息的问题,提出基于重启随机游走的图自编码器。首先,构造两层图卷积网络编码图的拓扑结构和特征,同时进行重启随机游走捕捉节点之间的上下文信息;其次,为了聚合重启随机游走和图卷积网络获得的表示,设计自适应学习策略,根据两种表示的重要性自适应地分配权重。为了证明该方法的有效性,将图最终的表示应用于节点聚类和链路预测任务。实验结果表明,与基线方法相比,提出的方法实现了更先进的性能。

基于模块度感知图自编码器的重叠社区发现模型

图自编码器模型作为网络表示学习的代表性方法,在链路预测和节点分类任务方面性能表现优异。然而,图自编码器模型在处理社区发现任务时通常只考虑局部节点连边的重建而忽略了社区全局结构的影响,尤其是在多个社区存在重叠节点的情况下,难以准确判断节点归属关系和社区分布。针对此问题,该文提出了一种面向重叠社区发现的无监督模块度感知图自编码器模型(modularity-aware graph autoencoder model for overlapping community detection,GAME),GAME采用一种高效的模块度损失函数,该函数在网络嵌入过程中保留社区关系的同时,能重构损失并更新编码器的参数,以提高模型针对重叠社区发现任务的性能,进而将GAME得到的社区隶属度矩阵以概率-节点形式进行社区分配。该文提出的GAME在10个公开数据集上进行实验验证,并与主流的基于表示学习的重叠社区发现模型进行对比。实验结果表明:在归一化互信息(normalized mutual information,NMI)评估指标下,GAME模型性能优于主流模型,证明该模型有效。

基于图自编码器和协同训练预测miRNA与疾病的关联

近年来,越来越多的生物学实验研究表明,microRNA(miRNA)在人类复杂疾病的发展中发挥着重要作用。因此,预测miRNA与疾病之间的关联有助于疾病的准确诊断和有效治疗。由于传统的生物学实验是一种昂贵且耗时的方式,于是许多基于生物学数据的计算模型被提出来预测miRNA与疾病的关联。本研究提出了一种端到端的深度学习模型来预测miRNA-疾病关联关系,称为MDAGAC。首先,通过整合疾病语义相似性,miRNA功能相似性和高斯相互作用谱核相似性,构建miRNA和疾病的相似性图。然后,通过图自编码器和协同训练来改善标签传播的效果。该模型分别在miRNA图和疾病图上建立了两个图自编码器,并对这两个图自编码器进行了协同训练。miRNA图和疾病图上的图自编码器能够通过初始关联矩阵重构得分矩阵,这相当于在图上传播标签。miRNA-疾病关联的预测概率可以从得分矩阵得到。基于五折交叉验证的实验结果表明,MDAGAC方法可靠有效,优于现有的几种预测miRNA-疾病关联的方法。

融合模体图神经网络和自编码器的链路预测

链路预测是网络数据挖掘的一项基本任务,已有很多相关的研究成果。由于图神经网络研究的深入发展,使得相关的模型可以更加有效学习网络的重要特征,在链路预测等任务中取得了很好的预测效果。然而,不同于深度学习中CNN模型,已有的图神经网络模型中仅聚合了节点的一阶邻居信息,未充分考虑邻居节点之间的拓扑结构特性。在此基础上,提出了基于模体的图神经网络链路预测模型。该模型采用自编码器结构,在编码过程中,通过模体构建节点的邻接矩阵,进而得到节点的模体邻域,依照每一类模体的邻域聚合邻居信息,通过非线性变换得到节点的表示,最后拼接每一类模体下节点的表示。然而由于不同的模体结构在网络中重要度有所不同,利用注意力网络给出表达不同模体的注意力权重,连接注意力网络给出节点的向量表示。在解码过程中,通过计算节点间的相似性重构网络。在几个引文合作者网络上的实验结果表明,该方法在两个指标上优于大多数基准算法,有效地提高了网络链路预测的准确度。

基于One-Shot聚合自编码器的图表示学习

自编码器(AE)是一种高效的图数据表示学习模型,但大多数图自编码器(GAE)为浅层模型,其效率会随着隐藏层的增加而降低。针对上述问题,提出基于One-Shot聚合(OSA)和指数线性(ELU)函数的GAE模型OSA-GAE和图变分自编码器模型OSA-VGAE。首先,利用多层图卷积网络(GCN)构建编码器,并引入OSA和ELU函数;然后,在解码阶段使用内积解码器恢复图的拓扑结构;此外,为了防止模型训练过程中的参数过拟合,在损失函数中引入正则化项。实验结果表明,OSA和ELU函数可以有效提高深层GAE的性能,改善模型的梯度信息传递。在使用6层GCN时,基准引文数据集PubMed的链接预测任务中,深层OSA-VGAE相较于原始的VGAE在ROC曲线下的面积(AUC)和平均精度(AP)上分别提升了8.67和6.85个百分点,深层OSA-GAE相较于原始的GAE在AP和AUC上分别提升了6.82和4.39个百分点。

结合知识图谱的变分自编码器零样本图像识别

近年来,结合生成模型的零样本算法得到了广泛的研究,但此类方法通常仅使用属性注释,缺少类别语义,而单一信息对类别表征能力不够强,容易产生域偏移,影响知识迁移的效果,进而降低分类结果的准确率。为了解决此问题,提出一种结合知识图谱变分自编码器零样本识别算法(KG-VAE),通过构建联合类别分级结构,类别文本描述和词向量的层次结构化知识图谱作为语义信息库,将知识图谱中丰富的语义知识结合到以变分自编码器为基础的生成模型中,使生成的潜在特征更好保留有效的判定性信息,减小域偏移,促进知识迁移。在四个公开的零样本数据集上进行了实验,对比基准方法CADA-VAE,分类平均准确率有一定的提高;同时利用消融实验证明了知识图谱作为语义辅助信息的有效性。

融合图自编码器与GRU的城市盗窃犯罪时空分布预测模型

犯罪预测是进行犯罪预防的前提,高效准确的犯罪预测对于提高城市管理效率、保障公共安全都具有重要的意义。当前,关于犯罪预测的已有研究大多采用单一的机器学习方法或深度学习模型,忽略了犯罪的时空依赖关系,往往难以获得准确的预测结果。本文提出一个基于深度学习技术的犯罪时空预测模型—GAERNN:(1)利用GAE模型捕获犯罪案件的空间分布特征;(2)将带有空间依赖关系的特征经序列化处理后作为GRU模型的输入,进一步提取犯罪序列的时间特征;(3)经全连接层处理获得犯罪时空预测结果,并选取MLP、GCN等基准模型进行对比实验,结合RMSE、MSE等多个指标对模型预测结果进行评估。实验结果表明:对于各模型预测结果可视化分析,GAERNN模型预测的可视化结果与实际数据分布最相符合;在各模型误差分析方面,相比预测性能较差的MLP,GAERNN模型各月份的RMSE分别降低了1.02、3.58、1.29以及0.45;在子模块有效性评估方面,相比其变体模型GAE-LSTM,GAERNN模型在各月份的MAPE分别降低了2.15%、10.07%、1.92%以及2.54%,说明GAERNN模型能显著提高盗窃犯罪时空预测精度,可用于城市盗窃犯罪的积极预防和有效治理。