基于多维云概念嵌入的变分图自编码器研究

变分图自编码器是图嵌入研究中重要的深度学习模型,但存在着先验正态分布缺陷、训练过程中容易出现后验塌陷等问题.本文从建立云概念空间与隐空间的映射关系入手,引入云模型数字特征对网络中的节点进行不确定性概念表示,设计了一种基于多维云模型的变分图自编码器(Variational Graph Autoencoder based on Multidimensional Cloud Model,MCM-VGAE).该模型实现了隐空间的多维云概念嵌入及相应的漂移性损失度量,将先验分布扩展为泛正态分布,利用多维正向云发生器及云包络带修正采样算法实现了重参数化过程,有效缓解了后验塌陷现象.在应用效果上,模型在多类型数据集上的链路预测、节点聚类、图嵌入可视化实验表现均优于基准模型,进一步说明了方法的普适有效性.

基于有监督的多视角变分图自编码器的协同致死基因预测算法

协同致死关系是开发靶向抗癌药物的重要方法之一,通过计算方法预测协同致死基因可以为生物学上的研究提供目标指导,从而提高研究效率并降低实验成本。针对协同致死预测问题,提出了一种通用的、多视角变分图自编码器框架,引入了已知的协同致死关系作为监督信号,同时对局部的单视角数据和全局的多视角协同致死关系重构进行监督训练,在细粒度下获取每个视角中和协同致死相关的基因隐藏表示,最后将多视角的重构图融合在一起进行协同致死预测。在SynLethDB数据集上的实验结果表明方法的有效性。

DeepCKI:一个基于变分图自编码器预测细胞-细胞因子相互作用的生物信息学模型

细胞因子(cytokine)是一类由免疫细胞和某些非免疫细胞合成和分泌的信号分子,在免疫系统中通过结合相应受体调节细胞生长、分化和调控免疫应答。目前研究多侧重于通过实验方法检测细胞因子和受体的相互作用来研究细胞间的通讯网络,但存在实验周期长、设备要求高和成本高等不足。因此,有必要通过计算方法来加快对细胞-细胞因子相互作用(cell-cytokine interactions,CKI)的系统研究。本文提出一种基于变分图自编码器(variational graph auto-encoder,VGAE)预测细胞-细胞因子相互作用的深度学习模型——DeepCKI。该模型可有效融合蛋白质相互作用网络和不同类型的蛋白质特征,充分挖掘网络拓扑结构和节点属性中的有效信息,实现对细胞-细胞因子相互作用的高效预测。与变分自编码和深度神经网络方法相比,采用图结构设计的DeepCKI表现出了最优的预测性能。DeepCKI模型对4种不同类型细胞-细胞因子相互作用的ROC曲线下面积均高于0.8,模型具有一定的鲁棒性和有效性。预测打分排名前100的细胞-细胞因子相互作用中,有36对已被最新发表文献验证,表明该模型具有发现新的细胞-细胞因子相互作用的能力。

结合知识图谱的变分自编码器零样本图像识别

近年来,结合生成模型的零样本算法得到了广泛的研究,但此类方法通常仅使用属性注释,缺少类别语义,而单一信息对类别表征能力不够强,容易产生域偏移,影响知识迁移的效果,进而降低分类结果的准确率。为了解决此问题,提出一种结合知识图谱变分自编码器零样本识别算法(KG-VAE),通过构建联合类别分级结构,类别文本描述和词向量的层次结构化知识图谱作为语义信息库,将知识图谱中丰富的语义知识结合到以变分自编码器为基础的生成模型中,使生成的潜在特征更好保留有效的判定性信息,减小域偏移,促进知识迁移。在四个公开的零样本数据集上进行了实验,对比基准方法CADA-VAE,分类平均准确率有一定的提高;同时利用消融实验证明了知识图谱作为语义辅助信息的有效性。

融合抗噪机制的图变分自编码器社交网络推荐方法研究

链路预测是根据复杂网络中已有的拓扑信息预测网络中两个不相邻的节点间产生连接的可能性,是社交网络推荐中使用的主要方法之一。随着社交网络近些年来蓬勃发展,数据量的剧烈增加无可避免地导致坏数据的出现(即目标节点特征属性缺失,或是目标节点特征属性错乱)。为了解决有节点属性社交网络中因为节点特征缺失导致的链路预测准确率降低的问题,提出了一种结合噪声对抗机制的图变分自编码器模型(Denoising Graph Variational Autoencoder,DGVAE)来优化链路预测效果。通过建立一种图变分自编码器结构,并设计一个噪声对抗模块,使得图变分自编码器能够有效地抵抗噪声干扰。经过一系列实验的验证,在有节点属性的网络中,采用噪声对抗的图变分自编码器模型能够有效地预测复杂的网络结构,而且在数据有冗余噪声的情况下,这种模型的预测效果有显著的改善。

基于融合变分图注意自编码器的深度聚类模型

聚类作为数据挖掘和机器学习中最基本的任务之一,在各种现实世界任务中已得到广泛应用。随着深度学习的发展,深度聚类成为一个研究热点。现有的深度聚类算法主要从节点表征学习或者结构表征学习两个方面入手,较少考虑同时将这两种信息进行融合以完成表征学习。提出一种融合变分图注意自编码器的深度聚类模型FVGTAEDC(Deep Clustering Model Based on Fusion Varitional Graph Attention Self-encoder),此模型通过联合自编码器和变分图注意自编码器进行聚类,模型中自编码器将变分图注意自编码器从网络中学习(低阶和高阶)结构表示进行集成,随后从原始数据中学习特征表示。在两个模块训练的同时,为了适应聚类任务,将自编码器模块融合节点和结构信息的表示特征进行自监督聚类训练。通过综合聚类损失、自编码器重构数据损失、变分图注意自编码器重构邻接矩阵损失、后验概率分布与先验概率分布相对熵损失,该模型可以有效聚合节点的属性和网络的结构,同时优化聚类标签分配和学习适合于聚类的表示特征。综合实验证明,该方法在5个现实数据集上的聚类效果均优于当前先进的深度聚类方法。

基于变分图自编码器的社区发现方法研究

社区发现是复杂网络研究领域的一个重要问题,传统社区发现方法是通过节点间连边紧密程度而实现社区划分的,无法纳入节点的非结构属性.对此,文章基于变分图自编码器(VGAE),提出了一种兼顾节点连边与属性信息的网络社区发现方法(VGAE-INA,VGAE incorporating node attributes),并利用两个不同领域的现实网络数据进行了验证.研究结果表明,通过无监督的迭代学习,文章所提出的融合节点属性特征的变分图自编码器方法可以在同时考虑节点连边关系和节点属性特征情况下有效完成网络社区探查的任务.

基于图嵌入编码形态信息的非均匀多任务强化学习方法

传统强化学习方法存在效率低下、泛化性能差、策略模型不可迁移的问题。针对此问题,提出了一种非均匀多任务强化学习方法,通过学习多个强化任务提升效率和泛化性能,将智能体形态构建为图,利用图神经网络能处理任意连接和大小的图来解决状态和动作空间维度不同的非均匀任务,突破模型不可迁移的局限,充分发挥图神经网络天然地利用图结构归纳偏差的优点,实现了模型高效训练和泛化性能提升,并可快速迁移到新任务。多任务学习实验结果表明,与以往方法相比,该方法在多任务学习和迁移学习实验中均表现出更好的性能,在迁移学习实验中展现出更准确的知识迁移。通过引入图结构偏差,使该方法具备更高的效率和更好的迁移泛化性能。

基于图增强和图神经网络的层次社区发现方法

[目的]现有的多分辨率层次社区发现方法需要搜索分辨率参数得到特定层次的社区划分,且无法利用网络拓扑与节点属性之间的关联获取社区结构信息.为解决这些限制,本文提出一种基于图增强和图神经网络的层次社区发现方法HCEG.[方法]首先在图增强过程中对原始网络进行重构,使得构建的初始社区种子能涵括节点属性和拓扑信息,然后对初始种子社区集进行合并,再采用基于图神经网络的方法进行拓展,以搜寻网络中不同层次的社区划分.[结果]与其他SOTA方法相比,所提出的HCEG方法可以准确地找到不同类型真实网络中的分层社区结构,并可在不同规模的真实网络中可以获得良好的社区发现性能.[结论]在社交网络、引文网络、网页超链接网络等真实数据集上的一系列实验,验证了HCEG方法的可行性和有效性.

Protein-HVGAE:一种双曲空间中的蛋白质编码方法

蛋白质相互作用(PPI)网络中的蛋白质功能预测、蛋白质交互预测和复合物识别是生物信息学的重要任务,非常依赖于对蛋白质的编码。由于PPI网络是由少量中枢节点主导的无标度网络,传统欧氏空间嵌入方法难以捕捉网络中的层次结构,导致蛋白质编码效果并不理想。提出一种基于双曲空间图嵌入的蛋白质自编码器Protein-HVGAE,该模型采用两个双曲图卷积网络作为编码器,计算隐藏层的均值和方差,并在不同曲率的双曲空间中捕捉网络的层次结构,以区分各节点的低维表示;采用Fermi-Dirac函数做解码器,在双曲空间上通过内积运算重构网络。实验结果表明,该模型在3个PPI数据集中的两个下游任务(PPI预测和蛋白质功能预测)上的表现优于以往在欧氏空间中的编码方法(在PPI预测中AUC值高于VGAE模型0.07左右,在蛋白质功能预测中Macro-F1值高于VGAE模型0.02左右)。

基于CVGAE的无监督跨领域学习先决条件链挖掘

在学习过程中,概念之间存在一种先决条件关系,概念先决条件链挖掘可以帮助人们提高获取新知识的效率。依靠大规模标注数据,人们可以通过监督学习快速确定概念的学习顺序。但是在没有标注数据的领域,先决条件关系很难被发现,只能借助其他领域有标注的数据进行跨领域迁移。采用无监督跨领域变分图自编码器(CVGAE)可以解决跨领域先决条件链发现问题。CVGAE模型由变分图自编码器和领域判别器组成,变分图自编码器用来预测概念之间是否具有先决条件关系,领域判别器用来判断概念所属领域。模型只需要简单的同构图作为输入,不需要构建复杂的异构图。通过在自建的数据集上评估,相较于目前最先进的基于资源概念图的基准模型,该模型在仅使用20%的图规模和35%的计算时间的情况下却能够取得相当的效果。

基于自监督信息增强的图表示学习

针对图表示学习模型依赖具体任务进行特征保留以及节点表示的泛化性有限等问题,本文提出一种基于自监督信息增强的图表示学习模型(Self-Variational Graph Auto Encoder,Self-VGAE)。Self-VGAE首先使用图卷积编码器和节点表示内积解码器构建变分图自编码器(Variational Graph Auto Encoder,VGAE),并对原始图进行特征提取和编码;然后,使用拓扑结构和节点属性生成自监督信息,在模型训练过程中约束节点表示的生成。在多个图分析任务中,Self-VGAE的实验表现均优于当前较为先进的基线模型,表明引入自监督信息能够增强对节点特征相似性和差异性的保留能力以及对拓扑结构的保持、推断能力,并且Self-VGAE具有较强的泛化能力。

乳腺癌空间转录组数据集上基于深度学习的EnST算法研究

在保留空间位置和组织学图像的基础上,空间转录组学使用基因表达谱数据对组织结构和生物发育提出新的见解。准确识别位点的空间域是空间转录组学各种下游分析的重要步骤,提出的EnST算法在运用复合缩放网络的基础上,添加了变分图自编码器,能够在空间转录组数据中提取有用信息。在人类乳腺癌空间转录组学数据集中,相比于其他算法,EnST算法可以更好地描绘乳腺癌精细的空间组织结构。此外,EnST学习到的表征在聚类、可视化、差异基因表达分析、GO功能分析等下游任务中也展现出强大的性能。