多任务联合学习的图卷积神经网络推荐

基于图神经网络的协同过滤推荐可以更有效地挖掘用户项目之间的交互信息,但其性能依然受到数据稀疏和表征学习质量不高问题的影响,因此提出一种多任务联合学习的图卷积神经网络推荐(multi-task joint learning for graph convolutional neural network recommendations,MTJL-GCN)模型。利用图神经网络在用户-项目交互图上所聚集到的同质结构信息与初始嵌入信息形成结构邻居关系,设计节点邻居关系的对比学习辅助任务来缓解数据稀疏问题;向节点的原始表征添加随机的统一噪声进行表征级数据增强,构建节点表征关系的对比学习辅助任务,并提出直接优化对齐性和均匀性两个属性的学习目标来提高表征学习质量;将图协同过滤推荐任务与对比学习辅助任务和直接优化学习目标进行联合训练,从而提升推荐性能。在Amazon-books和Yelp2018两个公开数据集上进行实验,该模型在Recall@k和NDCG@k两个推荐性能指标上的表现均优于基线模型,证明了MTJL-GCN模型的有效性。

域自适应动态图卷积网络下的地铁客流预测

针对客流预测中存在因数据量有限导致模型训练过程中出现高方差和泛化性差等问题,提出一种域自适应动态图卷积网络(GCN-DANN)。通过构建地铁线路的节点网络拓扑结构,并利用动态图卷积网络提取相邻站点之间的流量、站点所属线路的交通负载以及不同线路之间的流量传播等关联特征。同时采用迁移学习自适应对齐源域和目标域的特征,减少因数据分布不一致而导致预测性能低等现象。最后,通过全连接层将源域和目标域中的特征进行信息融合,进而弥补训练过程出现高方差和泛化性差等缺陷。在深圳地铁数据集上对模型训练,分别在杭州地铁全样本和20%样本数据集上进行测试和验证。实验结果表明,在20%样本数据集下,GCN-DANN网络与经典预测网络相比,MAE、RMSER和MAPE分别平均下降5.34%、6.07%、2.97%。在全样本数据集下,GCN-DANN在20%样本基础上的三项指标分别下降2.76%、1.77%、3.5%,相较于其他经典网络下降幅度最小。研究可解决实际应用中因数据稀缺导致预测效果差的问题。

基于DKG和IGCN的电力变压器故障诊断方法

为了提升电力变压器的故障诊断的准确性,提出一种基于领域知识图谱(domain knowledge graph, DKG)和改进图卷积网络(improved graph convolutional network, IGCN)的电力变压器故障诊断方法。首先,利用DKG构建由节点与边构成的电力变压器知识图谱,并建立知识图谱与故障样本之间的映射关系,形成变压器故障知识图谱,为后续故障诊断提供数据支撑;其次,在谱域GCN原理的基础上,引入基于稀疏注意力的自适应图池化,对谱域GCN网络进行改进;最后,使用不同诊断方法对采集的3 000个变压器故障样本进行故障诊断实验,验证所提方法的优越性。实验结果表明,所提方法能够有效诊断变压器故障类型,较卷积神经网络、深度置信网络和深度神经网络等常规故障诊断方法:在2 400个样本下,识别率分别提升0.7%、4.7%和9.2%;随着样本数量的减小识别优势更为明显,在400个样本数量下,识别率分别提升4.2%、7.4%和14.3%。由此可知所提方法对变压器故障样本信息利用更为全面,诊断效果更优,且识别优势随着样本数量的减小更为明显。

基于图神经网络的百万数据人脸聚类

人脸聚类是利用未标记人脸数据的重要工具,在人脸标注和检索等方面有着广泛的应用.如何有效地聚类,特别是在大规模(如百万级或以上)数据集上,是一个悬而未决的问题.最近的研究表明,基于图卷积神经网络(GCN)的聚类可以显著提高性能.然而这些方法需要生成大量的重叠子图,严重限制了模型的精度和效率.由于这些GCN算法没有分析过不同数据特征对模型的影响,通常仅在特定的数据集上表现出优异的性能.本文综合分析了距离、实例个数分布差异对模型的影响,提出了一种基于DBSCAN的图卷积网络模型.通过两段距离形成二次聚类模型,消除了DBSCAN对距离的依赖,提高了模型精度,在多个数据集中最高提升了20%;通过探索融合one-hot特征编码方式、多种邻接矩阵构图方法,进一步提升了模型的鲁棒性;通过邻接矩阵稀疏化算法解决了人群数量动态变化问题.在多个大型基准上的实验表明,相较于现有GCN算法,所提算法精度提高了2%~7%,并降低了对硬件的要求,提升了运行效率,可以应用于百万级的人脸聚类场景.

面向癌症亚型预测的多组学AI模型

针对癌症亚型预测中仅使用单组学数据信息有限的问题,提出一种基于稀疏自编码器和相似网络融合的多组学癌症分型预测模型(multi-omics sparse auto-encoder, MOSAE)。利用稀疏自编码器提取患者特征向量,应用相似网络融合方法构建患者的相似度网络。基于患者特征向量和患者相似度网络利用残差图卷积网络构建预测模型。实验结果表明,在乳腺癌和卵巢癌数据上,所提模型识别亚型的准确率比现有方法分别提高了2.74%和19.74%。在TCGA的肺鳞状细胞癌和头颈部癌症数据上验证了MOSAE模型的优越性。

基于注意力机制和稀疏图卷积的行人轨迹预测

行人轨迹预测能够有效降低行人轨迹突变造成的碰撞风险,在智能交通及监控系统等领域有着广泛应用。目前已有的研究大多利用无向图卷积网络对行人间的社会交互关系进行建模,这种方法缺少对行人隐藏状态关联性的考虑,容易产生行人间的冗余交互。针对这一问题,提出一种基于注意力机制和稀疏图卷积的行人轨迹预测模型(DASGCN),通过构建深度注意力机制,捕捉行人间运动隐藏状态的关联性,从而准确地提取行人运动状态特征。进一步提出自调节稀疏方法,减小冗余信息带来的运动轨迹偏差,解决行人密集无向交互的问题。将所提模型在ETH和UCY数据集上进行验证,其平均位移误差(ADE)和最终位移误差(FDE)分别达到0.36和0.63。实验结果表明,DASGCN对行人轨迹的预测能力要优于传统算法。

多媒体信号处理的数学理论前沿进展

深度学习模型广泛应用于多媒体信号处理领域,通过引入非线性能够极大地提升性能,但是其黑箱结构无法解析地给出最优点和优化条件。因此如何利用传统信号处理理论,基于变换/基映射模型逼近深度学习模型,解析优化问题,成为当前研究的前沿问题。本文从信号处理的基础理论出发,分析了当前针对高维非线性非规则结构方法的数学模型和理论边界,主要包括:结构化稀疏表示模型、基于框架理论的深度网络模型、多层卷积稀疏编码模型以及图信号处理理论。详细描述了基于组稀疏性和层次化稀疏性的表示模型和优化方法,分析基于半离散框架和卷积稀疏编码构建深度/多层网络模型,进一步在非欧氏空间上扩展形成图信号处理模型,并对国内外关于记忆网络的研究进展进行了比较。最后,展望了多媒体信号处理的理论模型发展,认为图信号处理通过解析谱图模型的数学性质,解释其中的关联性,为建立广义的大规模非规则多媒体信号处理模型提供理论基础,是未来研究的重要领域之一。

高性能整数倍稀疏网络行为识别研究

目的 行为识别在人体交互、行为分析和监控等实际场景中具有广泛的应用。大部分基于骨架的行为识别方法利用空间和时间两个维度的信息才能获得好的效果。GCN(graph convolutional network)能够将空间和时间信息有效地结合起来,然而基于GCN的方法具有较高的计算复杂度,结合注意力模块和多流融合策略使整个训练过程具有更低的效率。目前大多数研究都专注于算法的性能,如何在保证精度的基础上减少算法的计算量是行为识别需要解决的关键性问题。对此,本文在轻量级Shift-GCN(shift graph convolutional network)的基础上,提出了整数倍稀疏网络IntSparse-GCN(integer sparse graph convolutional network)。方法 首先提出奇数列向上移动,偶数列向下移动,并将移出部分用0替代新的稀疏移位操作,并在此基础上,提出将网络每层的输入输出设置成关节点的整数倍,即整数倍稀疏网络IntSparse-GCN。然后对Shift-GCN中的mask掩膜函数进行研究分析,通过自动化遍历方式得到精度最高的优化参数。结果 消融实验表明,每次算法改进都能提高算法整体性能。在NTU RGB+D数据集的子集X-sub和X-view上,4流IntSparse-GCN+M-Sparse的Top-1精度分别为90.72%和96.57%。在Northwestern-UCLA数据集上,4流IntSparse-GCN+M-Sparse的Top-1精度达到96.77%,较原模型提高2.17%。相比代表性的其他算法,在不同数据集及4个流上的准确率均有提升,尤其在Northwestern-UCLA数据集上提升非常明显。结论 本文针对shift稀疏特征提出整数倍IntSparse-GCN网络,对Shift-GCN中的mask掩膜函数进行研究分析,并设计自动化遍历方式得到精度最高的优化参数,不但提高了精度,也为进一步的剪枝及量化提供了依据。

Route selection for opportunity-sensing and prediction of waterlogging

Accurate monitoring of urban waterlogging contributes to the city’s normal operation and the safety of residents’daily travel.However,due to feedback delays or high costs,existing methods make large-scale,fine-grained waterlogging monitoring impossible.A common method is to forecast the city’s global waterlogging status using its partial waterlogging data.This method has two challenges:first,existing predictive algorithms are either driven by knowledge or data alone;and second,the partial waterlogging data is not collected selectively,resulting in poor predictions.To overcome the aforementioned challenges,this paper proposes a framework for large-scale and fine-grained spatiotemporal waterlogging monitoring based on the opportunistic sensing of limited bus routes.This framework follows the Sparse Crowdsensing and mainly comprises a pair of iterative predictor and selector.The predictor uses the collected waterlogging status and the predicted status of the uncollected area to train the graph convolutional neural network.It combines both knowledge-driven and data-driven approaches and can be used to forecast waterlogging status in all regions for the upcoming term.The selector consists of a two-stage selection procedure that can select valuable bus routes while satisfying budget constraints.The experimental results on real waterlogging and bus routes in Shenzhen show that the proposed framework could easily perform urban waterlogging monitoring with low cost,high accuracy,wide coverage,and fine granularity.