融合自适应周期与兴趣量因子的轻量级GCN推荐

推荐系统在成熟的数据挖掘技术推动下,已能高效地利用评分数据、行为轨迹等显隐性信息,再与复杂而先进的深度学习技术相结合,取得了很好的效果.同时,其应用需求也驱动着对基础数据的深度挖掘与利用,以及对技术要求的减负成为一个研究热点.基于此,提出一种利用GCN(graph convolutional network)方法进行深度信息融合的轻量级推荐模型LG_APIF.该模型结合行为记忆,通过艾宾浩斯遗忘曲线模拟用户兴趣变化过程,采用线性回归等相对轻量的传统方法挖掘项目的自适应周期等深度信息;分析用户当前的兴趣分布,计算项目的兴趣量,以获取用户的潜在兴趣类型;构建用户-类型-项目三元组的图结构,并结合减负后的GCN技术来生成最终的项目推荐列表.实验验证所提方法的有效性,通过与8个经典模型在Last.fm,Douban,Yelp,MovieLens数据集中的对比,表明该方法在Precision,Recall及NDCG指标上都得到良好改善,其中,Precision平均提升2.11%,Recall平均提升1.01%,NDCG平均提升1.48%.

多视角融合的时空动态GCN城市交通流量预测

城市交通流量预测是构建绿色低碳、安全高效的智能交通系统的重要组成部分.时空图神经网络由于具有强大的时空数据表征能力,被广泛应用于城市交通流量预测.当前,时空图神经网络在城市交通流量预测中仍存在以下两方面局限性:1)直接构建静态路网拓扑图对城市空间相关性进行表示,忽略了节点的动态交通模式,难以表达节点流量之间的时序相似性,无法捕获路网节点之间在时序上的动态关联;2)只考虑路网节点的局部空间相关性,忽略节点的全局空间相关性,无法建模交通路网中局部区域和全局空间之间的依赖关系.为打破上述局限性,提出了一种多视角融合的时空动态图卷积模型用于预测交通流量:首先,从静态空间拓扑和动态流量模式视角出发,构建路网空间结构图和动态流量关联图,并使用动态图卷积学习节点在两种视角下的特征,全面捕获城市路网中多元的空间相关性;其次,从局部视角和全局视角出发,计算路网的全局表示,将全局特征与局部特征融合,增强路网节点特征的表现力,发掘城市交通流量的整体结构特征;接下来,设计了局部卷积多头自注意力机制来获取交通数据的动态时间相关性,实现在多种时间窗口下的准确流量预测;最后,在4种真实交通数据上的实验结果,证明了该模型的有效性和准确性.

基于GCN和BiLSTM的Android恶意软件检测方法

现有Android恶意软件检测方法大多是对单一结构类型的特征进行学习,在分析应用程序语义方面有所缺失。针对传统检测方法捕获特征语义不够全面的问题,文中创新性地提出了一种基于GCN和BiLSTM的Android恶意软件检测模型,在精准提取样本结构信息的同时对恶意行为语义进行重点分析。首先以图的方式表征26类关键系统调用间的拓扑关系,使用双层GCN网络聚合系统调用图中节点的高阶结构信息,有效提高特征学习效率;然后利用带有自注意力机制的BiLSTM网络获取操作码序列的上下文语义,通过为具有恶意特征的序列赋予高权重得到特征内部的强相关性;最后使用Softmax输出融合结构信息和上下文特征的样本分类概率。在基于Drebin和AndroZoo数据集的实验中,所提模型准确率达到了93.95%,F1值达到了97.09%,相较于基准算法有显著提高,充分证明了基于GCN和BiLSTM的模型能有效提升Android恶意软件的检测效果。

基于GCN和门机制的汉语框架排歧方法

汉语框架排歧旨在在候选框架中给句子中的目标词选择一个符合其语义场景的框架。目前研究方法存在隐层向量的计算与目标词无关、忽略了句法结构信息对框架排歧的影响等缺陷。针对上述问题,该文使用GCN对句法结构信息进行建模;引入门机制过滤隐层向量中与目标词无关的噪声信息;并在此基础上,提出一种约束机制来约束模型的学习,改进向量表示。该模型在CFN、FN1.5和FN1.7数据集上优于当前最好模型,证明了该方法的有效性。

CINO-TextGCN:融合CINO与TextGCN的藏文文本分类模型研究

为提高藏文新闻文本分类准确性,文章提出一种融合少数民族语言预训练模型(Chinese Minority Pr-etrained Language Model,CINO)和图卷积神经网络模型(Text Graph Convolutional Networks,TextGCN)的方法,即CINO-TextGCN模型。为有效评测该模型对藏文文本的分类性能,自建了较大规模和较高质量的藏文新闻文本公开数据集TNEWS(https://github.com/LG2016/CINO-TextGCN),通过实验发现,CINO-Text-GCN在公开数据集TNCC上的准确率为74.20%,在TNEWS上为83.96%。因此,该融合模型能够较好地捕捉到藏文文本语义,提升藏文文本分类性能。

基于对比学习的LightGCN推荐算法的改进

轻度图卷积神经网络(LightGCN)是推荐系统研究课题的热点,其将深度学习应用到推荐系统,并将系统中图卷积神经网络进行简化,大大提高了推荐性能。然而,其在LightGCN中的损失函数较单一,仅使用了BPR损失和L2正则化损失,未能充分利用数据集。基于此,本文将对比学习融入到LightGCN模型。具体来说,先设置一个边界以用来过滤相似度低的信息,再使用超参数来控制正负样本之间的相对权重,从而最大化正样本对,以及最小化已经过滤的负样本对间的相似性。结果表明,在相同实验设置下,本文改进算法较LightGCN评价指标有了提升,实验效果更好。

基于OpenPose和ST⁃GCN的步态识别研究

根据行人步态具有唯一性,且不受客观因素影响的特点,利用OpenPose提取行人的骨架信息,结合时空图卷积神经网络模型,构建步态识别模型,在步态识别网络中融入注意力机制,可以有效地避免系统陷入局部最优解,使分类模型可以结合骨架的局部信息和全局信息,构建丰富的网络模型,提高识别系统的泛化能力,实验结果显示,达到了较为理想的步态识别效果。

结合改进Alphapose和GCN的人体摔倒检测模型研究

为改进当前人体摔倒检测方法场景适应能力弱、易误检等不足,提出了一种基于人体骨骼关键点和GCN结合的人体摔倒检测模型。在CrownHuman、COCO2017、Le2i等数据集上进行对比试验,试验结果表明优化后的YOLOX人体目标检测算法的平均准确率达到了50.66%,较YOLOv3、YOLOv5提高了9.83%和3.97%。人体姿态估计算法的平均准确率达到了71.6%,优于OpenPose、Mask-RCNN等方法。基于图卷积的人体摔倒检测算法准确率达到92.2%,高于YOLOv5-S+pose等方法。一系列的试验结果表明,所提出的摔倒检测方法具有较高的检测精度。

基于ST-GCN的空中交通管制员不安全行为识别

为预防和监督空中交通管制(ATC)工作中的违章行为,利用智能视频分析技术,研究适用于管制员坐姿工作的不安全行为识别模型。首先,分析管制员不安全工作行为的隐蔽性特征,总结5种典型管制员不安全行为,包括伸懒腰、瞌睡、低头入睡、歪头入睡和半躺入睡,并构建管制员不安全工作状态视频数据集(CUWS);其次,提出一种能描述管制员坐姿的骨架关键点拓展算法,基于时空图卷积网络(ST-GCN)搭建适用于管制员坐姿与腿部遮蔽情况下的不安全行为识别模型ATC-ST-GCN,并给出管制员不安全行为识别的工作流程;最后,利用CUWS数据集进行ATC-ST-GCN模型的训练和测试,并利用管制室实际监控视频开展验证试验。结果表明:该模型能够在有限验证数据集上实现5种典型不安全行为识别,准确率达到93.65%。试验结果证明该模型具有一定的科学性与有效性。

基于Vocab-GCN的中文医疗文本分类方法

提出一种应用于中文医疗文本分类的基于词汇级的图卷积神经网络(Vocab-GCN)模型。该模型不仅可以直接对医学文本关系图进行学习,在图嵌入中保存关系图的全局结构信息,得到含有语义网络的深层病理关系,而且仅依靠两层卷积神经网络(CNN)就展现出了良好的学习优势。实验结果表明:基于Vocab-GCN的中文医疗文本分类方法相比于最优的深度学习方法提高了6.17%的分类准确率,适用于患者初步对疾病类型做出诊断。

基于GCN-GRU组合模型的基坑周边管线沉降预测

为提高基坑变形预测结果的准确性,在传统的单点时间序列预测基础上,引入监测数据的空间特征对预测方法进行改进.基于图卷积神经网络(graph convolutional network,GCN)和门控循环单元(gate recurrent unit,GRU),构建一种能捕获数据时空关联性的变形预测模型GCN-GRU,并将其应用于上海某基坑周边管线沉降的变形预测.结果表明,相比于GRU时间序列预测模型,考虑了空间关联性的GCN-GRU模型在单步预测中的均方根误差(root mean square error,RMSE)和平均绝对百分比误差(mean absolute percentage error,MAPE)分别降低了27.3%和25.0%,多步预测中的RMSE和MAPE降低了37.2%和37.3%,预测结果准确性较高.该方法可为同类基坑工程周边管线沉降变形预测提供参考.

基于CNN-GCN模型的扫描电镜图像分类

通过对矿物扫描电镜图像进行分类与鉴定,能够获取矿物的微观信息,确定矿物的组成与类别,对于油气田生、储、盖类型的研究具有重要的意义.由于在一幅图像之中有时不止有一种矿物,且不同矿物之间具有相关性或共生性的特性,而普通的神经网络只提取图像特征或只注意图像局部的特征关系,忽略了矿物之间的相关性.因此如何利用标签之间的关系进行更优秀的多标签图像分类成为扫描电镜图像分类的重要任务.鉴于上述情况,通过构建基于Resnet50的图像特征学习模块与基于图卷积神经网络的分类器模块构成的引入图卷积的卷积神经网络模型可以很好地完成上述任务.使用卷积神经网络模块提取图像特征,并利用GCN模块学习矿物标签之间的相关性,达到提高分类准确率的目的.此模型相比普通的CNN模型准确率提高了5%,相比引入注意力机制的CNN模型,此模型的准确率仍有3%的优势.实验表明,CNN与GCN相结合的分类模型在扫描电镜数据集分类任务中优于其他的分类模型.

基于集成GCN-Transformer网络的ENSO预测模型

厄尔尼诺-南方涛动(El Niño-Southern Oscillation, ENSO)是热带太平洋海表面温度发生异常的现象,会导致冰雹、洪水、台风等极端天气的出现,因此对ENSO的准确预测意义重大。本文设计了集成GCN-Transformer(GCNTR)模型,首先运用Transformer网络的全局特征聚焦能力对数据特征进行编码,然后结合GCN提取图数据特征的能力,最后引入特征融合门控机制将经过编码的特征和GCN提取的特征进行融合,实现ENSO的精确预测。结果表明,GCNTR模型实现了对ENSO提前20个月的预测,比ENSOTR多了3个月,比Transformer多了5个月,并且模型绝大部分的预测精度优于其他模型。与现有的方法相比,GCNTR模型能够实现对ENSO更好的预测。

基于BERT-GCN的因果关系抽取

针对自然语言处理中传统因果关系抽取主要用基于模式匹配的方法或机器学习算法进行抽取,结果准确率较低,且只能抽取带有因果提示词的显性因果关系问题,提出一种使用大规模的预训练模型结合图卷积神经网络的算法BERT-GCN.首先,使用BERT(bidirectional encoder representation from transformers)对语料进行编码,生成词向量;然后,将生成的词向量放入图卷积神经网络中进行训练;最后,放入Softmax层中完成对因果关系的抽取.实验结果表明,该模型在数据集SEDR-CE上获得了较好的结果,且针对隐式的因果关系效果也较好.

基于GCN-LSTM的钱塘江南源水质预测研究

流域水质数据存在时间和空间上的双重依赖性,针对现有水质预测模型大多建立在时间维度上,不能有效利用水质空间相关性问题,提出了基于图卷积神经网络GCN和长短时记忆网络LSTM的水质预测模型。首先建立流域监测点间的拓扑结构,并将监测点沿河道的距离作为权重表征监测点间连接的强弱;然后采用图卷积神经网络GCN捕获每个输入时刻监测点间的空间关系,再通过LSTM捕获其时间上水质变化特征;最后通过多层感知器MLP得到水质预测结果。将钱塘江南源作为研究对象,对流域内15个监测点的pH值、溶解氧DO、高锰酸盐指数CODMn进行预测,结果表明:相较于LSTM,GCN-LSTM模型水质预测结果平均百分比误差MAPE分别下降15.29%、11.77%、9.8%;监测点间的连接具有差异性,通过距离来表示监测点间连接强弱可以使水质预测结果更为精确。

基于GCN-BiLSTM的短时交通流预测模型

文中提出图卷积网络(GCN)与双向长短时记忆神经网络(BiLSTM)组合短时交通流预测模型.利用图卷积网络提取路网拓扑结构解决拓扑关系问题,提取路网间的空间特征,利用双向长短时记忆神经网络用于学习交通数据的动态变化以获取时间相关性,融合GCN-BiLSTM模型同时考虑路网时空关系实现交通流预测.结果表明:文中提出的方法能更好地适应在不同交通流特性条件下的交通流,工作日和周末的预测偏差相较于经典算法降低12.24%和13.20%.

基于ResGCN-GRU的大气污染风险源识别

重污染天气是“十四五”时期大气污染治理的重点工作,在重污染天气时期对风险源进行精准识别,可以及时发出预警,做好环境污染治理,防止污染事件进一步加重.基于网格化监测技术获取的数据,本文提出一种结合残差网络(ResNet)、图卷积网络(GCN)和门控循环网络(GRU)的深度学习模型ResGCN-GRU,该模型主要应用于重污染天气时期识别风险源.重污染天气的风险源往往都是区域性的,具有明显的时空特征,因而本文先利用GCN网络提取监测点位之间的空间特征,同时利用ResNet解决多层GCN带来的过平滑以及梯度消失问题;再利用GRU提取风险源的时间特征,最后将全连接层融合的时空特征输入到Softmax激活函数得到二分类概率值,再根据概率值得到分类结果.为验证本文提出的模型性能,本文基于沈阳市72个监测点位的数据,通过精确度、召回率以及综合评价指标对GCN、LSTM、GRU和GCN-GRU进行对比,实验结果表明ResGCN-GRU模型分类效果的精确度分别要好16.9%、4.3%、3.1%、2.9%,证明了本文提出的模型在大气风险源识别方面更加有效,可以根据风险源数据的时空特征达到对风险源的精准识别.

基于ST-GCN警用巡逻机器人警情识别系统设计

针对现有警用巡逻机器人警情识别系统识别种类单一、识别率较低等问题,基于时空—图卷积网络(ST-GCN)和OpenPose算法的融合,面向跌倒(fall)、打砸(smash)和推搡(push)3种警情,设计了警用巡逻机器人警情识别系统。通过在真实场景测试,3种警情识别率分别为:跌倒85%,打砸80%,推搡83%;实时识别帧率为10 fps。实验结果表明:所设计的警情识别系统可以实现多种警情的实时、准确、可靠识别,具有较高的应用价值。

基于ICRITIC-GCN的空战目标威胁评估

为研究解决空战目标威胁评估问题时目标属性复杂、数据非结构化等问题,提高评估效率,提出图卷积网络(graph convolutional network,GCN)的解决方法,并引入改进的指标相关性权重确定方法(improved criteria importance through intercriteria correlation,ICRITIC),构建了基于ICRITICGCN的目标威胁评估模型。针对战场威胁目标的空间拓扑性和属性复杂性,利用图卷积网络在处理非欧式数据时的优势进行学习训练;针对传统方法在属性权重时过于主观的问题,ICRITIC法考虑属性之间的关联性及属性的信息量,客观分配属性权重。仿真结果表示,该算法在解决多目标威胁评估问题时,在处理效率、准确率等方面均有所提升。

基于ST-GCN的形体动作质量评估算法分析

阐述一种基于时空图卷积的太极拳动作质量评估框架,通过轻量级OpenPose姿态估计获得训练动作的骨架序列数据,然后使用时空图卷积网络(Spatial Temporal Graph Convolutional Network,STGCN)提取动作的时空特征与标准动作的特征对比,利用孪生网络学习动作的质量分数。