NHCL:一种基于原生结构增强的超图对比学习

基于自监督学习的超图对比学习已被广泛研究,然而,当前超图对比学习大多采用传统图表示学习中的数据增强方法,较少考虑超图的原生结构,并没有充分利用超图中的高阶关系。为了解决这一局限性,提出了一系列基于超图原生结构的数据增强操作,即针对超图中的超边和节点进行扰动。通过对超边之间的包含、组合及相交等关系和节点之间交互关系的研究,提出了一系列面向超边和节点的基本扰动操作,并在此基础上对面向超边和节点之间的基本操作进行了组合,帮助模型进行学习。通过使用基本数据增强操作及其组合,生成用于超图对比学习模型进行学习的正负样本对,使用超图神经网络学习其表征信息并进行编码,通过损失函数指导模型训练,从而帮助模型学习到超图中的高阶关系。为了验证该方法的有效性,对Cora-CA、PubMed和ModelNet40等12个常用的超图基准数据集进行了节点分类实验。实验结果表明,相比于现有两个超图自监督方法Self和Con、超图对比学习方法HyperGCL和TriCL,该方法在节点分类准确率上提升了2%~7%。

基于超图Transformer的APT攻击威胁狩猎网络模型

针对物联网环境中高级持续性威胁(APT)具有隐蔽性强、持续时间长、更新迭代快等特点,传统被动检测模型难以对其进行有效搜寻的问题,提出了一种基于超图Transformer的APT攻击威胁狩猎(HTTN)模型,能够在时间跨度长、信息隐蔽复杂的物联网系统中快速定位和发现APT攻击痕迹。该模型首先将输入的网络威胁情报(CTI)日志图和物联网系统内核审计日志图编码为超图,经超图神经网络(HGNN)层计算日志图的全局信息和节点特征;然后由Transformer编码器提取超边位置特征;最后对超边进行匹配计算相似度分数,从而实现物联网系统网络环境下APT攻击的威胁狩猎。在物联网仿真环境下的实验结果表明,提出的HTTN模型与目前主流的图匹配神经网络相比均方误差降低约20%,Spearman等级相关系数提升约0.8%,匹配精度提升约1.2%。

基于关系超图增强Transformer的智能站二次设备故障诊断研究

随着智能变电站二次设备的状态感知与自描述能力不断提升,在提高电网调控细粒度的同时,其海量、驳杂、离散的状态信息也使故障诊断难度倍增。为提高二次设备故障诊断精度与效率,提出基于关系超图增强Transformer的二次设备故障诊断算法。首先利用Apriori算法挖掘故障信号间的关联规则,构建关系超图。然后利用超图卷积神经网络(hypergraph convolutional neural network,HGCN)和微调标准Transformer网络学习故障特征间的高阶关系和上下文表达,再经过误差反向传播、非线性传递函数预测故障类型。最后,以某地区一年的二次设备运行数据作为算例进行分析。结果表明,所提方法能够去除冗余信息干扰,准确定位故障元件和诊断故障类型,为智能运维提供支持。

超图神经网络综述

近年来,图神经网络借助大量数据和超强计算能力在推荐系统和自然语言处理等应用领域取得显著成效,它主要处理具有成对关系的图数据.但许多现实网络中的对象之间的关系是复杂的非成对关系,如科研合作网络、蛋白质网络等.若直接用图结构将这种复杂的关系表示为成对关系,会导致信息丢失.超图是一种灵活的建模工具,可以展现出图无法完整刻画的高阶关系,弥补了图的不足.鉴于此,研究者开始关心如何在超图上设计神经网络,并相继提出应用于下游任务的超图神经网络模型(hypergraph neural network,HGNNs).故对现有的超图神经网络模型进行综述,首先全面回顾超图神经网络在过去3年的研究历程;其次根据设计超图神经网络采用的方法不同对其进行分类,并详细地阐述代表性的模型;然后介绍了超图神经网络的应用领域;最后总结和探讨了超图神经网络未来的研究方向.

Light-HGNN:用于圈层内容推荐的轻量同质超图神经网络

图神经网络和超图神经网络(hypergraph neural network,HGNN)已经成为协同过滤推荐领域的研究热点.然而实际场景中用户和项目的交互非常复杂,导致用户之间存在高阶的复杂关系,而普通图结构只能表达简单的成对关系,对网络结构的堆叠容易导致中间层表征的过度平滑,在稀疏场景下的用户建模、用户相似性发现与挖掘方面能力较弱;同时,异质超图神经网络的复杂结构使得模型的训练效率较低.在以微信“搜一搜”等内容平台为代表的高度稀疏数据场景中,对于基于用户所属群体画像的圈层内容推荐任务,现有模型推荐效果差、用户表示的可解释性弱.因此,针对该类任务,提出了一个新的轻量同质超图神经网络模型,该模型包含用户交互数据至超图的转化、卷积生成用户表征序列、用户表征计算过滤.模型首先将用户-项目交互数据转化为只含用户节点的同质超图并计算得到用户表征解耦序列初始值,随后根据超图拉普拉斯过滤矩阵进行信息传播与序列值的迭代生成,通过不使用激活层的卷积方法简化模型结构,并根据提出的均值差JK注意力机制为每个序列值生成权重矩阵.最终,通过对解耦序列加权求和、过滤实现对用户表示的编码,并在真实数据集上进行实验验证了所提模型的相对更优效果.

基于超图嵌入和有限注意力的社会化推荐

近年来,社会化推荐作为推荐算法之一被广泛应用于各大平台.由于引入了用户的社交信息,社会化推荐可以较好地缓解数据稀疏问题.然而,大部分社会化推荐难以高效地从原始信息中提取用户的有效信息,导致引入社会信息的同时也会引入大量噪声.为了解决上述问题,本文提出了SRBHL(Social Recommendation Based on Hypergraph embedding and Limited attention)模型,通过超图嵌入模块提取用户的历史行为信息和社交信息,以缓解原始目标用户数据稀疏问题,并结合有限注意力模块来过滤原始信息的噪声,最后将得到的有效好友信息用于推荐.在Yelp-Urbana、Yelp-Phoenix和Epinions3个真实数据集上的实验结果表明SRBHL模型相比其他的推荐算法表现更出色.此外,本文还对SRBHL模型进行了鲁棒性分析,并给出了模型最优参数的取值范围.

基于非回溯矩阵中心性的超图可靠性研究

近年来,超图作为网络科学的一个研究热点,引起了广泛的关注。超图区别于传统图的结构特点在于它的超边可以同时连接多个节点,从而形成更为复杂和高阶的关系。在这样的网络结构中,有效地识别重要的节点和超边成为一个关键的挑战。特征向量中心性是一个常见的度量标准,但当网络中存在着极大度值的枢纽节点时,使用特征向量中心性度量方法会使结果表现出局域性,限制了该方法的应用场景。因此,将超图转化成对应的线图,在此基础上使用非回溯矩阵中心性这一方法,该方法在评估超边重要性时表现出更好的均匀性和区分度。此外,还探讨了特征向量中心性和非回溯矩阵中心性在超图中节点重要性评估上的应用。通过比较这两种方法,研究发现非回溯矩阵中心性在区分节点重要程度方面具有更明显的优势。研究不仅包括理论分析和模型构建,还包括对真实世界数据的实证。为了验证所提方法和结论,选取了6个真实世界超图作为实验对象。通过在这些超图上的应用,证明了非回溯矩阵中心性在识别重要节点和超边方面的有效性。研究为超图中关键元素的识别提供了一种新的视角和方法,对于理解和分析实际复杂网络系统,具有重要的理论和实践意义。

基于BERT和超图对偶注意力网络的文本情感分析

针对网络短文本存在大量的噪声和缺乏上下文信息的问题,提出一种基于BERT和超图对偶注意力机制的文本情感分析模型。首先利用BERT预训练模型强大的表征学习能力,对情感文本进行动态特征提取;同时挖掘文本的上下文顺序信息、主题信息和语义依存信息将其建模成超图,通过对偶图注意力机制来对以上关联信息进行聚合;最终将BERT和超图对偶注意力网络两个模块提取出的特征进行拼接,经过softmax层得到对文本情感倾向的预测结果。该模型在电商评论二分类数据集和微博文本六分类数据集上的准确率分别达到95.49%和79.83%,相较于基准模型分别提高2.27%~3.45%和6.97%~11.69%;同时还设计了消融实验验证模型各部分对分类结果的增益。实验结果表明,该模型能够显著提高针对中文网络短文本情感分析的准确率。

基于超图和MuSig2聚合签名的联盟链主从多链共识机制

针对多链式区块链采用主链最终共识机制,导致主链负载大,制约从链性能等问题,论文提出一种基于超图和MuSig2聚合签名的联盟链主从多链共识机制.首先根据超图理论,构建以横贯超图为主链,子超图为从链的联盟链主从多链架构;然后借鉴分治思想,结合“背书-排序-验证”的共识方式,构建分层分类共识机制,通过分类处理交易降低主链负载压力;最后构建基于MuSig2聚合签名的联盟链多方背书签名方法,提升背书签名的验证效率.性能分析表明:基于MuSig2聚合签名的联盟链多方背书签名安全可靠,基于超图和MuSig2聚合签名的分层分类共识机制具有强一致性和线性时间复杂度.实验结果表明:基于MuSig2聚合签名的多方背书方法的总效率是椭圆曲线数字签名算法(Elliptic Curve Digital Signature Algorithm,ECDSA)的1.55倍,分层分类共识机制能够提升12.5%的共识效率.该机制具有较高性能,可满足企业多样化业务需求.

结合超图对比学习和关系聚类的知识感知推荐算法

结合知识图谱的推荐算法通过引入知识图谱,获得项目的辅助信息,从而实现更好的推荐效果。然而推荐的过程中存在知识图谱中关系长尾分布、用户项目交互数据稀疏和异构信息利用不平衡的问题。针对这些问题,提出了一种结合超图对比学习和关系聚类的知识感知推荐算法(HC-CRKG)。通过关系聚类的方式重构知识图谱,缓解了知识图谱中关系的长尾分布问题;构建用户-项目-实体异构图,利用一种结合注意力机制的图卷积网络学习用户、项目的异构图嵌入;同时使用一种参数化的超图卷积网络,学习用户、项目的超图嵌入;在异构图嵌入和超图嵌入之间进行对比学习,为模型引入自监督信号,缓解数据稀疏性问题;将异构图嵌入和超图嵌入相结合,用于后续的推荐预测,进一步缓解了异构信息利用不平衡问题。模型在MovieLens-1M、Book-Crossing和Last.FM三个公开数据集上与CKAN、KGIC、VRKG4Rec等基线模型进行对比实验,实验结果表明在AUC、F1和Recall@K指标上,模型均取得了不同程度的提升。

基于超图正则NMF的自适应半监督多视图聚类

图正则非负矩阵分解(GNMF)虽然已成为大量多视图聚类方法的基本框架,但其尝试用简单图融合来自不同视图的复杂数据关系,同时获得一致性判别表示,这无疑有很大挑战性。为了更好地应对多视图数据的聚类任务,本文提出一种基于超图正则非负矩阵分解的半监督多视图聚类方法ASMCHNMF。该方法通过构造超图,学习来自多个视图的数据高阶关系,为合理利用现实世界中可获取的标签信息,引入标签约束项进行半监督学习。此外,该方法同时考虑一致性信息和互补性信息的学习,采用自适应措施区分不同视图的贡献,并使用交替迭代算法来对主函数进行优化。在7个真实数据集上的对比实验表明,在其中6个数据集上,ASMCHNMF算法的ACC和NMI指标均优于经典算法和当前先进算法。

多层次特征融合与超图卷积的生成对抗壁画修复

针对现有壁画深度学习修复方法,存在上下文信息关注不足及结果欠佳的问题,提出了一种多层次特征融合与超图卷积的生成对抗修复模型。首先,利用金字塔特征分层对壁画进行多尺度层次特征提取,并采用混合空洞卷积单元扩大多层特征提取感受野,以克服单尺度卷积操作对于壁画特征提取能力不足的问题。然后,提出多分支短链融合层及门控机制融合多分支特征方法,将相邻分支间的特征信息进行融合,使融合后的壁画特征图中既有同分支的特征,又有相邻分支的特征,以提高特征信息的利用率;并引入门控机制对特征进行选择融合,以减少细节信息的丢失。接着,将融合特征通过卷积长短期记忆网络(ConvLSTM)特征注意力方法,增强对壁画上下文信息的关注。最后,设计超图卷积壁画长程特征增强模块,通过在编码器和解码器的跳跃连接之间建立超图卷积层,利用超图卷积捕获编码器的空间特征信息,并将其迁移到解码器中,有助于解码器更好地生成壁画图像,以加强特征的长程依赖关系,并与SN-PatchGAN判别器对抗博弈从而完成修复。通过敦煌壁画数字化修复实验,结果表明:所提方法客观评价优于对比算法,对于破损壁画修复结果更加清晰自然。

完全3-一致超图K_(41)^((3))的5-圈分解

超图是有限集合的子集系统,它与数据库有密切关系。从数据库理论来看,圈结构是超图理论中最本质、最基本的结构。超图的圈分解是超图理论中重要的研究内容之一。有研究者对超图的哈密尔顿圈、非哈密尔顿圈分解做了研究。利用超图的圈分解序列与其边划分序列二者之间的关联,对n阶完全3-一致超图存在5-圈分解的公开问题进行了研究,验证了n=41时公开问题成立。

k一致超图的α谱极值结果

设F是一个简单图,如果Berge F的每条边均由超边替换F中的边而得到,则Berge F为超图.超图G如果不包含子超图Berge F,则G是Berge F-free的.为此,基于Aα张量研究具有特殊结构的线性一致超图的谱-Turán-问题,分别证明了Berge C4-free和围长至少为5的线性一致超图的α谱极值.

基于谱域超图卷积网络的交通流预测模型

针对传统图结构难以对节点间的隐含复杂关联关系建模的问题,利用超图对交通流数据进行高阶表示,提出基于谱域超图卷积网络的交通流预测方法。首先,通过动态超边刻画数据特征层面的关系,利用谱域超图卷积,包括基于傅里叶和图小波的超图卷积及门控时序卷积,在多尺度上提取交通流的时空特征,实现端到端的节点级交通流预测。然后,采用北京市以及美国加利福尼亚州真实历史数据集进行预测实验。消融实验通过孤立和重构网络模型验证了所提方法的有效性。全时段和早高峰交通流预测的实验结果表明,该方法预测准确率高于目前主流交通流预测模型。

基于模糊超图神经网络的节点分类方法

【目的】超图神经网络(HGNN)具有学习类间唯一性和类内共性的能力,可以显著提高学习性能。但是,传统HGNN方法缺乏决定低维数据节点间如何进行连接交互的强关系归纳。针对此问题,提出一种基于模糊理论的模糊HGNN(FHGNN)节点分类算法,根据数据节点的特征信息构建超图结构,加强了图的节点信息对节点连接的影响。【方法】FHGNN首先采用了一个边聚焦的图神经网络(GNN),通过边标签的迭代更新进行边预测。并根据边预测的输出设计模糊隶属度函数,以实现更精确的节点间连接关系表示。最后通过得到的关系表示构造超图,并再次对节点进行分类训练得到结果。在FHGNN中使用了边标签损失函数和节点标签损失函数并分别对其参数进行训练学习。【结果】实验结果表明,所提的FHGNN方法更能够适应小规模低维数据,并在节点分类任务上取得好的效果。【结论】对于不同数据集的分类任务,FHGNN可以更有效学习节点的相关特征信息,提高学习的效果。

基于增强嵌入特征超图学习的恶意域名检测方法

攻击者利用域名灵活地实施各类网络攻击,诸多学者针对性地提出了一些基于统计特征和基于关联关系的恶意域名检测方法,但这2类方法在域名属性高阶关系表示方面存在不足,无法准确呈现域间全局高阶关系.针对这类问题,提出一种基于嵌入式特征超图学习的恶意域名检测方法:首先基于域名空间统计特征利用决策树构建域名超图结构,利用决策树倒数第2层节点的输出结果作为先验条件形成超边,快速将域名流量之间的多阶关联关系清晰地表示出来;其次基于超图结构特征对字符嵌入特征进行增强编码,基于域名空间统计特征和域名字符嵌入编码特征从域名数据中挖掘出字符间隐藏的高阶关系;最后结合中国科技网真实的域名系统(domain name system,DNS)流量,对有效性和可行性进行了分析与评估,能够快速高效地检测隐蔽的恶意域名.

基于事件驱动的超图卷积网络的谣言检测方法

依靠社交平台谣言传播链检测谣言是社交网络分析研究中的一个重要课题.但以往的研究大多将这个任务过度简化为依靠评论的传播链检测谣言,忽略了对现实世界新闻帖的复杂用户和事件交互的关注,难以捕捉到这些信息提供的潜在检测线索.针对该挑战,提出了一个事件驱动的超图卷积网络(event-driven hypergraph convolutional network,EHGCN),首次尝试将新闻、用户和事件建模在一个统一的超图卷积网络之中,以提升谣言检测性能.具体而言,基于用户的中心网络构建同质用户圈,以增强用户感知的谣言检测.此外,EHGCN联合利用事件内的主事件和子事件关联以及事件间的不一致性关联来进行谣言检测.在3个真实世界的数据集上进行的实验结果验证了EHGCN相较于现有方法在谣言检测方面的优势.研究也证实EHGCN可以通过获取丰富的用户社交圈和事件信息,在谣言传播早期及时发现谣言.

面向超图的可解释性对比元路径群组推荐

在群组推荐中庞大且稀疏的数据往往容易忽视用户群组及项目之间的复杂依赖关系,因此融合不同用户偏好行为嵌入,使用户对群组依赖关系的表现更直观,同时为了在对比中增强视图效果,以获得更准确的推荐结果的目的,提出了一个面向超图的可解释性对比元路径群组推荐框架。通过聚合用户项目群组之间的依赖关系,构建元路径表现实体之间的不同类型交互,以促进实体的相似性,更准确地从数据中获取用户的组内、组外交互;通过将可解释性模型与对比学习相结合的技术,以提高模型的可解释性和性能;通过解释引导增强操作在模型框架上生成的正负视图上结合自监督对比学习,来解决上述问题。在真实数据集上进行实验,验证了所提出方法的有效性。

基于超图嵌入的行车故障多元关系知识表示方法

鉴于常规知识图谱仅能处理二元关系,而故障知识包含大量“多现象—多原因—多方法”的多元耦合关系,强制转化将会破坏关系的完整性,造成严重的信息失真,为采用知识超图处理此类复杂多元关系以保证数据的完整性,设计了一种基于超图嵌入的行车故障多元关系知识表示方法。通过梳理行车故障单中现象、原因、方法等数据之间的多元关联,构建适用于表征多元耦合关系的行车故障本体模型,以该本体模型为知识超图的模式层建立行车故障知识超图;基于BERT模型和超图卷积网络获取故障知识的嵌入向量表示,并实现了相似故障检索。最后,以上海某钢铁公司收集的行车故障调查单为实例,验证了所提方法的有效性。