Meta-Path-Based Deep Representation Learning for Personalized Point of Interest Recommendation

With the wide application of location-based social networks(LBSNs),personalized point of interest(POI)recommendation becomes popular,especially in the commercial field.Unfortunately,it is challenging to accurately recommend POIs to users because the user-POI matrix is extremely sparse.In addition,a user's check-in activities are affected by many influential factors.However,most of existing studies capture only few influential factors.It is hard for them to be extended to incorporate other heterogeneous information in a unified way.To address these problems,we propose a meta-path-based deep representation learning(MPDRL)model for personalized POI recommendation.In this model,we design eight types of meta-paths to fully utilize the rich heterogeneous information in LBSNs for the representations of users and POIs,and deeply mine the correlations between users and POIs.To further improve the recommendation performance,we design an attention-based long short-term memory(LSTM)network to learn the importance of different influential factors on a user's specific check-in activity.To verify the effectiveness of our proposed method,we conduct extensive experiments on a real-world dataset,Foursquare.Experimental results show that the MPDRL model improves at least 16.97%and 23.55%over all comparison methods in terms of the metric Precision@N(Pre@N)and Recall@N(Rec@N)respectively.

Source-Aware Embedding Training on Heterogeneous Information Networks

Heterogeneous information networks(HINs)have been extensively applied to real-world tasks,such as recommendation systems,social networks,and citation networks.While existing HIN representation learning methods can effectively learn the semantic and structural features in the network,little awareness was given to the distribution discrepancy of subgraphs within a single HIN.However,we find that ignoring such distribution discrepancy among subgraphs from multiple sources would hinder the effectiveness of graph embedding learning algorithms.This motivates us to propose SUMSHINE(Scalable Unsupervised Multi-Source Heterogeneous Information Network Embedding)-a scalable unsupervised framework to align the embedding distributions among multiple sources of an HiN.Experimental results on real-world datasets in a variety of downstream tasks validate the performance of our method over the state-of-the-art heterogeneous information network embedding algorithms.

一种基于HIN的学习资源推荐算法研究

如何提高学习资源的推荐准确度是自适应学习研究中的核心问题.为此,本文提出了一种基于异构信息网络的学习资源推荐算法.该算法以基于元路径的相似性度量为基础,结合知识转化概率和学习反馈信息,计算学习者与所有学习资源之间的语义相似度,并依据该相似度进行排名,将排名top-K的学习资源推荐给学习者.相关的实验表明,本文方法有效实现了自适应学习中学习资源的准确推荐.

面向HIN基于多视角嵌入融合的推荐方法

由于异构信息网络HIN(heterogeneous information network)具有丰富的语义信息而在推荐任务中得到广泛应用.传统的面向异构信息网络的推荐方法忽略了网络中关联关系的异质性,以及不同关联类型之间的相互影响.提出了一种基于多视角嵌入融合的推荐模型,分别从同质关联视角和异质关联视角来挖掘异构信息网络的深层潜在特征并加以融合,有效地保证了推荐结果的准确性.针对同质关联视角,提出了一种基于图卷积神经网络的嵌入融合方法,通过对同质关联作用下节点邻域信息的轻量式卷积,实现节点嵌入的局部融合.针对异质关联视角,提出了一种基于注意力的嵌入融合方法,利用注意力机制来区分不同关联类型对节点嵌入的影响,实现节点嵌入的全局融合.通过实验验证了所提出的关键技术的可行性和有效性.

AttrHIN2Vec:一种新型异质信息网络表示学习模型

研究异质信息网络(HIN)中的表示学习问题。结点的属性信息通常包含丰富的潜在特征,然而,现有的HIN表示学习模型却很少考虑结点的属性信息。针对这种情况,提出一种新的网络表示学习模型,称为AttrHIN2Vec。它采用带权重元路径随机游走策略,并与自然语言处理中的Skip-Gram模型相结合,最终得到具有结点向量与结点属性向量的完整表示。由于考虑元路径的权重信息以及结点的属性信息,与最先进的方法相比,AttrHIN2Vec在HIN结点分类任务中取得更有效的结果。

基于多嵌入融合的top-N推荐

异构信息网络(Heterogeneous Information Network, HIN)凭借其丰富的语义信息和结构信息被广泛应用于推荐系统中,虽然取得了很好的推荐效果,但较少考虑局部特征放大、信息交互和多嵌入聚合等问题。针对这些问题,提出了一种新的用于top-N推荐的多嵌入融合推荐(Multi-embedding Fusion Recommendation, MFRec)模型。首先,该模型在用户和项目学习分支中都采用对象上下文表示网络,充分利用上下文信息以放大局部特征,增强相邻节点的交互性;其次,将空洞卷积和空间金字塔池化引入元路径学习分支,以便获取多尺度信息并增强元路径的节点表示;然后,采用多嵌入融合模块以便更好地进行用户、项目以及元路径的嵌入融合,细粒度地进行多嵌入之间的交互学习,并强调了各特征的不同重要性程度;最后,在两个公共推荐系统数据集上进行了实验,结果表明所提模型MFRec优于现有的其他top-N推荐系统模型。

融合跨平台用户偏好与异质信息网络的推荐算法研究

[目的/意义]本文基于跨平台用户的异构大数据,提出一种融合跨平台用户偏好与异质信息网络的推荐算法(CPHAR),对于缓解个性化推荐的稀疏性和冷启动问题具有重要意义。[方法/过程]首先,根据跨平台用户信息构建核心兴趣朋友圈,使用卷积神经网络和自注意力机制捕捉用户在源平台和目标平台中的信息偏好特征;其次,根据核心兴趣网络以及推荐项目之间的关系构建异质信息网络,使用异质图注意力网络模型进行特征聚合;最后,将以上特征嵌入改进后的矩阵分解模型,计算推荐得分。[结果/结论]模型在自主构建的4个跨平台数据集中均表现出优越的性能,本文不仅弥补了推荐领域中跨平台多属性和细粒度数据集的空缺,而且通过引入跨平台特征进一步完善了推荐系统相关的理论与方法体系。

异质网中基于邻居节点和元路径的推荐算法

针对现有模型对异质信息网络(heterogeneous information network, HIN)信息提取大部分依赖于元路径,缺乏元路径信息补充以及很少学习异质图中复杂的结构信息等问题,提出一种异质网中基于邻居节点和元路径的推荐算法(NMRec)。提取用户和物品邻居节点补充元路径缺失的信息,以卷积的方式捕获节点之间丰富的交互,通过注意力机制得到节点和元路径的嵌入表示,拼接用户、物品、邻居节点及元路径进行TOP-N推荐。在两个公开数据集上的实验结果表明,NMRec推荐性能良好,对推荐结果有良好的可解释性,与7种推荐基准算法相比,NMRec在评价指标Pre@10、Recall@10、NDGG@10上至少提升了0.21%、29%、1.46%。

基于不同搜索路径下成对随机游走的推荐算法

推荐系统中用户项目之间的交互及其他信息可以构成一个异构信息网络(HIN)。传统基于HIN的推荐算法往往直接构建用户项目间的异构信息网络,忽略了用户用户以及项目项目本身具有的相似性,所构建的网络不够完整,并且在计算节点关联性时鲜有考虑不同搜索路径下的不同关联性。为解决上述问题,提出一种考虑用户及项目本身相似性的HIN推荐算法。通过查找用户与项目之间更多的搜索路径,并考虑不同的搜索路径,引入深度学习中的随机游走(RW)来度量用户项目节点之间的关联度,从而实现更加精确的推荐。将所提算法在公开的MovieLens数据集上进行了实验,实验结果表明:相较于传统的协同过滤推荐算法以及基于HIN的推荐算法,基于不同搜索路径下成对随机游走的算法具有更高的推荐性能。

基于新奇度量的社交事件推荐方法

在社交事件网络(EBSN)中,推荐工作都是从用户的历史喜好出发建模用户偏好,阻碍了用户接触新事物的范围和途径。针对上述问题,提出基于新奇度量的社交事件推荐模型UER(Unexpectedness-based Event Recommendation)。UER模型包括Base和Unexpected两个子模型,首先,Base子模型基于用户、事件以及用户历史事件交互序列特征,通过注意力机制衡量事件在用户历史喜好中的权重,最终预测用户参加事件的概率;其次,Unexpected子模型通过自注意力机制提取用户的多个兴趣表示来计算用户自身新奇度和候选事件对用户的新奇值,从而衡量推荐事件的新奇程度。在Meetup-加州数据集上,UER模型相较于DIN(Deep Interest Network)和PURS(Personalized Unexpected Recommender System)的推荐命中率(HR)分别提高22.9%和30.3%,归一化折损累积收益(NDCG)分别提高27.5%和42.3%,推荐事件的新奇程度分别提高54.5%和21.4%;在Meetup-纽约数据集上,UER模型相较于DIN和PURS的HR分别提高18.2%和21.8%,NDCG分别提高26.9%和32.0%,推荐事件的新奇程度分别提高52.6%和20.8%。

Node and Edge Joint Embedding for Heterogeneous Information Network

Due to the heterogeneity of nodes and edges,heterogeneous network embedding is a very challenging task to embed highly coupled networks into a set of low-dimensional vectors.Existing models either only learn embedding vectors for nodes or only for edges.These two methods of embedding learning are rarely performed in the same model,and they both overlook the internal correlation between nodes and edges.To solve these problems,a node and edge joint embedding model is proposed for Heterogeneous Information Networks(HINs),called NEJE.The NEJE model can better capture the latent structural and semantic information from an HIN through two joint learning strategies:type-level joint learning and element-level joint learning.Firstly,node-type-aware structure learning and edge-type-aware semantic learning are sequentially performed on the original network and its line graph to get the initial embedding of nodes and the embedding of edges.Then,to optimize performance,type-level joint learning is performed through the alternating training of node embedding on the original network and edge embedding on the line graph.Finally,a new homogeneous network is constructed from the original heterogeneous network,and the graph attention model is further used on the new network to perform element-level joint learning.Experiments on three tasks and five public datasets show that our NEJE model performance improves by about 2.83%over other models,and even improves by 6.42%on average for the node clustering task on Digital Bibliography&Library Project(DBLP)dataset.

可解释的局部和全局对比多行为推荐算法

针对传统的多行为推荐模型无法高效学习异构信息网络的复杂结构以及缺乏可解释性的问题,提出一种多行为推荐模型,即可解释的局部和全局对比多行为推荐。运用一种被广泛应用于提取全局结构的元路径视图从特定的语义角度捕获每个节点之间的特征。设计一个能捕获局部特征和元路径之间的交互信息的超元路径图来捕获多个元路径之间的交互信息,区分不同用户面对不同类别物品的不同行为模式。采用一种异质性可解释对比学习,确定行为类型的重要性,得出更加优质的正负样本进行对比。在两个公共数据集上的实验中,所提模型优于主流先进推荐模型。

Attention-Aware Heterogeneous Graph Neural Network

As a powerful tool for elucidating the embedding representation of graph-structured data,Graph Neural Networks(GNNs),which are a series of powerful tools built on homogeneous networks,have been widely used in various data mining tasks.It is a huge challenge to apply a GNN to an embedding Heterogeneous Information Network(HIN).The main reason for this challenge is that HINs contain many different types of nodes and different types of relationships between nodes.HIN contains rich semantic and structural information,which requires a specially designed graph neural network.However,the existing HIN-based graph neural network models rarely consider the interactive information hidden between the meta-paths of HIN in the poor embedding of nodes in the HIN.In this paper,we propose an Attention-aware Heterogeneous graph Neural Network(AHNN)model to effectively extract useful information from HIN and use it to learn the embedding representation of nodes.Specifically,we first use node-level attention to aggregate and update the embedding representation of nodes,and then concatenate the embedding representation of the nodes on different meta-paths.Finally,the semantic-level neural network is proposed to extract the feature interaction relationships on different meta-paths and learn the final embedding of nodes.Experimental results on three widely used datasets showed that the AHNN model could significantly outperform the state-of-the-art models.

面向MOOCs的个性化知识概念推荐

近年来,大规模开放在线课程(massive open online courses,MOOCs)已成为获取知识和技能的重要途径.然而,因课程数量激增导致信息过载的问题日益严重.知识概念推荐旨在识别并向学生推荐需要掌握的特定知识点.现有研究通过建立异质信息网络应对数据稀疏性,但在充分挖掘异质信息网络数据和考虑学习者与知识概念之间多样互动方面存在局限性.为了解决这些问题,本文提出了一种名为融合异质信息网络与行为感知的知识概念推荐(heterogeneous learning behavior-aware knowledge concept recommendation,HLB-KCR)的新方法.首先,使用基于元路径的随机游走和skip-gram算法生成富含语义信息的元路径嵌入,并通过两阶段元路径嵌入增强模块优化嵌入效果;其次,构建融入时间上下文信息的多类型交互图,利用图神经网络(graph neural network,GNN)进行消息传递,更新节点嵌入,获得包含时间和交互类型信息的深度嵌入表示;再次,引入语义注意力模块,将元路径嵌入与多类型交互嵌入相融合;最后,使用扩展的矩阵分解评分预测模块优化推荐算法.在大型公开的MOOCCubeX数据集上进行大量的实验证明了HLB-KCR的有效性与合理性.

基于协同知识嵌入注意网络的推荐算法研究

推荐系统广泛用于实际应用场景中,现有利用图神经网络的基于知识图谱的解决方法忽略了对知识图谱中蕴含丰富关系知识的有效编码。提出一种协同知识嵌入注意网络模型,通过在知识高阶传播过程中融入翻译模型对以三元组形式表示的知识进行有效编码,实现协同信息与知识传播更高效的融合方式,并通过拓展端到端模型CKAN完成推荐算法的设计。在三个真实推荐场景中的实验结果表明,相对于现有的KGCN、KGNN-LS、KGAT等方法,所提算法在点击率预测中的AUC值在Last.FM数据集上达到了0.8473,在Book-Crossing数据集上达到了0.7538,在Dianping-Food数据集上达到了0.8783;在Top-K推荐中的召回率均优于基准算法。

基于元路径和注意力机制特征融合的知识概念推荐

在课程推荐方面的研究领域中绝大多数研究都是针对课程或视频进行推荐,极少有研究关注到对特定知识概念的兴趣或需求。现有的工作主要集中在同构图上,普遍存在用户-项目关系稀疏性的问题。为缓解稀疏性问题,充分利用MOOC数据集拥有的具有多元实体及富含语义信息的上下文关系的特点,本文提出一种结合图卷积神经网路的基于元路径和注意力机制特征融合的知识概念推荐算法(MAFRec)。首先,提取各实体的内容特征和实体间的上下文特征,将其建模为异构信息网络并提取元路径,将元路径对应的邻接矩阵输入到图卷积神经网络中,并在融合了元路径特征向量和用户、概念潜在特征向量的双层网络结构的注意力机制的指导下学习用户和概念实体的表示,最终将用户和概念实体的表示合并到一个扩展的矩阵分解框架中,以预测每个用户的概念兴趣得分。在MOOCCube数据集上的实验结果表明,该算法较BPR、FISM、NAIS、Metapath2vec和MOOCIR算法在命中率、归一化折损累计增益和平均倒数排名指标上均为最优,在一定程度上提高了推荐过程的预测精度和可解释性,并缓解了用户-概念稀疏性的问题。

融合异构图注意力网络的知识推荐

为解决在线课程平台直接推荐服务忽视用户知识水平差异的问题,本文提出一种知识推荐方法。通过应用异构信息网络和注意力机制,将知识推荐问题视为强化学习任务,模拟用户与知识概念之间的互动,并利用异构信息网络学习用户的语义表示,通过元路径引导用户偏好的传播。实验结果表明,相较于其他方法,该方法在性能上表现得更为优越。

个性化学习推荐研究综述

个性化学习推荐是智能学习的一个研究领域,其目标是在学习平台上给特定学习者提供有效学习资源,从而提升学习积极性与学习效果。虽然现有的推荐方法已被广泛用于教学场景,但教学活动自身的科学规律,使个性化学习推荐在个性化参数设置、推荐目标设定、评价标准设计等方面具有一定的特殊性。针对上述问题,在调研大量文献的基础上对近年来个性化学习推荐的研究进行了综述。从学习推荐通用框架、学习者建模、学习推荐对象建模、学习推荐算法、学习推荐评价五方面对个性化学习推荐的相关研究进行了系统的梳理和解读。首先提出了学习推荐系统的通用框架,其次介绍了学习者建模的思路和方法,接着讨论了学习推荐对象建模的思路和方法,然后归纳了学习推荐的算法与模型,接下来总结了学习推荐评价的设计与方法。并对这五方面现有研究的主要思想、实施方案、优势及不足进行了分析。最后还展望了个性化学习推荐未来的发展方向,为智能学习的进一步深入研究奠定了基础。

基于异质信息网络表示学习的引文推荐方法

引文推荐旨在根据指定查询信息从海量数据中挖掘出与之最相关的若干文献,是一件有重要意义且极具挑战性的工作.引文推荐不但与文献的内容相关,文献间的引文关系、文献和出版社关系、文献和作者关系等,在引文推荐中也起重要作用.本文提出一种基于异质信息网络表示学习的引文推荐算法.首先,利用文献的内容信息,以及文献中的不同类型节点之间的相互关系构建异质信息网络;接着,对每个论文节点进行采样,对其先后进行元路径游走和随机游走,生成混合随机游走序列;最后,使用skip-gram模型获得节点的嵌入向量,计算相似性获得相应的文献推荐列表.在两个真实引文网络数据集上的实验结果表明,本文的方法在推荐效果上面优于已有的算法.

基于异构信息网络嵌入的专利技术主体间交易推荐模型

考虑专利技术主体间技术邻近、地理邻近、共申请关系、引证关系、经济圈效应、主体类型邻近、主体间从属关系这7种因素对交易的影响,构建由4类节点、10类关系组成的异构信息网络,设计基于元路径与元结构的异构关系遍历算法获取主体间关系序列。以关系序列为语料,构建基于网络嵌入的异构信息网络主体间交易推荐模型(PSR-vec),采用基于Huffman树的Skip-Gram方法进行网络嵌入训练,计算主体向量间相似度以实现交易推荐。通过2012-2018年电子信息领域专利数据的实证研究得出:第一,PSR-vec模型相比DeepWalk、node2vec与PathSim等方法,推荐精度大幅提高,达到82.4%;第二,融合多个元路径与元结构特征的推荐与单一特征相比,推荐精度大幅提高;第三,基于ρ2以及改进的元结构S4、S6、S8、S10、S12、S14的推荐结果均高于基于ρ1以及改进的元结构S3、S5、S7、S9、S11、S13的推荐精度,说明基于主体间转让技术邻近性的推荐精度更高;第四,在技术邻近元路径基础上分别融合主体间共申请、引证、从属、经济圈效应这4类邻近关系获得元结构并进行推荐,推荐精度均显著提高,而融合地理邻近、类型邻近2类关系后推荐精度有所降低,说明地理邻近、类型邻近对交易的促进作用不明显;第五,基于PSR-vec模型的推荐结果包括具有控股和供应等紧密关系的主体,也包括关系松散的主体,推荐结果具有多样性。本研究为专利技术主体间的有效对接提供了决策方法。