基于三分支图外部注意力网络的轻量化跨域序列推荐

跨域序列推荐(cross-domain sequential recommendation,CSR)旨在通过挖掘用户在多域混合序列中的行为偏好来为其提供跨域个性化推荐服务.近年来,研究人员开始尝试将图卷积网络(graph convolution network,GCN)集成到CSR中,以建模用户和项目之间的复杂关系.然而,基于图的CSR方法大多通过复杂的结构来捕捉用户在多个域中的序列行为模式,这导致其通常具有较高的计算复杂度和较大的内存开销,限制了模型在资源受限设备上的应用.此外,已有的轻量级图跨域序列推荐方法认为,应该采用单层聚合协议(single layer aggregating protocol,SLAP)来学习跨域序列图(cross-domain sequential graph,CSG)上的嵌入表示.基于这种协议的图卷积网络,能够规避多层聚合协议所带来的额外跨域噪声,但却难以捕捉域内的高阶序列依赖关系.为了解决上述挑战,提出了一种轻量级的三分支图外部注意力网络(tri-branches graph external attention network,TEA-Net).具体而言,TEA-Net首先将原始CSG分为域间以及域内序列图,并设计了一种并行的三分支图卷积网络结构来学习图中的节点表示.该结构能够以较低的计算开销,在不引入额外跨域噪声的条件下,学习域间的低阶协同过滤关系和域内的高阶序列依赖关系.其次,在三分支结构的基础上,提出了一种改良的外部注意力(external attention,EA)组件,该组件移除了EA中的非线性通道,使其能够以更低的开销挖掘项目序列依赖关系并将注意力权重在多个分支上共享.在2个真实数据集上进行了广泛的实验来验证TEA-Net的性能表现.与10种最先进的CSR方法相比,TEA-Net在轻量化性能和预测精度方面均取得了更好的结果.

基于动态组合嵌入的轻量级序列推荐算法

现有的大多数序列推荐算法,将每个项目映射到一个向量进行表示,当项目数量过于庞大时,其项目嵌入表存在内存效率问题;另外很多序列推荐算法与一些过度参数化的网络相结合,导致训练过程中存在参数冗余的问题,影响模型的计算速度和性能。针对以上问题,该文设计了一种轻量级的序列推荐算法,以取得相比以往方法更高的内存效率。首先使用动态组合嵌入方法,通过互补分区生成一组更小的基嵌入表,并使用商余技巧和权重分配动态地生成最终的项目嵌入。其次,为了避免参数冗余,引入动态卷积网络和双头自注意力来提取用户的短期和长期偏好。结合以上两个部分,得到一种轻量级的序列推荐算法DCE-DCN,并且在三个公开数据集Beauty、Yelp和MovieLens-1M上设置充分的实验验证了算法的有效性。