简化且多层结合的知识图谱卷积网络推荐算法

将知识图谱和图卷积网络共同用于协同过滤可以很好地提升推荐质量。原图卷积网络在每层节点更新时使用的特征转换矩阵对推荐任务来说是冗余的,而且现有的基于知识图谱卷积网络的推荐方法使用最后一层卷积层学到的节点表示作为目标节点的最终向量表示,而忽视了前几层目标节点的向量表示。针对这两个问题,提出了简化且多层结合的知识图谱卷积网络推荐算法(LMCR)。该算法在各阶卷积层执行节点更新操作时,去除特征转换矩阵并根据数据的稀疏性有选择地保留或舍去自连接;在计算目标节点的最终表示时,结合各卷积层学到的目标节点表示。在MovieLens-20M和Last.FM数据集上进行的实验显示LMCR优于其他推荐模型,并验证了去除特征变换矩阵和多层结合操作对提升推荐性能的有效性。

基于多阶段多生成对抗网络的互学习知识蒸馏方法

针对传统的知识蒸馏方法在图像分类任务中对知识蒸馏的效率不高、阶段训练方式单一、训练过程复杂且难收敛的问题,设计了一种基于多阶段多生成对抗网络(MS-MGANs)的互学习知识蒸馏方法。首先,将整个训练过程划分为多个阶段,得到不同阶段的老师模型,用于逐步指导学生模型,获得更好的精度效果;其次,引入逐层贪婪策略取代传统的端到端训练模式,通过基于卷积块的逐层训练来减少每阶段迭代过程中需优化的参数量,进一步提高模型蒸馏效率;最后,在知识蒸馏框架中引入生成对抗结构,使用老师模型作为特征辨别器,使用学生模型作为特征生成器,促使学生模型在不断模仿老师模型的过程中更好地接近甚至超越老师模型的性能。在多个公开的图像分类数据集上对所提方法和其他流行的知识蒸馏方法进行对比实验,实验结果表明所提知识蒸馏方法具有更好的图像分类性能。

基于注意力机制和门控网络相结合的混合推荐系统

将用户评论和用户评分相结合来提升推荐系统的性能是推荐系统当前主流的研究方向,但是当用户评论数据稀疏时,现有的大多数推荐系统的性能会出现一定幅度的下降。针对这一问题,文中提出了一种结合注意力机制和门控网络形成的混合推荐系统(Attention Mechanism and Gating Network-based Recommendation System,AMGNRS)。该模型利用志趣相投的用户所产生的辅助评论来缓解用户评论的稀疏性问题,首先将多种混合注意力机制相结合来提高提取用户评论及评分的特征的效率,然后通过门控网络自适应地融合提取的特征并选出与用户偏好最相关的特征,最后利用神经因子分解机的高阶线性相互作用来推导评分预测。将所提模型与当前表现优异的模型在3个真实数据集上进行了对比实验,结果表明,所提模型显著地缓解了数据的稀疏性问题,验证了其有效性。