融合迁移学习和神经网络的潜在因子模型

潜在因子(Latent Factor,LF)模型是解决大规模稀疏数据缺失信息填补的有效方法之一。但是,传统的LF模型及其大部分变种考虑的目标数据集形式单一,且模型训练迭代次数多,收敛速度慢,很难满足快速响应的实时性需求。针对这些问题,本文综合考虑了模型预测精度和训练花费时间这两个方面,创新地提出一种融合迁移学习(Transfer Learning,TF)和神经网络(Neural Network,NN)的潜在因子(TL-NNLF)模型。一方面,通过迁移不同评分模式间的共享潜在信息来充分挖掘已知信息之间的关系,更好地进行特征的表征学习;另一方面,引入神经网络来减缓由于引入额外的评分领域所造成的模型训练负担,在保证满意的预测精度的同时提高模型的训练速度。最后,在真实数据集上的实验结果表明,和其他经典LF模型相比,本文提出的TL-NNLF模型能够在预测精度有所保证的前提下大大减少了模型训练时间。

融合实例频率加权正则化和神经网络的概率矩阵分解模型

针对大规模稀疏数据集上基于概率矩阵分解(Probabilistic Matrix Factorization,PMF)模型的缺失数据估计方法容易出现过拟合且迭代训练时间较长的问题,本文创新性地提出一种融合实例频率加权正则化(Instance-frequency-weighted Regularization,IR)和神经网络(Neural Network,NN)的概率矩阵分解(IR-NNPMF)模型。一方面,充分考虑已知数据在数据集中的不平衡分布现象,并根据潜在因子相关的实例频率对其正则化参数进行加权处理,从而提高模型的泛化能力和预测精度;另一方面,引入神经网络来缓解模型迭代训练造成的时间消耗,提高模型预测精度的同时减少模型训练时间。最后,在4个真实数据集上的实验结果证明,和带标准L;正则化和使用传统梯度下降训练算法的经典PMF模型相比,本文提出的IR-NNPMF模型能够在提高预测精度的同时大大提高模型的训练速度。