基于历史行为与高低阶特征的点击率预估模型

针对点击率预估模型对用户历史行为特征提取能力不足以及忽略低阶特征的问题,提出一种新的点击率预估模型TDFA。该模型首先基于自注意力机制构建Transformer网络获取用户历史行为之间的关联信息,再将历史行为与目标项目关联后获得用户历史行为特征,并结合用户信息、上下文信息和目标项目信息输入多层神经网络获取高阶组合特征;然后通过因子分解机模块获取低阶特征;最后利用注意力机制为高低阶特征分配权重并进行加权融合,其结果输出到输出层获取预测的点击率值。在亚马逊电子、Movielens-1m和淘宝用户行为集3个公开数据集上进行实验,将TDFA模型与DeepFM、DIN、DIEN、MIAN等模型进行比较,发现TDFA模型的AUC指标值分别平均提升了1.16%、1.51%和1.10%,Logloss分别平均降低了5.40%、3.51%和3.73%,证明了该模型的有效性。

基于高低阶特征交互学习的点击率预测模型研究

作为在线广告推送中极为重要的环节,准确的点击率预测(Click-Through Rate,CTR)不仅能提升用户体验,更能增加经济收益,减少资源浪费。目前,基于深度学习的CTR预测模型虽然取得了一定成绩,但在高低阶特征交互学习方面存在不兼顾、不充分以及模型可解释性不强等问题。为解决上述问题,文章提出的模型基于压缩交互网络对高阶交互特征进行显式学习,增强可解释性。同时采用ECA-net网络与双线性层组合的方式,对一阶特征进行加权学习,对二阶特征进行更加细粒度的特征交互,实现深度神经网络学习更细粒度的高阶交互特征,兼顾高低阶特征学习,获取更加全面的潜在特征相关性。在Criteo和Avazu两个公开的大数据集上实验发现,与已提出的相关模型相比较,新模型在性能方面均有所提升。

基于知识共享的遮挡人体姿态估计网络

现有人体姿态估计方法处理遮挡情况时性能较差,为此提出新的估计网络,包含遮挡区域强化卷积网络(OCNN)和遮挡特征补偿图卷积网络(OGCN).设计高低阶特征匹配注意力以强化遮挡区域特征,由OCNN提取高适配权重,通过少量遮挡数据的方式实现遮挡部位的强化检测.由OGCN消除障碍物特征,通过强化关键点共有及专有属性的方式补偿节点特征;进行邻接矩阵重要性加权以改善遮挡部位特征质量,提升检测精度.所提网络在数据集COCO2017、COCO-Wholebody、CrowdPose上的检测精度分别为78.5%、67.1%、77.8%,优于对比算法.在自建遮挡数据集上所提网络节约了75%的训练数据使用.