基于多模态深度融合模型的广告点击率预估

互联网广告效果的研究是网络营销的研究重点,无论是品牌广告或效果广告,合适的互联网广告设计效果将直接影响网络营销商的利益与用户的体验.现阶段,广告运营商的投放策略、广告创意优化、定向人群、媒体选择都以点击率为重要条件,精准的点击率预估可以精细化权衡和保障用户、广告、平台三方利益.为了更加准确的预估点击率本文定向研究用户行为方式,选择马尔科夫链模型处理用户行为信息,利用频繁序列挖掘用户行为特点消除用户间无差异性假设,基于在线学习方法融合特征构建深度神经网络,获得特征的高阶非线性表达,建立多模态深度融合(Multimodal Depth Integration MDI)模型用于点击率预估.实验结果表明,提出的多模态深度融合模型的表示能力和鲁棒性都优于各基线模型,取得不错的预测效果.

基于Informer融合模型的油田开发指标预测方法

为解决油田开发指标的预测问题,提出了一种基于物质平衡方程和Informer的融合模型。首先,通过物质平衡方程领域知识建立油田开发产量递减前后的机理模型;其次,将所建机理模型作为约束与Informer模型损失函数进行融合建立符合油田开发物理规律的指标预测模型;最后,采用油田实际生产数据进行实验分析,结果表明相比于纯数据驱动的几种循环结构预测模型,本融合模型在相同数据条件下的预测效果更优。该模型的机理约束部分能引导模型的训练过程,使其收敛速度更快,且波峰波谷处的预测更准确。该融合模型具有更好的预测能力和泛化能力和比较合理的物理可解释性。

统计机器翻译中大规模特征的深度融合

对循环神经网络和递归神经网络进行改进,提出深度融合的神经网络(DNN)模型,在训练过程中加入大规模特征.该模型有很强的泛化能力,适合于现在主流的自底向上解码样式,融合了2种经典的机器翻译模型:基于短语的层次化文法(HPG)和括号转录文法(BTG).使用改进的循环神经网络,生成适合短语生成过程的短语/规则对语义向量,并在生成过程中使用了自编码器以提高循环神经网络的性能.使用改进的递归神经网络,使它在翻译过程中指导解码,考虑到另一个解码器在解码过程中的信息,互相影响共同提高翻译性能.提出的深度融合模型不仅适合于异类翻译系统,也适合于异类语料.相对于经典的基线系统,在异类系统上该模型的实验结果获得1.0~1.9倍的BLEU分数提高,在异类语料上该模型的实验结果获得1.05~1.58的BLEU分数提高,且进行了统计显著性检验.

一种基于YOLOX优化的轻量级路面病害检测方法

受限于小型嵌入式设备以及移动设备等有限的计算资源,大型网络模型难以部署在此类应用场景中.为了解决该问题,基于YOLOX提出一种高效的路面病害识别模型.首先,将YOLOX主干网络替换为优化后的GhostNet来减少网络计算参数,并参考基于卷积块注意力机制兼顾空间和通道方向上自适应调整信息的优势,构建DAM(Dimensional Attention Model)代替GhostBottleneck模块中的SE模块,从而充分利用有限的网络容量进行强化特征学习;其次,提出DFM(Deep Fusion Model)模块来改进PANet并以此对高低特征层进行深度融合,获取更加丰富的特征信息来提高检测能力;再次,采用Complete-IoU Loss来拟合更加准确的检测框位置,减少方向误判的同时提高了检测效率;最后,引入Image-Multitasking数据增强方法来强化目标图像任务性,提高了网络的泛化能力和鲁棒性.在RDD2020数据集上进行模型对比,实验表明,改进后的GhostNet-YOLOX网络的mAP达到84.05%,高于现有的YOLOX-s(即66.26%),模型参数量缩小至14.53 MB,小于YOLOX-s(即34.21 MB),同时实际检测视频的帧数达到了26 p·s^(-1),提高了5.88 p·s^(-1),检测实时性显著提高.

基于卷积和递归神经网络融合的交通状态指数预测

为提高交通状态指数预测精度,方便市民出行规划和提高相关机构管理预见性,创新研究了基于卷积和递归神经网络融合的交通状态指数预测模型。模型将卷积网络和递归网络进行了融合,由卷积神经网络层和递归神经网络层组成。该模型中的卷积网络能自动提取重要影响因子,同时递归网络能捕捉到前后时序特征,结果显示,得到的融合模型在交通状态指数预测上表现较好,预测精度达到90.2%,比决策树模型精度提高了12.4%,比自回归模型精度提高了5.6%。

应用智能模型实现联合站原油脱水系统决策优化技术研究

原油含有大量溶解水、乳化水,脱水是成品油品质的关键。通过对联合站脱水系统运行优化问题的研究,基于标准规范、专家经验、数字化资源[1],总结专家经验和生产规律,通过物联网、大数据、人工智能和可视化信息技术,实现脱水系统运行优化决策功能,为现场技术管理人员提供精准的实时分析、评价优化、决策依据,保障系统运行平稳、生产达标,达到精细管理、提质增效、提高经济效益的目的[6]。通过探索,证实智能技术实现站场复杂系统优化辅助决策是可行的,并为数字化站场智能化奠定了基础,具有良好的推广应用前景。

融合领域知识与深度学习的机器翻译领域自适应研究

【目的/意义】无论是统计机器翻译,还是神经机器翻译,训练数据通常来源复杂,主题多样,文体不一,与待翻译目标文本的领域不能保证完全一致,导致领域自适应问题。目前机器翻译的领域自适应方法大多用主题模型得到主题信息,将数据粗略划分为领域内(in-domain)和领域外(out-domain),缺乏更为明确的领域标签。【方法/过程】本研究采用中图分类号作为领域标签,采用两种方法对汉语句子进行自动领域标注领域:利用论文关键词和科技词系统等知识组织构建领域知识库的领域标注方法;训练卷积神经网络的深度学习的领域标注方法,通过神经网络深度融合模型将这两种方法融合起来得到效果更佳的领域标注器,利用机器翻译的测试集获取领域标签集合筛选其训练数据。【结果/结论】经过在神经机器翻译系统上进行测试,针对两个特定领域测试集,仅利用部分训练数据就获取了比原始训练数据高约1.3BLEU得分(相对5.4%)的翻译结果,证明了本研究方法的有效性和可行性。