基于空间特征交叉融合的轻量级图像超分辨率重建

近几年,深度学习技术显著提高了单幅图像超分辨率重建(Single Image Super-resolution Reconstruction,SISR)的性能,但基于深度学习技术的SISR算法存在模型参数量大、网络结构复杂、资源消耗多等问题。为解决这些问题,提出一种基于空间特征交叉融合的轻量级图像超分辨率重建算法,该算法使用多个局部特征融合模块和特征交叉增强模块组成非线性映射单元,通过残差学习逐步聚合图像特征,提取更加精准的残差信息。同时采用对称结构将特征映射到两个分支,通过执行特征交叉,对应元素相乘提取高频成分,细化特征,增加网络非线性。在每个特征交叉增强模块中使用异构卷积代替标准卷积拆分和融合两条分支,有效地降低网络的参数量,使网络在参数量和性能之间达到相对平衡。通过一个多级集成模块增强不同阶段特征的相关性。在基准数据集上的实验结果表明,新的重建算法在降低模型参数量的同时,峰值信噪比和结构相似度均取得了较好的结果,而且重建图像的边缘结构完整,整体轮廓清晰,细节更加丰富。

基于多粒度特征交叉剪枝的点击率预测模型

在推荐系统中,学习有效的高阶特征交互是提升点击率预测的关键.现有的研究将低阶特征进行组合来学习高阶交叉特征表示,导致模型的时间复杂度随着特征维度的增加呈指数型增长;而基于深度神经网络的高阶特征交叉模型也无法很好地拟合低阶特征交叉,影响预测的准确率.针对这些问题,提出了基于多粒度特征交叉剪枝的点击率预测模型FeatNet.该模型首先在显式的特征粒度上,通过特征剪枝生成有效的特征集合,保持了不同特征组合的多样性,也降低了高阶特征交叉的复杂度;基于剪枝后的特征集合,在特征元素粒度上进一步进行隐式高阶特征交叉,通过滤波器自动过滤无效的特征交叉.在2个真实的数据集上进行了大量的实验,FeatNet都取得了最优的点击率预测效果.

基于幅度和相位混合特征交叉的语音增强方法

为充分利用含噪语音信号的相位特征信息及其与幅度信息的相关性,提出一种幅度和相位混合特征交叉的单通道语音增强方法。提取含噪信号的对数功率谱和相位特征,依次交叉排列;计算复数掩模,将复数掩模的实虚部依次交叉以保持对称输入特征;在此基础上,构建深度编解码器网络(amplitude phase deep encoder decoder network,APDEDN)增强语音质量。实验结果表明,相较单一特征方法,提出方法获得了语音质量感知评估评分和短时目标可懂度上的改善。

一种基于准则级特征交叉融合的推荐算法

相比于单一整体评分,电商平台中使用的多准则评分包含了更为丰富的用户个性化偏好信息,因此,如何在推荐算法中有效利用多准则评分信息,成为多准则推荐系统提升推荐性能的一个重要问题.本文从挖掘用户准则偏好和商品准则特征出发,提出一种准则级的特征交叉推荐算法,算法基于多准则评分数据,结合信息熵理论和信任度计算,从多准则交互数据中挖掘用户偏好和商品特征,接着采用对连续特征离散化后进行嵌入的方式来增强算法的表达能力.同时,考虑到用户在使用多准则推荐系统辅助决策时,关注的是其自身在某一准则上的偏好与商品在该准则上的特征是否匹配,算法将对用户和商品进行准则上的匹配,并计算出相应的预测分作为向用户推荐项目的依据.实验结果表明,相对于8种对比算法,本文提出的基于准则级特征交叉融合的推荐算法在4个不同的测试指标上具有明显的优势.

基于图神经网络特征交叉的协同过滤算法

学习用户和项目有效的向量表示是推荐系统的核心目标,现有的推荐模型大多通过深度神经网络或专门设计的特征交叉,来学习用户-项目间的特征交叉生成用户(项目)向量表示,但并未将用户(项目)特征间的交叉信息编码到嵌入向量中充分利用特征交叉信息,且多个特征交叉信息对于生成最终的用户(项目)向量表示的影响不同.基于此,构建两个图神经网络模块,学习用户(项目)特征间的交叉信息、用户-项目之间的特征交叉信息,并通过计算注意力分数对特征交叉信息进行加权,得到用户(项目)的特征信息;然后通过门控循环神经网络(GRU)聚合原始的特征信息和网络层学习到的特征交叉信息,得到最终的用户(项目)向量表达;最后通过用户向量与项目向量的元素积得到最终的推荐结果.在数据集MovieLens 1M、Book-Crossing和Taobao上验证了模型的有效性.

基于特征交叉注意力网络的序列推荐算法

为解决现有序列推荐算法只从项目级别序列中挖掘用户兴趣,并未探究项目属性及其交互对用户兴趣影响的问题,提出一种基于特征交叉注意力网络的序列推荐模型。通过构建项目属性级别注意力和序列级别注意力,更好挖掘用户兴趣;项目属性级别注意力旨在学习项目及项目属性间的自适应相关性;序列级别注意力聚焦从项目级别序列和属性级别序列上学习序列动态性。在两个公开数据集上的实验结果表明,所提方法相比其它主流序列推荐算法在Hit、NDCG和MRR指标上有明显提升。

基于特征交叉机制和误差补偿的风力发电功率短期预测

为提高短期风电功率预测精度,首先在卷积神经网络(CNN)-长短期记忆(LSTM)网络模型的基础上,引入特征交叉(FC)机制,对风电场数据集进行相关性分析并交叉组合,增加特征维度,加强非线性特征学习,挖掘隐藏关联,提高训练精度,构建形成FC-CNN-LSTM预测模型;然后,将该预测模型在风电预测中产生的误差值作为训练数据,训练生成误差补偿模型,利用该模型计算结果对风电预测数据进行补偿,进一步提高预测精度;最后,通过仿真验证该方法具有较高的预测精度,且相比传统预测模型,在分钟级超短期尺度上的预测性能具有显著优势。

基于非对称增强注意力与特征交叉融合的行人重识别方法

针对现有的行人重识别方法提取到的特征信息充分性与辨识性不足导致检索精度低的问题,提出一种基于非对称增强注意力与特征交叉融合的行人重识别方法。首先,构建非对称增强注意力模块,通过多重池化聚合的跨邻域通道交互注意力增强显著特征表示,使网络聚焦于图像中的行人区域;其次,考虑到网络各层特征间的差异性与关联性,构建特征交叉融合模块,利用交叉融合方式实现同层不同级特征的跨层级融合,进而实现多尺度融合;最后,水平切分输出特征以获取局部特征,从而实现在特定区域上描述行人。在Market1501、DukeMTMC-reID与CUHK03这3个公开数据集上对提出的方法进行了验证,首位命中率(Rank-1)分别达到了93.5%、85.1%和64.3%,证明了该方法在提升行人重识别性能上具有优越性。

基于多维特征交叉的深度协同过滤算法

基于深度学习的推荐算法最初以用户和物品的ID信息作为输入,但是ID无法很好地表现用户与物品的特征。在原始数据中,用户对物品的评分数据在一定程度上能表现出用户和物品的特征,但是未考虑用户的评分偏好以及物品的热门程度。在评分任务中使用隐式反馈和ID信息作为用户与物品的特征,在消除用户主观性对特征造成的噪声的同时在一定程度上缓解冷启动问题,利用单层神经网络对原始高维稀疏特征降维,使用特征交叉得到用户与物品的低阶交互,再利用神经网络捕获用户与物品的高阶交互,有效提取了特征间的高低阶交互。在四个公开数据集上的实验表明,该算法能有效提高推荐精度。

融合特征交叉与用户历史行为序列的微地图推荐

针对现有微地图(WeMaps)推荐算法未充分挖掘用户与微地图特征,推荐结果准确率较低的问题,提出融合特征交叉与用户历史行为序列的微地图推荐算法。首先,在用户与地图特征交叉过程中通过引入跳跃连接和多头自注意力机制,让不同特征组合能够自动获得权重,并通过在多个子空间下进行特征交叉获得了更丰富的特征组合信息。其次,在用户历史行为序列中引入了交叉注意力机制,捕捉与候选地图相关的兴趣点。最后,融合特征交叉和用户行为序列模块的输出,获得了综合多个维度的推荐结果。在公开数据集Criteo和自制微地图(WeMaps)数据集上的对数损失值分别为0.4461、0.3797,受试者操作特征曲线下面积值(Area Under the ROC Curve,AUC)分别为0.8052、0.7883。相较于本文对比实验中的二阶特征交叉模型,损失值分别降低了1.7%、14.2%,AUC值提高了0.8%、0.4%。相较于本文对比实验中的高阶特征交叉模型,损失值平均降低了1.3%、2.6%,AUC值平均提高了0.6%,0.2%。较低的损失值和较高的AUC值说明模型进行预测时具有较高的准确性和较好的分类能力。实验结果表明,本文算法不但能为用户提供更为准确的推荐结果,也能使推荐结果具备良好的可解释性。

交叉特征融合和RASPP驱动的场景分割方法

本文针对场景中目标多样性和尺度不统一等现象造成的边缘分割错误、特征不连续问题,提出了一种交叉特征融合和RASPP驱动的场景分割方法.该方法以交叉特征融合的方式合并编码器输出的多尺度特征,在融合高层语义信息时使用复合卷积注意力模块进行处理,避免上采样操作造成的特征信息丢失以及引入噪声的影响,细化目标边缘分割效果.同时提出了深度可分离残差卷积,在此基础上设计并实现了结合残差的金字塔池化模块——RASPP,对交叉融合后的特征进行处理,获得不同尺度的上下文信息,增强特征语义表达.最后,将RASPP模块处理后的特征进行合并,提升分割效果.在Cityscapes和CamVid数据集上的实验结果表明,本文提出方法相比现有方法具有更好的表现,并且对场景中的目标边缘有更好的分割效果.

基于交叉特征感知融合的多领域虚假新闻检测

各领域虚假新闻的传播对社会造成了严重的影响,不同领域间新闻的领域偏移问题和跨域关联问题也对模型的预测能力造成了极大的挑战.针对上述问题,本文提出了一种基于交叉特征感知融合的多领域虚假新闻检测方法.该方法可以捕捉不同领域间新闻的多种特征差异,并挖掘新闻之间的关联关系,从多个维度控制模型在不同领域的特征融合策略.此外,本文还提出了一种联合训练框架.本方法的模型使用本框架进行训练,在中英文数据集上的预测F1分数分别达到了92.84%和85.49%,相较于最先进的模型,预测效果分别提升了1.16%和1.07%.

基于图卷积嵌入与特征交叉的文献被引量预测方法:以交通运输领域为例

【目的】提出一种文献被引量预测模型,用于发现潜在研究热点、优化改进刊物采编工作。【方法】综合考虑文献的关键词、作者、机构、国家、被引量等相关因素,利用图卷积进行特征提取,利用循环神经网络与注意力机制对被引量的时序信息与重要文献特征进行挖掘。【结果】利用Web of Science核心集中交通运输领域的文献对模型进行验证,与基准模型相比,在RMSE、MAE等各项指标上最大提升幅度达15.23%与16.91%。【局限】在所提模型的预训练步骤中,进行多次图卷积,使得算法的时间复杂度较高。【结论】本文所提模型将文献各项特征充分融合,极大提高了预测模型的性能。

基于分离嵌入交叉网络的推荐模型

针对现有深度学习推荐模型中的特征交叉方法存在无法充分利用嵌入向量信息与预测的精度不够的问题,提出一种基于分离嵌入交叉网络(separated embedding interaction networks,SEIN)的深度学习推荐模型.该模型先采用嵌入神经网络层将稀疏的特征向量转化为稠密的嵌入向量,再对不同维度的特征矩阵分离进行特征交叉,并且通过分离嵌入交叉网络层数显式控制特征交叉的阶数,最终将得到的各隐藏层矩阵求和池化,并通过预测层得到最后的输出.在Criteo、AutoML与Movielens公开数据集上,以推荐结果的曲线下面积、对数损失、准确率与召回率作为评估指标进行了点击率预测与top-k推荐实验.结果表明,与点击率预测基线模型DeepFM、Deep&Cross与xDeepFM对比,SEIN模型在Criteo数据集上的曲线下面积分别提升了2.38%、2.31%与2.35%,对数损失分别下降了1.81%、1.99%与1.85%;在AutoML数据集上曲线下面积分别提高了1.17%、2.60%与0.57%,对数损失分别下降了0.66%、2.53%与0.35%.与基于图神经网络的推荐模型HeteGraph、IR-Rec、GSIRec、KGNCF-RNN和ITRA相比,基于SEIN的推荐模型的准确率(k=5)分别提升1.27%、0.47%、0.48%、0.56%与2.59%.基于SEIN的推荐模型能够有效解决无法充分利用嵌入向量信息的问题,提高推荐准确度.

基于切片技术的交叉特征识别新方法研究

现有的各种特征识别方法,对于孤立特征识别和简单的交叉特征识别,虽然取得了一定的研究成果,但往往存在着识别算法复杂,识别效率不理想。针对现有的各种特征识别方法的不足,在借鉴医学CT扫描成像原理的基础上,提出一种基于切片技术的交叉特征识别新方法。针对交叉特征零件模型的STEP文件,利用切片技术提取其中包含的各种孤立特征和交叉特征几何信息,并将这些特征几何信息转化成对应的切片(切片序列)信息。然后经过特征匹配、切片修正、特征重构等,从而将复杂的交叉特征识别转化为一次、二次或多次的孤立特征识别,并最终输出各个孤立特征参数,包括内部技术参数和外部联系参数。

基于双交叉和特征的快速分形图像编码研究

针对传统基本分形编码存在的计算复杂性较高、编码时间较长的缺点,提出了一种基于双交叉和的特征值编码算法,以解决分形图像编码时间过长的问题。该算法通过构造图像块适当的特征向量,将"R在D集合中搜索MSE意义下的最佳匹配块"问题转换成"R的特征向量在D的特征向量空间中搜索最佳匹配块"的问题,将全局搜索转化为相对意义下的近邻搜索,使得匹配搜索只在初始匹配块的邻域内进行,有效地减少了搜索对象,从而进一步加快了编码速度。采用图像方块分割进行了多种算法的对比仿真实验,实验结果表明相对于其他算法,所提出的算法在保证一定重建图像质量的前提下,提高了图像的结构相似度,图像编码时间明显缩短,较好地实现了提高算法编码速度的目的。

图书借阅行为视角下的子学科交叉特征研究

[目的/意义]为反映知识获取与知识积累过程中的学科交叉特征,提出图书借阅行为这一学科交叉研究新视角,将学科交叉测度指标迁移到图书借阅场景中以测度其学科交叉特征,有助于完善学科建设和图书馆服务。[方法/过程]基于图书共同借阅关系建立学科交叉网络,引入网络密度、布里渊指数、Jaccard系数与网络核心度指标,对学科领域内的子学科交叉特征进行测度,并以湖北美术学院图书馆借阅数据为例,对文学和艺术学领域内的子学科交叉特征进行实证研究。[结果/结论]实证结果表明,本文的图书借阅行为视角及测度方法能有效揭示读者知识获取与知识积累过程中的子学科交叉特征,丰富了学科交叉的研究视角与分析方法,拓展了图书借阅数据的应用领域,可供图书馆开展学科建设工作与提升读者服务质量参考。

一种基于交叉特征学习的复杂事件检测算法

提出一种改进的事件检测算法,通过交叉特征学习实现相关样本的自适应利用。首先将相关性水平看成是有序标签,利用标签候选集中相邻两个相关性标签的最大容限准则进行模型学习。然后采用多核学习理论来定义标签加权问题,通过交叉特征预测来更新标签候选集合。重复上述步骤直到算法收敛为止,将最终获得的统一检测器用于事件检测。利用大规模TRECVID 2011数据集来测试本文算法,实验结果表明,就平均精度和Pmiss值而言,本文算法的检测性能优于当前其他算法。

基于决策树改进深度交叉网络的推荐模型

特征挖掘是推荐算法模型中学习用户与物品之间交互行为的关键步骤,对提升推荐模型的准确度具有重要意义。现有的特征挖掘模型中,线性逻辑回归模型虽然简便,能够达到很好的拟合效果,但其泛化能力较弱,且模型对特征参数量的需求较大。深度交叉网络能够有效实现对特征的交叉提取,但其对数据特征的表征能力仍然不足。因此,文中引入多重残差结构与交叉编码思想,提出了一种基于决策树的方法来改进深度交叉网络的推荐模型。首先基于GBDT算法设计构建强化特征的树结构,加强模型对潜在特征的深度挖掘;其次对模型嵌入层的输入参数维度进行扩增优化;最后对改进的深度交叉网络推荐模型进行推荐预测。该设计不仅可以克服现有模型在泛化能力上的局限性,还能在保持特征参数量精简的同时令其表征能力有所加强,进而有效挖掘用户的隐藏关联,提高推荐的准确度。基于公测数据集的实验结果表明,所提出的模型预测效果比现有的特征交互方法更优。

基于特征融合图注意网络的高速公路交通流预测

基于交通网络的实际时空拓扑,提出一种特征融合图注意网络(FF-GAT)模型融合节点获取的多种交通状态信息,预测高速公路交通流。首先,分析节点的车速、交通流和占有率之间的关联特征,并基于多变量时间注意力机制,将车速、交通流和占有率之间的关系融入注意力机制,从而捕捉交通流的不同时间之间的动态时间相关性;其次,将节点划分为不同的邻域集,并通过特征融合图注意网络(GAT)捕获交通流的不同邻域之间的空间相关性;同时,通过特征交叉网络充分挖掘多个异构数据之间的耦合相关性,为预测目标序列提供有效的信息补充。在两个公开交通流数据集上的实验结果表明:在PeMSD8数据集上,与ASTGCN(Attention based Spatial-Temporal Graph Convolutional Network)模型相比,FF-GAT模型的均方根误差(RMSE)降低了3.4%;与GCN-GAN(Graph Convolutional Network and Generative Adversarial Network)模型相比,FF-GAT模型的RMSE降低了3.1%。可见,FF-GAT模型能够通过特征融合有效提高预测精度。