二阶逐层特征融合网络的图像超分辨重建

针对一些超分辨网络忽略了对网络各层次特征的复用以及融合的问题,构建了具有较强特征复用和融合能力的二阶逐层特征融合超分辨网络,以获得具有高分辨率、高保真度的重建图像。网络的核心是逐层特征融合模块,该模块通过特征融合操作增强特征的重用。此外,还提出了二阶特征融合机制,该机制在网络的局部和全局层次上采用逐层特征融合方法进行特征融合。实验结果表明该网络的重建图像在线条和轮廓上更清晰,并且在峰值信噪比和结构相似度上也取得了更好的结果。例如当缩放尺度因子为2时,各测试集上的峰值信噪比/结构相似度依次为38.20 dB/0.9612、33.81 dB/0.9195、32.28 dB/0.9010、32.65 dB/0.9324、39.11 dB/0.9779,相比其他模型有一定提升,从客观标准和主观角度证明了二阶逐层特征融合超分辨网络具有一定的优越性。

无人机多光谱影像的小麦倒伏信息多特征融合检测研究

为探究多特征融合方法在作物倒伏领域快速精准识别中的适用性,利用无人机获取多田块冠层尺度的不同倒伏率麦田多光谱数据,对原始倒伏图像进行图像拼接、辐射校正、几何校正等预处理,并利用重归一化差值植被指数和阴影指数分别剔除土壤和阴影背景,提取小麦倒伏DSM模型和植被指数分别与多光谱图像进行多特征图像主成分变换融合,筛选差异性较大的纹理特征,采用支持向量机(SVM)、人工神经网络(ANN)和最大似然法(MLC)监督分类模型对多光谱和DSM融合图像、多光谱和归一化植被指数(NDVI)融合图像、多光谱图像和纹理特征图像进行监督分类,并采用总体精度(OA)、 Kappa系数和提取误差综合评价各监督模型的分类性能和倒伏提取精度。分类结果表明:各监督分类方法在不同倒伏区域提取结果建模效果趋势一致,SVM和ANN整体提取精度高于MLC,在高倒伏区域,多光谱与NDVI融合图像的SVM监督模型(OA:92.63%, Kappa系数:0.85,提取误差:1.11%)提取效果最好;在中倒伏区域,多光谱与DSM融合图像的SVM监督模型(OA:90.35%, Kappa系数:0.79,提取误差:9.34%)提取效果最好;在低倒伏区域,均值纹理特征图像的ANN监督模型(OA:91.05%, Kappa系数:0.82,提取误差:8.20%)提取结果较好。本研究将DSM模型、植被指数、纹理特征与多光谱图像进行融合对比,并对多特征融合方法能否高精度有效提取小麦倒伏信息进行了探究,结果表明无人机多光谱遥感结合特征融合技术能有效提取小麦倒伏面积,提取效果优于单特征小麦倒伏图像。本研究结果可为助力小麦倒伏灾情调查数据的精确获取方法提供参考。

基于多尺度注意力特征融合的场景文本检测

针对目前文本检测中小尺度文本和长文本检测精度低的问题,提出了一种基于多尺度注意力特征融合的场景文本检测算法。该方法以Mask R-CNN为基线模型,引入Swin_Transformer作为骨干网络提取底层特征。在特征金字塔(feature pyramid networks,FPN)中,通过将多尺度注意力热图与底层特征通过横向连接相融合,使检测器的不同层级专注于特定尺度的目标,并利用相邻层注意力热图之间的关系实现了FPN结构中的纵向特征共享,避免了不同层之间梯度计算的不一致性问题。实验结果表明:在ICDAR2015数据集上,该方法的准确率、召回率和F值分别达到了88.3%、83.07%和85.61%,在CTW1500和Total-Text弯曲文本数据集上相较现有方法均有良好表现。

基于多特征融合的露天矿区道路负障碍检测

随着智慧矿山概念的逐步落实,智能化、无人化逐渐在矿区落实,露天矿卡车无人驾驶日益成为矿山智能化建设的主要内容,为解决露天矿区复杂多变的道路因坑洼、塌陷等路面小部分下陷出现的非规则负障碍而导致矿区无人车、重载卡车侧翻等安全难题,提升矿区安全驾驶系数,提出一种多特征融合的露天矿区道路负障碍检测方法。该方法使用BiFPN特征融合模块,提高小型负障碍检测权重占比;引入空间和通道双注意力机制提高对负障碍边缘的特征提取和特征融合能力,从而提高对道路小尺度负障碍的检测精度;采用SIoU Loss作为模型边界框损失函数并使用K-means++方法优化Anchor以提高负障碍检测模型的收敛速度和边界框定位效果,并基于遗传算法优化超参数让模型更贴合矿区场景,最终实现对矿区道路负障碍的快速精准识别。实验表明该检测模型能快速准确识别复杂背景下露天矿区道路负障碍目标,对道路负障碍目标的检测精度、召回率、平均精确度均值分别达到了96.9%、89.9%、95.3%,且该模型大小仅有12.7 MB。对比其他主流检测网络,该网络模型更适合复杂环境下露天矿区非结构化道路行驶安全需求,且该检测模型的鲁棒性好,可适配于多种情况的露天矿区,为实际环境复杂多变的露天矿区非结构化道路负向障碍检测提供了可行的方法,为露天矿无人卡车安全生产运输提供安全预警。

自适应特征融合的多模态实体对齐研究

多模态数据间交互式任务的兴起对于综合利用不同模态的知识提出了更高的要求,因此融合不同模态知识的多模态知识图谱应运而生.然而,现有多模态知识图谱存在图谱知识不完整的问题,严重阻碍对信息的有效利用.缓解此问题的有效方法是通过实体对齐进行知识图谱补全.当前多模态实体对齐方法以固定权重融合多种模态信息,在融合过程中忽略不同模态信息贡献的差异性.为解决上述问题,设计一套自适应特征融合机制,根据不同模态数据质量动态融合实体结构信息和视觉信息.此外,考虑到视觉信息质量不高、知识图谱之间的结构差异也影响实体对齐的效果,本文分别设计提升视觉信息有效利用率的视觉特征处理模块以及缓和结构差异性的三元组筛选模块.在多模态实体对齐任务上的实验结果表明,提出的多模态实体对齐方法的性能优于当前最好的方法.

基于注意力与多级特征融合的YOLOv5算法

针对复杂场景下目标检测与识别精度较低的问题,提出了一种基于注意力与多级特征融合的YOLOv5目标检测与识别算法。该算法在传统YOLOv5s模型的主干网络中引入双空间方向的金字塔切分注意力机制,增强对特征空间和通道信息的学习能力,同时在瓶颈网络中采用多级特征融合结构,对不同分支的特征进行融合,增加特征的丰富性,提升应对复杂场景的能力。此外,利用C3Ghost模块和深度可分离卷积分别替换C3模块和普通卷积,降低网络参数量和复杂度。结果表明:与传统的YOLOv5s算法相比,所提算法在VOC2007+2012数据集的均值平均精度高达85%,在智能零售柜商品识别数据集的均值平均精度高达97.2%,表现出较好的性能。

基于注意力机制及多分支特征融合的实时语义分割算法

为了合理平衡语义分割中的精确度与实时性,基于快速卷积神经网络模型(Fast-SCNN)提出了一种基于注意力机制及多分支特征融合的实时语义分割算法模型。该算法模型首先通过注意力模块捕获空间特征之间的相互联系,增强空间细节信息;然后合理设计融合模块,最大化利用各分支信息,实现深层特征与浅层特征更好的融合;最后引入自适应特征增强注意力模块,捕获长距离像素间的相互依赖关系。实验结果表明,文中算法模型在Cityscapes数据集上获得了71.55%的分割精度,推理速度FPS达到97.6帧/s,模型参数量为1.39 M,验证了该算法所构成网络模型的有效性。

基于多特征融合的高机动多目标低截获概率跟踪技术

在多目标跟踪过程中,目标的高机动特性使得传统采用固定运动模型或交互式多模型的目标跟踪算法很难实时精确匹配目标运动模型,从而引起高机动目标的低跟踪精度问题。针对这一问题,本文提出一种基于目标运动状态模型自适应更新的高机动多目标跟踪算法。在多目标跟踪过程中,该算法采用多特征聚类融合算法进行目标运动模型估计,并根据各目标跟踪波动参数进行状态转移矩阵决策更新,同时利用联合概率数据关联实现多机动目标状态转移矩阵自适应更新的关联跟踪,从而解决了传统多目标跟踪算法因目标运动模型失配引起的低跟踪精度问题。在目标跟踪算法的传感器选择上,无源传感器不对外辐射能量,具有较好的低截获概率性能,但其跟踪精度有限,常不能满足多目标高跟踪精度的要求。雷达作为有源传感器,具有较高的跟踪精度。但由于雷达对外辐射信号,容易被防御方截获。针对这一问题,本文提出了一种无源传感器目标跟踪为主,有源雷达间歇跟踪为辅的多传感器协同管理目标跟踪算法。该算法通过对目标跟踪本征堆积误差的判断进行传感器的最优分配,并根据波动参数的大小进行状态转移矩阵决策更新。仿真结果验证了本文所提出的多传感器协同的高机动目标跟踪算法在满足高机动目标跟踪精度的条件下可以有效的提升雷达低截获概率性能。

结合特征融合与增强注意力的少样本目标检测

为了更充分地利用支持特征和查询特征中的关键信息,提出一种基于特征融合和增强注意力的少样本目标检测方法FFA-FSOD(Feature Fusion and enhanced Attention Few-Shot Object Detection)。首先引入迭代注意力特征融合(iAFF)模块,以有效融合支持图像和查询图像的关键特征;其次在iAFF模块后添加特征增强操作,充分利用支持特征信息对查询图像中的目标特征进行增强。为避免上述两次处理可能导致的查询图像特征部分细节信息的丢失,对iAFF模块中的多尺度通道注意力模块(MS-CAM)进行改进,以捕获更多的上下文信息。在MS COCO数据集上的实验结果表明,在2-way 10-shot条件下,与小样本目标检测(FSOD)方法相比,加入iAFF模块、特征增强操作并改进MS-CAM后,FFA-FSOD的平均精度均值(mAP)提升了8.0%。实验结果验证了所提特征融合增强方法充分关注到了特征中的细节信息,从而实现了更好的少样本目标检测效果。

基于电流多特征融合的窄间隙P-GMAW摆动电弧传感焊缝跟踪方法

电弧传感是实现窄间隙焊接焊缝跟踪的主要方式之一。针对电弧传感稳定性差、可靠性低的问题,提出融合摆动周期内电流信息的多个统计学特征进行偏差提取的方法,克服单一数据特征容易受到电弧稳定性影响、导致传感精度下降的问题。首先,提取电流信号的多个时域特征,计算特征矩阵与偏差矢量相关性;然后,取相关性高的特征用主成分分析的方法进行融合,取前两个主成分作为观测数据;最后,基于多分类的支持向量机模型对其进行分类试验。试验结果表明最大误差为0.2 mm,0.1 mm以内的误差占93.75%。该方法对比传统方法精度有所提升,对比神经网络方法,所用训练样本少,训练过程更加简单。

CNN-Transformer特征融合多目标跟踪算法

在卷积神经网络(CNN)中,卷积运算能高效地提取目标的局部特征,却难以捕获全局表示;而在视觉Transformer中,注意力机制可以捕获长距离的特征依赖,但会忽略局部特征细节。针对以上问题,提出一种基于CNN-Transformer双分支主干网络进行特征提取和融合的多目标跟踪算法CTMOT(CNN-transformer multi-object tracking)。使用基于CNN和Transformer双分支并行的主干网络分别提取图像的局部和全局特征。使用双向桥接模块(two-way braidge module,TBM)对两种特征进行充分融合。将融合后的特征输入两组并行的解码器进行处理。将解码器输出的检测框和跟踪框进行匹配,完成多目标跟踪任务。在多目标跟踪数据集MOT17、MOT20、KITTI以及UADETRAC上进行评估,CTMOT算法的MOTP和IDs指标在四个数据集上均达到了SOTA效果,MOTA指标分别达到了76.4%、66.3%、92.36%和88.57%,在MOT数据集上与SOTA方法效果相当,在KITTI数据集上达到SOTA效果。由于同时完成目标检测和关联,能够端到端进行目标跟踪,跟踪速度可达35 FPS,表明CTMOT算法在跟踪的实时性和准确性上达到了较好的平衡,具有较大潜力。

基于ELM的超声多特征融合螺栓应力测量方法

针对传统超声波螺栓应力测量中存在的非线性和不适定性问题,提出一种基于极限学习机(ELM)的超声多特征融合螺栓应力测量方法。首先基于声弹性理论和散射理论,根据超声回波信号提取声时差及瑞利散射范围内多晶体材料中纵波的衰减系数等超声波特征参数。然后通过向量降维选择声时差、衰减系数和有效受力长度作为模型输入特征向量,建立了基于ELM的超声多特征融合螺栓应力测量模型。搭建螺栓轴向应力超声波测量实验平台,对不同材料和规格的螺栓进行螺栓应力的测量,并对比了使用传统的超声测量方法的测量结果,验证了传统超声检测方法的局限性。对比了ELM与其他机器学习方法包括BP、支持向量回归(SVR)的测量结果和精度。结果表明,提出的方法有效克服了传统超声测量方法的不足,能实现不同材料不同规格的螺栓应力测量,并且测量精度更高(平均相对误差为3.86%),泛化能力更好。

基于Lamb波损伤特征融合模型的金属结构件疲劳裂纹扩展预测

针对动态载荷环境下机械装备金属结构件疲劳裂纹扩展延伸问题,提出一种基于Lamb波损伤特征融合的疲劳裂纹扩展预测模型。首先从Lamb波信号传播特性出发,分析对比对称模式下Lamb波损伤信号和基准信号传播过程中的特性变化,在此基础上提取能够敏感表达结构损伤的相关系数和相位差异特征,通过变量标准化变换后进一步构建出疲劳裂纹扩展预测模型,最后利用金属结构件全寿命周期疲劳实验数据对模型进行验证。结果表明:所提模型能够准确预测动态载荷环境下疲劳裂纹扩展过程,与其他预测模型相比优势明显,可为机械装备关键结构件合理检修计划制定提供一定参考借鉴。

双通道特征融合的真实场景点云语义分割方法

真实场景点云不仅具有点云的空间几何信息,还具有三维物体的颜色信息,现有的网络无法有效利用真实场景的局部特征以及空间几何特征信息,因此提出了一种双通道特征融合的真实场景点云语义分割方法DCFNet(dual-channel feature fusion of real scene for point cloud semantic segmentation)可用于不同场景下的室内外场景语义分割。更具体地说,为了解决不能充分提取真实场景点云颜色信息的问题,该方法采用上下两个输入通道,通道均采用相同的特征提取网络结构,其中上通道的输入是完整RGB颜色和点云坐标信息,该通道主要关注于复杂物体对象场景特征,下通道仅输入点云坐标信息,该通道主要关注于点云的空间几何特征;在每个通道中为了更好地提取局部与全局信息,改善网络性能,引入了层间融合模块和Transformer通道特征扩充模块;同时,针对现有的三维点云语义分割方法缺乏关注局部特征与全局特征的联系,导致对复杂场景的分割效果不佳的问题,对上下两个通道所提取的特征通过DCFFS(dual-channel feature fusion segmentation)模块进行融合,并对真实场景进行语义分割。对室内复杂场景和大规模室内外场景点云分割基准进行了实验,实验结果表明,提出的DCFNet分割方法在S3DIS Area5室内场景数据集以及STPLS3D室外场景数据集上,平均交并比(MIOU)分别达到71.18%和48.87%,平均准确率(MACC)和整体准确率(OACC)分别达到77.01%与86.91%,实现了真实场景的高精度点云语义分割。

基于AM和CNN的多级特征融合的风力发电机轴承故障诊断方法

提出一种基于注意力机制的多级特征融合卷积神经网络(A2ML2F-CNN)故障诊断方法。该方法将原始电流和振动信号作为输入,首先使用基于注意力卷积神经网络(AMCNN)模块分别进行数据信号特征提取,并进行一级特征融合连接。在此基础上,再次分别采用注意力机制一维卷积神经网(AM1DCNN)和二维卷积神经网络(2DCNN)提取相关信息,并进行二级特征融合,以此来解决单传感器数据故障信息不足及互补特征难以提取的问题,最后采用全连接层和Softmax层进行分类,得到诊断结果。为验证所提方法的故障诊断效果,通过帕德伯恩数据集进行实验验证,并将其与CNN、LSTM、SVM等方法的诊断精度进行对比,相较于上述方法,该文方法的诊断准确率分别提高1.8、3.2和4.8个百分点,验证了所提方法的有效性。

多特征融合的无人艇视觉目标长时相关鲁棒跟踪

[目的]针对显著海浪遮挡、相机剧烈晃动引起的无人艇视觉目标跟踪脱靶问题,提出一种基于多特征融合的长时相关鲁棒跟踪算法。[方法]首先,采用多特征融合技术,增强目标特征表达,提高目标模型鲁棒性;其次,利用高维特征降维和响应图子网格插值,提高目标跟踪的效率与精度;然后,设计水面目标重识别机制,解决目标完全脱离视野时的稳定跟踪问题;最后,采用多个代表性视频数据集进行验证和比较分析。[结果]实验结果表明,相较于传统的长时相关跟踪算法,平均成功率提升15.7%,平均距离精度指标提升30.3%,F-Score指标提升7.0%。[结论]所提算法能够处理恶劣海况下的目标脱靶问题,对于提升无人船艇及海洋机器人智能感知能力,具有重要技术支撑意义。

基于双向加权特征融合网络的铸件内部缺陷检测方法

针对X射线无损探伤过程中铸件内部缺陷小、对比度弱、人工识别效率低等问题,提出了一种基于双向加权特征融合网络的铸件内部缺陷检测方法。在YOLOv5网络模型基础上引入改进的坐标注意力模块(NCA),以提高网络对不规则缺陷和小缺陷的学习能力;引入双向特征金字塔网络(BiFPN)代替原有路径聚合网络(PANet),以实现缺陷特征多尺度高效融合,并使用EIoU Loss回归损失函数提高缺陷边界框定位的精度。试验结果表明,本文所提方法对铸件内部小目标、弱对比度缺陷具有良好的检测性能。

特征融合的装修案例跨模态检索方法

目前家装客服系统中主要依靠人工方式进行装修案例检索,导致该系统不能满足用户对咨询服务快捷、及时的需求而且人力成本高,故提出一种基于特征融合的装修案例跨模态检索算法。针对多模态数据的语义信息挖掘不充分,模型检索精度低等问题,对现有的风格聚合模块进行改进,在原始模块中引入通道注意力机制,以此来为每组装修案例中不同图片的特征向量添加合适的权重,从而增强包含更多有用信息的重要特征并削弱其他不重要的特征。同时,为充分利用多模态信息,设计一种适用于检索场景下的多模态特征融合模块,该模块能够自适应地控制2种不同模态的特征向量进行一系列的融合操作,以实现跨模态数据间的知识流动与共享,从而生成语义更丰富、表达能力更强的特征向量,进一步提升模型的检索性能。在自建的装修案例多模态数据集上将该方法与其他方法进行比较,试验结果表明本文方法在装修案例检索上具有更优越的性能。

基于细粒度识别的即插性多粒度特征融合算法

为丰富卷积神经网络下细粒度图像特征的表征信息,进一步扩大类间差异缩小类内差异,提出一种基于多种粒度图像训练的特征融合方式,挖掘图像的细化特征。通过逐渐改变输入图像的粒度值,构造一个包含多种粒度信息的网络模型;提取多粒度多尺度图像特征,与原始特征进行融合,完成最终的分类预测。无需引入其它辅助网络,在没有显著增加模型参数的情况下,融合不同粒度特征。实验结果表明,其分类准确度高于只包含单一粒度图像的训练结果,验证了该方法能有效丰富特征信息。

基于特征融合Transformer的EfficientNet v2网络对马铃薯叶片病害的识别

马铃薯叶片病害是影响马铃薯质量和产量的主要因素,为了能够快速准确地识别马铃薯叶片病害并采取对应的防控和救治措施,本研究提出一种新型马铃薯叶片病害识别方法。该方法利用EfficientNet v2网络提取图像特征,通过4个不同尺度的网络层进行金字塔融合,从而捕捉不同尺度下的图像细节和上下文信息,并在金字塔融合中的每个下采样环节都添加1个CBAM注意力机制模块,且每个CBAM模块后都加入Vision Transformer的Encoder模块进行特征增强,帮助提升所提取特征的丰富性和抽象能力,最后使用softmax进行分类。研究提出的模型识别准确率达到98.26%,相比改进之前提升3.47百分点,且其loss收敛更快,宏平均值与加权平均值都有明显提升。消融试验表明,该模型在各项指标上的表现最优,超过基线模型和融合模型,大幅提高图像分类识别任务模型的性能表现。该方法可有效提高病害区域的识别能力和检测准确率,且能在强干扰的环境下做到高精度识别,具有良好的鲁棒性和适应性,同时能解决病害识别中泛化能力弱、精度低、计算效率低等问题。