基于多特征融合时差网络的带式输送机区域违规行为识别

现有的煤矿井下带式输送机区域违规行为(如攀爬、跨越、倚靠带式输送机等)识别方法对特征提取不充分、难以考虑到行为时间差异,导致违规行为识别准确率不高。针对该问题,基于ResNet50模型,提出了一种基于多特征融合时差网络(MFFTDN)的带式输送机区域违规行为识别方法,将多特征融合和时间差分进行结合,对不同时间段的行为进行多特征融合。首先在原始模型ResNet50的第2和第3阶段引入短期多特征融合(STMFF)模块,将来自多个连续帧的时间和特征拼接在一起,再对融合后的特征进行时间差分计算,即相邻帧的特征差值,以在短期内捕捉局部动作变化。然后在原始模型ResNet50的第4阶段引入长期多特征融合(LTMFF)模块,将来自连续帧的短期多特征拼接在一起,再对相邻时间点的特征进行时间差分计算,以获取行为的长期多特征。最后将融合后的特征进行分类,输出识别结果。实验结果表明:①该方法的平均精度和准确率较原始模型ResNet50分别提高了8.18%和8.47%,说明同时引入STMFF和LTMFF模块能够有效提取到不同时间段的多特征信息。②该方法在自建煤矿井下带式输送机区域违规行为数据集上的准确率为89.62%,平均精度为89.30%,模型的参数量为197.2×10^(6)。③Grad−CAM热力图显示,该方法能够更有效地关注到违规行为的关键区域,精确捕捉到井下带式输送机区域的违规行为。

二阶逐层特征融合网络的图像超分辨重建

针对一些超分辨网络忽略了对网络各层次特征的复用以及融合的问题,构建了具有较强特征复用和融合能力的二阶逐层特征融合超分辨网络,以获得具有高分辨率、高保真度的重建图像。网络的核心是逐层特征融合模块,该模块通过特征融合操作增强特征的重用。此外,还提出了二阶特征融合机制,该机制在网络的局部和全局层次上采用逐层特征融合方法进行特征融合。实验结果表明该网络的重建图像在线条和轮廓上更清晰,并且在峰值信噪比和结构相似度上也取得了更好的结果。例如当缩放尺度因子为2时,各测试集上的峰值信噪比/结构相似度依次为38.20 dB/0.9612、33.81 dB/0.9195、32.28 dB/0.9010、32.65 dB/0.9324、39.11 dB/0.9779,相比其他模型有一定提升,从客观标准和主观角度证明了二阶逐层特征融合超分辨网络具有一定的优越性。

无人机多光谱影像的小麦倒伏信息多特征融合检测研究

为探究多特征融合方法在作物倒伏领域快速精准识别中的适用性,利用无人机获取多田块冠层尺度的不同倒伏率麦田多光谱数据,对原始倒伏图像进行图像拼接、辐射校正、几何校正等预处理,并利用重归一化差值植被指数和阴影指数分别剔除土壤和阴影背景,提取小麦倒伏DSM模型和植被指数分别与多光谱图像进行多特征图像主成分变换融合,筛选差异性较大的纹理特征,采用支持向量机(SVM)、人工神经网络(ANN)和最大似然法(MLC)监督分类模型对多光谱和DSM融合图像、多光谱和归一化植被指数(NDVI)融合图像、多光谱图像和纹理特征图像进行监督分类,并采用总体精度(OA)、 Kappa系数和提取误差综合评价各监督模型的分类性能和倒伏提取精度。分类结果表明:各监督分类方法在不同倒伏区域提取结果建模效果趋势一致,SVM和ANN整体提取精度高于MLC,在高倒伏区域,多光谱与NDVI融合图像的SVM监督模型(OA:92.63%, Kappa系数:0.85,提取误差:1.11%)提取效果最好;在中倒伏区域,多光谱与DSM融合图像的SVM监督模型(OA:90.35%, Kappa系数:0.79,提取误差:9.34%)提取效果最好;在低倒伏区域,均值纹理特征图像的ANN监督模型(OA:91.05%, Kappa系数:0.82,提取误差:8.20%)提取结果较好。本研究将DSM模型、植被指数、纹理特征与多光谱图像进行融合对比,并对多特征融合方法能否高精度有效提取小麦倒伏信息进行了探究,结果表明无人机多光谱遥感结合特征融合技术能有效提取小麦倒伏面积,提取效果优于单特征小麦倒伏图像。本研究结果可为助力小麦倒伏灾情调查数据的精确获取方法提供参考。

CNN-Transformer特征融合多目标跟踪算法

在卷积神经网络(CNN)中,卷积运算能高效地提取目标的局部特征,却难以捕获全局表示;而在视觉Transformer中,注意力机制可以捕获长距离的特征依赖,但会忽略局部特征细节。针对以上问题,提出一种基于CNN-Transformer双分支主干网络进行特征提取和融合的多目标跟踪算法CTMOT(CNN-transformer multi-object tracking)。使用基于CNN和Transformer双分支并行的主干网络分别提取图像的局部和全局特征。使用双向桥接模块(two-way braidge module,TBM)对两种特征进行充分融合。将融合后的特征输入两组并行的解码器进行处理。将解码器输出的检测框和跟踪框进行匹配,完成多目标跟踪任务。在多目标跟踪数据集MOT17、MOT20、KITTI以及UADETRAC上进行评估,CTMOT算法的MOTP和IDs指标在四个数据集上均达到了SOTA效果,MOTA指标分别达到了76.4%、66.3%、92.36%和88.57%,在MOT数据集上与SOTA方法效果相当,在KITTI数据集上达到SOTA效果。由于同时完成目标检测和关联,能够端到端进行目标跟踪,跟踪速度可达35 FPS,表明CTMOT算法在跟踪的实时性和准确性上达到了较好的平衡,具有较大潜力。

基于多尺度注意力特征融合的场景文本检测

针对目前文本检测中小尺度文本和长文本检测精度低的问题,提出了一种基于多尺度注意力特征融合的场景文本检测算法。该方法以Mask R-CNN为基线模型,引入Swin_Transformer作为骨干网络提取底层特征。在特征金字塔(feature pyramid networks,FPN)中,通过将多尺度注意力热图与底层特征通过横向连接相融合,使检测器的不同层级专注于特定尺度的目标,并利用相邻层注意力热图之间的关系实现了FPN结构中的纵向特征共享,避免了不同层之间梯度计算的不一致性问题。实验结果表明:在ICDAR2015数据集上,该方法的准确率、召回率和F值分别达到了88.3%、83.07%和85.61%,在CTW1500和Total-Text弯曲文本数据集上相较现有方法均有良好表现。

基于特征融合Transformer的EfficientNet v2网络对马铃薯叶片病害的识别

马铃薯叶片病害是影响马铃薯质量和产量的主要因素,为了能够快速准确地识别马铃薯叶片病害并采取对应的防控和救治措施,本研究提出一种新型马铃薯叶片病害识别方法。该方法利用EfficientNet v2网络提取图像特征,通过4个不同尺度的网络层进行金字塔融合,从而捕捉不同尺度下的图像细节和上下文信息,并在金字塔融合中的每个下采样环节都添加1个CBAM注意力机制模块,且每个CBAM模块后都加入Vision Transformer的Encoder模块进行特征增强,帮助提升所提取特征的丰富性和抽象能力,最后使用softmax进行分类。研究提出的模型识别准确率达到98.26%,相比改进之前提升3.47百分点,且其loss收敛更快,宏平均值与加权平均值都有明显提升。消融试验表明,该模型在各项指标上的表现最优,超过基线模型和融合模型,大幅提高图像分类识别任务模型的性能表现。该方法可有效提高病害区域的识别能力和检测准确率,且能在强干扰的环境下做到高精度识别,具有良好的鲁棒性和适应性,同时能解决病害识别中泛化能力弱、精度低、计算效率低等问题。

基于tSNE多特征融合的JTC轨旁设备故障检测

无绝缘轨道电路(Jointless Track Circuit,JTC)的轨旁设备在室外长期运营过程中,其可靠性会逐渐降低,进而给列车行车安全带来严重威胁。以轨道电路读取器(Track Circuit Reader,TCR)感应电压为基础,针对JTC故障诊断研究中轨旁设备故障类型复杂和故障特征提取不充分等问题,提出一种基于t分布随机邻域嵌入(t-distribution Stochastic Neighbor Embedding,tSNE)多特征融合的JTC轨旁设备故障检测模型。首先,根据不同轨旁设备故障对TCR感应电压信号的影响,分析各轨旁设备的故障特性。其次,提取TCR感应电压信号的方差、有效值、峰值因子等幅值域特征,以及排列熵、散布熵特征构成原始故障特征集。为了去除其中的冗余信息,得到具有较高判别性的融合流形特征,利用tSNE算法进行特征融合。最后输入深度残差网络(Deep Residual Network,DRN)得到故障检测混淆矩阵,实现轨旁设备故障定位。实验结果表明:tSNE算法融合后的特征在异类和同类故障样本之间分别有较大的类间间距和较小的类内间距,相比主成分分析(Principal Component Analysis, PCA)、随机相似性嵌入(Stochastic Proximity Embedding, SPE)、随机邻域嵌入(Stochastic Neighbor Embedding,SNE)算法具有更优的融合特征提取效果。此外,结合DRN可以有效识别多种轨旁设备故障,达到98.28%的故障检测准确率。通过现场信号进行实例验证,结果表明该故障检测模型能满足铁路现场对室外设备进行故障定位的实际需求。

多层次时空特征自适应集成与特有-共享特征融合的双模态情感识别

在结合脑电(EEG)信号与人脸图像的双模态情感识别领域中,通常存在两个挑战性问题:(1)如何从EEG信号中以端到端方式学习到更具显著性的情感语义特征;(2)如何充分利用双模态信息,捕捉双模态特征中情感语义的一致性与互补性。为此,提出了多层次时空特征自适应集成与特有-共享特征融合的双模态情感识别模型。一方面,为从EEG信号中获得更具显著性的情感语义特征,设计了多层次时空特征自适应集成模块。该模块首先通过双流结构捕捉EEG信号的时空特征,再通过特征相似度加权并集成各层次的特征,最后利用门控机制自适应地学习各层次相对重要的情感特征。另一方面,为挖掘EEG信号与人脸图像之间的情感语义一致性与互补性,设计了特有-共享特征融合模块,通过特有特征的学习和共享特征的学习来联合学习情感语义特征,并结合损失函数实现各模态特有语义信息和模态间共享语义信息的自动提取。在DEAP和MAHNOB-HCI两种数据集上,采用跨实验验证和5折交叉验证两种实验手段验证了提出模型的性能。实验结果表明,该模型取得了具有竞争力的结果,为基于EEG信号与人脸图像的双模态情感识别提供了一种有效的解决方案。

虹膜与眼周深度特征融合网络模型

虹膜识别的识别率虽然很高,但单模态识别时受环境、欺骗攻击等影响,并且在远距离或移动端、较少约束等场景下,识别率会大大下降。利用位置与虹膜相近并且被研究证明鉴别性很强的眼周生物特征,将虹膜和眼周进行双模态融合识别是较好的思路。为实现精确自适应的融合识别,本文提出新颖的虹膜与眼周深度特征融合网络模型(MultipleFusionNet)。根据特征通道注意力和通道分组注意力的思想,设计自动权值生成网络,通过网络学习自动获得虹膜与眼周的权值。权值与卷积神经网络(CNN)生成的虹膜与眼周深度特征加权计算,可实现两个模态的深度特征动态精确融合,从而提高识别准确率。本文网络模型中融合部分可作为通用的深度特征融合模块使用,该模块可灵活地嵌入在任何CNN主干网络中,轻便且易于实现。在中国科学院公开的远距离虹膜库图像库CASIA-Iris-Distance和近距离光照变化虹膜图像库CASIA-Iris-Lamp上进行了实验验证,多种方法的对比实验和距离度量实验结果显示:本文的特征融合模型准确率最高为99.56%,采用余弦距离度量的等误率(EER)最低为0.002 7,优于单模态方法和相关的特征融合方法;计算复杂度方面,参数量和计算量比单模型的两倍少1.5%,计算量只比基准融合方法高1%,这表明该融合模型计算复杂度低,具有良好的性能。

基于多特征融合的露天矿区道路负障碍检测

随着智慧矿山概念的逐步落实,智能化、无人化逐渐在矿区落实,露天矿卡车无人驾驶日益成为矿山智能化建设的主要内容,为解决露天矿区复杂多变的道路因坑洼、塌陷等路面小部分下陷出现的非规则负障碍而导致矿区无人车、重载卡车侧翻等安全难题,提升矿区安全驾驶系数,提出一种多特征融合的露天矿区道路负障碍检测方法。该方法使用BiFPN特征融合模块,提高小型负障碍检测权重占比;引入空间和通道双注意力机制提高对负障碍边缘的特征提取和特征融合能力,从而提高对道路小尺度负障碍的检测精度;采用SIoU Loss作为模型边界框损失函数并使用K-means++方法优化Anchor以提高负障碍检测模型的收敛速度和边界框定位效果,并基于遗传算法优化超参数让模型更贴合矿区场景,最终实现对矿区道路负障碍的快速精准识别。实验表明该检测模型能快速准确识别复杂背景下露天矿区道路负障碍目标,对道路负障碍目标的检测精度、召回率、平均精确度均值分别达到了96.9%、89.9%、95.3%,且该模型大小仅有12.7 MB。对比其他主流检测网络,该网络模型更适合复杂环境下露天矿区非结构化道路行驶安全需求,且该检测模型的鲁棒性好,可适配于多种情况的露天矿区,为实际环境复杂多变的露天矿区非结构化道路负向障碍检测提供了可行的方法,为露天矿无人卡车安全生产运输提供安全预警。

自适应特征融合的加权响应孪生网络跟踪算法

针对复杂场景下跟踪器难以提取丰富的特征信息导致出现漂移或者跟踪丢失的问题,提出了一种基于自适应特征融合的加权响应目标跟踪算法。首先,使用改进的VGG16网络来提高判别能力;其次,采用残差语义嵌入模块,将深层语义信息引入浅层特征;然后,将浅层特征响应和深层特征响应进行加权融合,提高定位精度和判别能力。实验结果表明,相比基准算法,所提算法在OTB2015和VOT2017数据集上的跟踪成功率和精度等评价指标均获得提升。

使用异质集成学习和心电信号异构特征融合的睡眠呼吸暂停分类方法

睡眠呼吸暂停(SA)会影响睡眠质量,增加心脑血管疾病风险,其准确分类有助于在SA早期阶段及时开展针对性治疗。本文提出一种使用异质集成学习和异构特征融合的SA分类新方法。首先从原始心电信号中提取小波时频谱,使用SE-ResNet作为初级分类器;然后提取RR间期序列和R峰值序列,使用1D CNN-LSTM作为初级分类器;再提取心率变异性特征,使用SVM作为初级分类器。最后采用堆叠法作为异质集成学习的融合策略,再使用另一个SVM作为次级分类器实现SA分类。在Apnea-ECG数据集上进行实验,所提出的SA分类方法的准确率为89.12%。实验结果表明,所提方法有效利用了各初级分类器的多样性和异构特征的互补性,其性能优于传统的SA分类方法。

自适应特征融合的多模态实体对齐研究

多模态数据间交互式任务的兴起对于综合利用不同模态的知识提出了更高的要求,因此融合不同模态知识的多模态知识图谱应运而生.然而,现有多模态知识图谱存在图谱知识不完整的问题,严重阻碍对信息的有效利用.缓解此问题的有效方法是通过实体对齐进行知识图谱补全.当前多模态实体对齐方法以固定权重融合多种模态信息,在融合过程中忽略不同模态信息贡献的差异性.为解决上述问题,设计一套自适应特征融合机制,根据不同模态数据质量动态融合实体结构信息和视觉信息.此外,考虑到视觉信息质量不高、知识图谱之间的结构差异也影响实体对齐的效果,本文分别设计提升视觉信息有效利用率的视觉特征处理模块以及缓和结构差异性的三元组筛选模块.在多模态实体对齐任务上的实验结果表明,提出的多模态实体对齐方法的性能优于当前最好的方法.

多特征融合及聚类分析的道岔转辙机退化状态识别

针对转辙机退化阶段难以划分的问题,提出一种基于多维特征融合的道岔转辙机退化状态识别方法。首先,提取了S700K转辙机退化功率数据的时域、频域、时频域多域特征;其次,通过核主成分分析(Kernel Principal Components Analysis,KPCA)进行特征融合,获得表征道岔转辙机运行状态的特征向量,构建转辙机退化性能指标;再次,采用K-medoids聚类算法对道岔转辙机性能退化状态进行阶段划分,识别不同的退化状态;最后,选用轮廓系数、分类系数、平均模糊熵对聚类效果进行综合评价,并与模糊C均值聚类(Fuzzy C-Means Clustering,FCM)和古斯塔夫森-凯塞尔(Gustafson Kessel,GK)聚类算法进行比较。研究结果表明,融合特征聚类后的综合评价指标高于单一特征,更能够体现道岔转辙机退化过程中的细节,K-medoids聚类效果明显,模型的准确率达到96.3%,能够对道岔转辙机性能退化阶段进行准确的划分,为铁路现场道岔智能运维提供理论支持。

基于注意力与多级特征融合的YOLOv5算法

针对复杂场景下目标检测与识别精度较低的问题,提出了一种基于注意力与多级特征融合的YOLOv5目标检测与识别算法。该算法在传统YOLOv5s模型的主干网络中引入双空间方向的金字塔切分注意力机制,增强对特征空间和通道信息的学习能力,同时在瓶颈网络中采用多级特征融合结构,对不同分支的特征进行融合,增加特征的丰富性,提升应对复杂场景的能力。此外,利用C3Ghost模块和深度可分离卷积分别替换C3模块和普通卷积,降低网络参数量和复杂度。结果表明:与传统的YOLOv5s算法相比,所提算法在VOC2007+2012数据集的均值平均精度高达85%,在智能零售柜商品识别数据集的均值平均精度高达97.2%,表现出较好的性能。

基于注意力特征融合时空图网络的超短期风电功率预测

为提高风电功率的预测精度,综合考虑时间和空间多维度因素的影响,提出了一种基于注意力机制和多阶段特征融合的时空图神经网络(Spatio-temporal graph neural network with attention mechanism and multistage feature fusion,AMF-STGNN)的超短期风电功率预测方法。首先基于Pearson相关系数法对数据特征进行降维,确定影响风电功率的关键因素。然后构建AMF-STGNN预测模型。该模型主要由时空关联网络构建模块和多维度时空特征抽取模块组成。通过时空关联网络构建模块构建时空图,以揭示风电气象因素的空间连接关系。通过多维度时空特征抽取模块应用时间卷积和图卷积挖掘数据的时空特征,并利用注意力机制学习重要特征。此外,该方法还引入残差结构和多阶段特征融合结构提高模型的表达能力。最后以宁夏3个风电场真实数据为例,验证了所提方法在提升风电功率预测精度方面的有效性。

拉普拉斯卷积的双路径特征融合遥感图像智能解译方法

由于遥感图像存在多尺度变化和目标边缘模糊等问题,对其进行智能解译仍然是一项极具挑战性的工作。传统的语义分割方法在处理这些问题时存在局限性,难以有效捕捉全局和局部信息。针对上述问题,文中提出一种双路径特征融合分割方法 DFNet。首先,使用Swin Transformer作为主干提取全局语义特征,以处理像素之间的长距离依赖关系,从而促进对图像中不同区域相关性的理解;其次,将拉普拉斯卷积嵌入到空间分支,以捕获局部细节信息,加强目标地物边缘信息表达;最后,引入多尺度双向特征融合模块,充分利用图像中的全局和局部信息,以增强多尺度信息的获取能力。在实验中,使用了三个公开的高分辨率遥感图像数据集进行验证,并通过消融实验验证了所提模型不同模块的作用。实验结果表明,所提方法在Uavid数据集、Potsdam数据集、LoveDA数据集的mIoU达到了71.32%、85.58%、54.01%,提高了语义分割的性能,使分割结果更为精细。

基于注意力机制及多分支特征融合的实时语义分割算法

为了合理平衡语义分割中的精确度与实时性,基于快速卷积神经网络模型(Fast-SCNN)提出了一种基于注意力机制及多分支特征融合的实时语义分割算法模型。该算法模型首先通过注意力模块捕获空间特征之间的相互联系,增强空间细节信息;然后合理设计融合模块,最大化利用各分支信息,实现深层特征与浅层特征更好的融合;最后引入自适应特征增强注意力模块,捕获长距离像素间的相互依赖关系。实验结果表明,文中算法模型在Cityscapes数据集上获得了71.55%的分割精度,推理速度FPS达到97.6帧/s,模型参数量为1.39 M,验证了该算法所构成网络模型的有效性。

基于多特征融合的高机动多目标低截获概率跟踪技术

在多目标跟踪过程中,目标的高机动特性使得传统采用固定运动模型或交互式多模型的目标跟踪算法很难实时精确匹配目标运动模型,从而引起高机动目标的低跟踪精度问题。针对这一问题,本文提出一种基于目标运动状态模型自适应更新的高机动多目标跟踪算法。在多目标跟踪过程中,该算法采用多特征聚类融合算法进行目标运动模型估计,并根据各目标跟踪波动参数进行状态转移矩阵决策更新,同时利用联合概率数据关联实现多机动目标状态转移矩阵自适应更新的关联跟踪,从而解决了传统多目标跟踪算法因目标运动模型失配引起的低跟踪精度问题。在目标跟踪算法的传感器选择上,无源传感器不对外辐射能量,具有较好的低截获概率性能,但其跟踪精度有限,常不能满足多目标高跟踪精度的要求。雷达作为有源传感器,具有较高的跟踪精度。但由于雷达对外辐射信号,容易被防御方截获。针对这一问题,本文提出了一种无源传感器目标跟踪为主,有源雷达间歇跟踪为辅的多传感器协同管理目标跟踪算法。该算法通过对目标跟踪本征堆积误差的判断进行传感器的最优分配,并根据波动参数的大小进行状态转移矩阵决策更新。仿真结果验证了本文所提出的多传感器协同的高机动目标跟踪算法在满足高机动目标跟踪精度的条件下可以有效的提升雷达低截获概率性能。

结合特征融合与增强注意力的少样本目标检测

为了更充分地利用支持特征和查询特征中的关键信息,提出一种基于特征融合和增强注意力的少样本目标检测方法FFA-FSOD(Feature Fusion and enhanced Attention Few-Shot Object Detection)。首先引入迭代注意力特征融合(iAFF)模块,以有效融合支持图像和查询图像的关键特征;其次在iAFF模块后添加特征增强操作,充分利用支持特征信息对查询图像中的目标特征进行增强。为避免上述两次处理可能导致的查询图像特征部分细节信息的丢失,对iAFF模块中的多尺度通道注意力模块(MS-CAM)进行改进,以捕获更多的上下文信息。在MS COCO数据集上的实验结果表明,在2-way 10-shot条件下,与小样本目标检测(FSOD)方法相比,加入iAFF模块、特征增强操作并改进MS-CAM后,FFA-FSOD的平均精度均值(mAP)提升了8.0%。实验结果验证了所提特征融合增强方法充分关注到了特征中的细节信息,从而实现了更好的少样本目标检测效果。