无人机多光谱影像的小麦倒伏信息多特征融合检测研究

为探究多特征融合方法在作物倒伏领域快速精准识别中的适用性,利用无人机获取多田块冠层尺度的不同倒伏率麦田多光谱数据,对原始倒伏图像进行图像拼接、辐射校正、几何校正等预处理,并利用重归一化差值植被指数和阴影指数分别剔除土壤和阴影背景,提取小麦倒伏DSM模型和植被指数分别与多光谱图像进行多特征图像主成分变换融合,筛选差异性较大的纹理特征,采用支持向量机(SVM)、人工神经网络(ANN)和最大似然法(MLC)监督分类模型对多光谱和DSM融合图像、多光谱和归一化植被指数(NDVI)融合图像、多光谱图像和纹理特征图像进行监督分类,并采用总体精度(OA)、 Kappa系数和提取误差综合评价各监督模型的分类性能和倒伏提取精度。分类结果表明:各监督分类方法在不同倒伏区域提取结果建模效果趋势一致,SVM和ANN整体提取精度高于MLC,在高倒伏区域,多光谱与NDVI融合图像的SVM监督模型(OA:92.63%, Kappa系数:0.85,提取误差:1.11%)提取效果最好;在中倒伏区域,多光谱与DSM融合图像的SVM监督模型(OA:90.35%, Kappa系数:0.79,提取误差:9.34%)提取效果最好;在低倒伏区域,均值纹理特征图像的ANN监督模型(OA:91.05%, Kappa系数:0.82,提取误差:8.20%)提取结果较好。本研究将DSM模型、植被指数、纹理特征与多光谱图像进行融合对比,并对多特征融合方法能否高精度有效提取小麦倒伏信息进行了探究,结果表明无人机多光谱遥感结合特征融合技术能有效提取小麦倒伏面积,提取效果优于单特征小麦倒伏图像。本研究结果可为助力小麦倒伏灾情调查数据的精确获取方法提供参考。

二阶逐层特征融合网络的图像超分辨重建

针对一些超分辨网络忽略了对网络各层次特征的复用以及融合的问题,构建了具有较强特征复用和融合能力的二阶逐层特征融合超分辨网络,以获得具有高分辨率、高保真度的重建图像。网络的核心是逐层特征融合模块,该模块通过特征融合操作增强特征的重用。此外,还提出了二阶特征融合机制,该机制在网络的局部和全局层次上采用逐层特征融合方法进行特征融合。实验结果表明该网络的重建图像在线条和轮廓上更清晰,并且在峰值信噪比和结构相似度上也取得了更好的结果。例如当缩放尺度因子为2时,各测试集上的峰值信噪比/结构相似度依次为38.20 dB/0.9612、33.81 dB/0.9195、32.28 dB/0.9010、32.65 dB/0.9324、39.11 dB/0.9779,相比其他模型有一定提升,从客观标准和主观角度证明了二阶逐层特征融合超分辨网络具有一定的优越性。

CNN-Transformer特征融合多目标跟踪算法

在卷积神经网络(CNN)中,卷积运算能高效地提取目标的局部特征,却难以捕获全局表示;而在视觉Transformer中,注意力机制可以捕获长距离的特征依赖,但会忽略局部特征细节。针对以上问题,提出一种基于CNN-Transformer双分支主干网络进行特征提取和融合的多目标跟踪算法CTMOT(CNN-transformer multi-object tracking)。使用基于CNN和Transformer双分支并行的主干网络分别提取图像的局部和全局特征。使用双向桥接模块(two-way braidge module,TBM)对两种特征进行充分融合。将融合后的特征输入两组并行的解码器进行处理。将解码器输出的检测框和跟踪框进行匹配,完成多目标跟踪任务。在多目标跟踪数据集MOT17、MOT20、KITTI以及UADETRAC上进行评估,CTMOT算法的MOTP和IDs指标在四个数据集上均达到了SOTA效果,MOTA指标分别达到了76.4%、66.3%、92.36%和88.57%,在MOT数据集上与SOTA方法效果相当,在KITTI数据集上达到SOTA效果。由于同时完成目标检测和关联,能够端到端进行目标跟踪,跟踪速度可达35 FPS,表明CTMOT算法在跟踪的实时性和准确性上达到了较好的平衡,具有较大潜力。

开放型区域产教融合实践中心的基本特征、功能定位与推进路径

开放型区域产教融合实践中心(简称“产教融合实践中心”)是对标产业发展前沿,由政府搭台、市场驱动,汇集产教资源,政、校、行、企等多元主体参与,旨在推动区域职业教育实训实践资源均衡发展,提升职业学校关键办学能力,为企业培养急需人才和提供技术服务的生产性实践组织形态。产教融合实践中心分为学校实践中心、公共实践中心、企业实践中心,具有参与主体的多元性、服务面向的区域性以及运营模式的多样性等基本特征;具备实践教学、社会培训、真实生产和技术服务等功能。要扎实推进产教融合实践中心建设,必须坚持政府引导,统筹谋划产教融合实践中心建设;坚持市场驱动,以股份制混合所有制推进产教融合实践中心建设;坚持同步发力,分类推进产教融合实践中心建设。

基于多尺度注意力特征融合的场景文本检测

针对目前文本检测中小尺度文本和长文本检测精度低的问题,提出了一种基于多尺度注意力特征融合的场景文本检测算法。该方法以Mask R-CNN为基线模型,引入Swin_Transformer作为骨干网络提取底层特征。在特征金字塔(feature pyramid networks,FPN)中,通过将多尺度注意力热图与底层特征通过横向连接相融合,使检测器的不同层级专注于特定尺度的目标,并利用相邻层注意力热图之间的关系实现了FPN结构中的纵向特征共享,避免了不同层之间梯度计算的不一致性问题。实验结果表明:在ICDAR2015数据集上,该方法的准确率、召回率和F值分别达到了88.3%、83.07%和85.61%,在CTW1500和Total-Text弯曲文本数据集上相较现有方法均有良好表现。

虹膜与眼周深度特征融合网络模型

虹膜识别的识别率虽然很高,但单模态识别时受环境、欺骗攻击等影响,并且在远距离或移动端、较少约束等场景下,识别率会大大下降。利用位置与虹膜相近并且被研究证明鉴别性很强的眼周生物特征,将虹膜和眼周进行双模态融合识别是较好的思路。为实现精确自适应的融合识别,本文提出新颖的虹膜与眼周深度特征融合网络模型(MultipleFusionNet)。根据特征通道注意力和通道分组注意力的思想,设计自动权值生成网络,通过网络学习自动获得虹膜与眼周的权值。权值与卷积神经网络(CNN)生成的虹膜与眼周深度特征加权计算,可实现两个模态的深度特征动态精确融合,从而提高识别准确率。本文网络模型中融合部分可作为通用的深度特征融合模块使用,该模块可灵活地嵌入在任何CNN主干网络中,轻便且易于实现。在中国科学院公开的远距离虹膜库图像库CASIA-Iris-Distance和近距离光照变化虹膜图像库CASIA-Iris-Lamp上进行了实验验证,多种方法的对比实验和距离度量实验结果显示:本文的特征融合模型准确率最高为99.56%,采用余弦距离度量的等误率(EER)最低为0.002 7,优于单模态方法和相关的特征融合方法;计算复杂度方面,参数量和计算量比单模型的两倍少1.5%,计算量只比基准融合方法高1%,这表明该融合模型计算复杂度低,具有良好的性能。

多层次时空特征自适应集成与特有-共享特征融合的双模态情感识别

在结合脑电(EEG)信号与人脸图像的双模态情感识别领域中,通常存在两个挑战性问题:(1)如何从EEG信号中以端到端方式学习到更具显著性的情感语义特征;(2)如何充分利用双模态信息,捕捉双模态特征中情感语义的一致性与互补性。为此,提出了多层次时空特征自适应集成与特有-共享特征融合的双模态情感识别模型。一方面,为从EEG信号中获得更具显著性的情感语义特征,设计了多层次时空特征自适应集成模块。该模块首先通过双流结构捕捉EEG信号的时空特征,再通过特征相似度加权并集成各层次的特征,最后利用门控机制自适应地学习各层次相对重要的情感特征。另一方面,为挖掘EEG信号与人脸图像之间的情感语义一致性与互补性,设计了特有-共享特征融合模块,通过特有特征的学习和共享特征的学习来联合学习情感语义特征,并结合损失函数实现各模态特有语义信息和模态间共享语义信息的自动提取。在DEAP和MAHNOB-HCI两种数据集上,采用跨实验验证和5折交叉验证两种实验手段验证了提出模型的性能。实验结果表明,该模型取得了具有竞争力的结果,为基于EEG信号与人脸图像的双模态情感识别提供了一种有效的解决方案。

基于tSNE多特征融合的JTC轨旁设备故障检测

无绝缘轨道电路(Jointless Track Circuit,JTC)的轨旁设备在室外长期运营过程中,其可靠性会逐渐降低,进而给列车行车安全带来严重威胁。以轨道电路读取器(Track Circuit Reader,TCR)感应电压为基础,针对JTC故障诊断研究中轨旁设备故障类型复杂和故障特征提取不充分等问题,提出一种基于t分布随机邻域嵌入(t-distribution Stochastic Neighbor Embedding,tSNE)多特征融合的JTC轨旁设备故障检测模型。首先,根据不同轨旁设备故障对TCR感应电压信号的影响,分析各轨旁设备的故障特性。其次,提取TCR感应电压信号的方差、有效值、峰值因子等幅值域特征,以及排列熵、散布熵特征构成原始故障特征集。为了去除其中的冗余信息,得到具有较高判别性的融合流形特征,利用tSNE算法进行特征融合。最后输入深度残差网络(Deep Residual Network,DRN)得到故障检测混淆矩阵,实现轨旁设备故障定位。实验结果表明:tSNE算法融合后的特征在异类和同类故障样本之间分别有较大的类间间距和较小的类内间距,相比主成分分析(Principal Component Analysis, PCA)、随机相似性嵌入(Stochastic Proximity Embedding, SPE)、随机邻域嵌入(Stochastic Neighbor Embedding,SNE)算法具有更优的融合特征提取效果。此外,结合DRN可以有效识别多种轨旁设备故障,达到98.28%的故障检测准确率。通过现场信号进行实例验证,结果表明该故障检测模型能满足铁路现场对室外设备进行故障定位的实际需求。

融合内外部特征水印的模型保护方案

针对经典模型水印技术在保护模型所有权过程中存在鲁棒性差、提取率低等问题,融合白、黑盒水印优势,提出了一种特征嵌入的模型保护方案。按照香农熵大小进行数据集样本划分的策略,将数据集样本划分为良性样本、风格迁移样本、关键密钥样本;利用风格迁移样本集对模型嵌入外部特征,将关键密钥样本标签嵌入模型内部特征;通过训练二元分类器并利用掩码梯度下降方法修改极少量参数让模型产生特定输出来综合判断模型是否被窃取。实验结果表明,所提方案用较小开销保证了水印的高保真度,在标签查询、知识蒸馏等攻击下仍具有较高稳定性,且能规避恶意检测风险。

结合特征融合与增强注意力的少样本目标检测

为了更充分地利用支持特征和查询特征中的关键信息,提出一种基于特征融合和增强注意力的少样本目标检测方法FFA-FSOD(Feature Fusion and enhanced Attention Few-Shot Object Detection)。首先引入迭代注意力特征融合(iAFF)模块,以有效融合支持图像和查询图像的关键特征;其次在iAFF模块后添加特征增强操作,充分利用支持特征信息对查询图像中的目标特征进行增强。为避免上述两次处理可能导致的查询图像特征部分细节信息的丢失,对iAFF模块中的多尺度通道注意力模块(MS-CAM)进行改进,以捕获更多的上下文信息。在MS COCO数据集上的实验结果表明,在2-way 10-shot条件下,与小样本目标检测(FSOD)方法相比,加入iAFF模块、特征增强操作并改进MS-CAM后,FFA-FSOD的平均精度均值(mAP)提升了8.0%。实验结果验证了所提特征融合增强方法充分关注到了特征中的细节信息,从而实现了更好的少样本目标检测效果。

自适应特征融合的加权响应孪生网络跟踪算法

针对复杂场景下跟踪器难以提取丰富的特征信息导致出现漂移或者跟踪丢失的问题,提出了一种基于自适应特征融合的加权响应目标跟踪算法。首先,使用改进的VGG16网络来提高判别能力;其次,采用残差语义嵌入模块,将深层语义信息引入浅层特征;然后,将浅层特征响应和深层特征响应进行加权融合,提高定位精度和判别能力。实验结果表明,相比基准算法,所提算法在OTB2015和VOT2017数据集上的跟踪成功率和精度等评价指标均获得提升。

基于多特征融合的露天矿区道路负障碍检测

随着智慧矿山概念的逐步落实,智能化、无人化逐渐在矿区落实,露天矿卡车无人驾驶日益成为矿山智能化建设的主要内容,为解决露天矿区复杂多变的道路因坑洼、塌陷等路面小部分下陷出现的非规则负障碍而导致矿区无人车、重载卡车侧翻等安全难题,提升矿区安全驾驶系数,提出一种多特征融合的露天矿区道路负障碍检测方法。该方法使用BiFPN特征融合模块,提高小型负障碍检测权重占比;引入空间和通道双注意力机制提高对负障碍边缘的特征提取和特征融合能力,从而提高对道路小尺度负障碍的检测精度;采用SIoU Loss作为模型边界框损失函数并使用K-means++方法优化Anchor以提高负障碍检测模型的收敛速度和边界框定位效果,并基于遗传算法优化超参数让模型更贴合矿区场景,最终实现对矿区道路负障碍的快速精准识别。实验表明该检测模型能快速准确识别复杂背景下露天矿区道路负障碍目标,对道路负障碍目标的检测精度、召回率、平均精确度均值分别达到了96.9%、89.9%、95.3%,且该模型大小仅有12.7 MB。对比其他主流检测网络,该网络模型更适合复杂环境下露天矿区非结构化道路行驶安全需求,且该检测模型的鲁棒性好,可适配于多种情况的露天矿区,为实际环境复杂多变的露天矿区非结构化道路负向障碍检测提供了可行的方法,为露天矿无人卡车安全生产运输提供安全预警。

自适应特征融合的多模态实体对齐研究

多模态数据间交互式任务的兴起对于综合利用不同模态的知识提出了更高的要求,因此融合不同模态知识的多模态知识图谱应运而生.然而,现有多模态知识图谱存在图谱知识不完整的问题,严重阻碍对信息的有效利用.缓解此问题的有效方法是通过实体对齐进行知识图谱补全.当前多模态实体对齐方法以固定权重融合多种模态信息,在融合过程中忽略不同模态信息贡献的差异性.为解决上述问题,设计一套自适应特征融合机制,根据不同模态数据质量动态融合实体结构信息和视觉信息.此外,考虑到视觉信息质量不高、知识图谱之间的结构差异也影响实体对齐的效果,本文分别设计提升视觉信息有效利用率的视觉特征处理模块以及缓和结构差异性的三元组筛选模块.在多模态实体对齐任务上的实验结果表明,提出的多模态实体对齐方法的性能优于当前最好的方法.

基于混合特征提取与跨模态特征预测融合的情感识别模型

为从多模态情感分析中有效挖掘单模态表征信息,并实现多模态信息充分融合,提出一种基于混合特征与跨模态预测融合的情感识别模型(H-MGFCT)。首先,利用Mel频率倒谱系数(MFCC)和Gammatone频率倒谱系数(GFCC)及其一阶动态特征融合得到混合特征参数提取算法(H-MGFCC),解决了语音情感特征丢失的问题;其次,利用基于注意力权重的跨模态预测模型,筛选出与语音特征相关性更高的文本特征;随后,加入对比学习的跨模态注意力机制模型对相关性高的文本特征和语音模态情感特征进行跨模态信息融合;最后,将含有文本−语音的跨模态信息特征与筛选出的相关性低的文本特征相融合,以起到信息补充的作用。实验结果表明,该模型在公开IEMOCAP(Interactive EMotional dyadic MOtion CAPture)、CMU-MOSI(CMU-Multimodal Opinion Emotion Intensity)、CMU-MOSEI(CMU-Multimodal Opinion Sentiment Emotion Intensity)数据集上与加权决策层融合的语音文本情感识别(DLFT)模型相比,准确率分别提高了2.83、2.64和3.05个百分点,验证了该模型情感识别的有效性。

基于电流多特征融合的窄间隙P-GMAW摆动电弧传感焊缝跟踪方法

电弧传感是实现窄间隙焊接焊缝跟踪的主要方式之一。针对电弧传感稳定性差、可靠性低的问题,提出融合摆动周期内电流信息的多个统计学特征进行偏差提取的方法,克服单一数据特征容易受到电弧稳定性影响、导致传感精度下降的问题。首先,提取电流信号的多个时域特征,计算特征矩阵与偏差矢量相关性;然后,取相关性高的特征用主成分分析的方法进行融合,取前两个主成分作为观测数据;最后,基于多分类的支持向量机模型对其进行分类试验。试验结果表明最大误差为0.2 mm,0.1 mm以内的误差占93.75%。该方法对比传统方法精度有所提升,对比神经网络方法,所用训练样本少,训练过程更加简单。

使用异质集成学习和心电信号异构特征融合的睡眠呼吸暂停分类方法

睡眠呼吸暂停(SA)会影响睡眠质量,增加心脑血管疾病风险,其准确分类有助于在SA早期阶段及时开展针对性治疗。本文提出一种使用异质集成学习和异构特征融合的SA分类新方法。首先从原始心电信号中提取小波时频谱,使用SE-ResNet作为初级分类器;然后提取RR间期序列和R峰值序列,使用1D CNN-LSTM作为初级分类器;再提取心率变异性特征,使用SVM作为初级分类器。最后采用堆叠法作为异质集成学习的融合策略,再使用另一个SVM作为次级分类器实现SA分类。在Apnea-ECG数据集上进行实验,所提出的SA分类方法的准确率为89.12%。实验结果表明,所提方法有效利用了各初级分类器的多样性和异构特征的互补性,其性能优于传统的SA分类方法。

基于注意力与多级特征融合的YOLOv5算法

针对复杂场景下目标检测与识别精度较低的问题,提出了一种基于注意力与多级特征融合的YOLOv5目标检测与识别算法。该算法在传统YOLOv5s模型的主干网络中引入双空间方向的金字塔切分注意力机制,增强对特征空间和通道信息的学习能力,同时在瓶颈网络中采用多级特征融合结构,对不同分支的特征进行融合,增加特征的丰富性,提升应对复杂场景的能力。此外,利用C3Ghost模块和深度可分离卷积分别替换C3模块和普通卷积,降低网络参数量和复杂度。结果表明:与传统的YOLOv5s算法相比,所提算法在VOC2007+2012数据集的均值平均精度高达85%,在智能零售柜商品识别数据集的均值平均精度高达97.2%,表现出较好的性能。

多特征融合及聚类分析的道岔转辙机退化状态识别

针对转辙机退化阶段难以划分的问题,提出一种基于多维特征融合的道岔转辙机退化状态识别方法。首先,提取了S700K转辙机退化功率数据的时域、频域、时频域多域特征;其次,通过核主成分分析(Kernel Principal Components Analysis,KPCA)进行特征融合,获得表征道岔转辙机运行状态的特征向量,构建转辙机退化性能指标;再次,采用K-medoids聚类算法对道岔转辙机性能退化状态进行阶段划分,识别不同的退化状态;最后,选用轮廓系数、分类系数、平均模糊熵对聚类效果进行综合评价,并与模糊C均值聚类(Fuzzy C-Means Clustering,FCM)和古斯塔夫森-凯塞尔(Gustafson Kessel,GK)聚类算法进行比较。研究结果表明,融合特征聚类后的综合评价指标高于单一特征,更能够体现道岔转辙机退化过程中的细节,K-medoids聚类效果明显,模型的准确率达到96.3%,能够对道岔转辙机性能退化阶段进行准确的划分,为铁路现场道岔智能运维提供理论支持。

基于多尺度特征融合的雷达海上目标检测方法

雷达目标检测对海上信息处理具有重要意义,目前提出的检测方法在召回率和精度上都难以满足海上检测要求。为了解决上述问题,提出基于多尺度特征的雷达海上目标检测方法。通过X波段非相参脉冲体制导航雷达采集数据,在完成预处理后检验数据集,提取雷达数据。分析杂散噪声,确定噪声范围,根据平均强度和灰度值的差值实现归一化处理。对目标进行归一化分析,融合多尺度特征实现目标选择,完成目标检测。实验结果表明,基于多尺度特征融合的雷达海上目标检测方法召回率能够在短时间内达到90%以上,精度在95%以上,能够很好地提取海上目标信息。

基于注意力机制及多分支特征融合的实时语义分割算法

为了合理平衡语义分割中的精确度与实时性,基于快速卷积神经网络模型(Fast-SCNN)提出了一种基于注意力机制及多分支特征融合的实时语义分割算法模型。该算法模型首先通过注意力模块捕获空间特征之间的相互联系,增强空间细节信息;然后合理设计融合模块,最大化利用各分支信息,实现深层特征与浅层特征更好的融合;最后引入自适应特征增强注意力模块,捕获长距离像素间的相互依赖关系。实验结果表明,文中算法模型在Cityscapes数据集上获得了71.55%的分割精度,推理速度FPS达到97.6帧/s,模型参数量为1.39 M,验证了该算法所构成网络模型的有效性。