基于时频域融合和ECA-1DCNN的航空串联故障电弧检测

为了快速准确地检测航空交流线路中出现的串联故障电弧,提出了一种基于时频域融合和加入高效注意力机制(efficient channel attention, ECA)的一维卷积神经网络(one-dimensional convolutional neural network, 1DCNN)的故障检测算法。首先,搭建航空交流电弧故障实验平台,负载选择多类型、多参数值进行电流信号的采集;其次,为了保留更多的故障信息,分析其特征频段,经过大量数据验证,航空串联电弧在发生时,1 000~4 000 Hz分量具有一定的占比,因此将原始信号与特征频段进行融合,融合后的一维数据作为模型输入;最后,搭建ECA-1DCNN检测模型,进行训练,并通过K折交叉验证模型的有效性,得到测试集平均准确率为97.96%。该方法网络层数较少,计算快速,避免了复杂时频域计算过程,较为智能,对航空串联电弧检测装置的研究提供了理论参考。

基于YOLO v7-ECA模型的苹果幼果检测

为实现自然环境下苹果幼果的快速准确检测,针对幼果期苹果果色与叶片颜色高度相似、体积微小、分布密集,识别难度大的问题,提出了一种融合高效通道注意力(Efficient channel attention,ECA)机制的改进YOLO v7模型(YOLO v7-ECA)。在模型的3条重参数化路径中插入ECA机制,可在不降低通道维数的前提下实现相邻通道局部跨通道交互,有效强调苹果幼果重要信息、抑制冗余无用特征,提高模型效率。采集自然环境下苹果幼果图像2557幅作为训练样本、547幅作为验证样本、550幅作为测试样本,输入模型进行训练测试。结果表明,YOLO v7-ECA网络模型准确率为97.2%、召回率为93.6%、平均精度均值(Mean average precision,mAP)为98.2%、F1值为95.37%。与Faster R-CNN、SSD、Scaled-YOLO v4、YOLO v5、YOLO v6、YOLO v7网络模型相比,其mAP分别提高15.5、4.6、1.6、1.8、3.0、1.8个百分点,准确率分别提高49.7、0.9、18.5、1.2、0.9、1.0个百分点,F1值分别提高33.53、2.81、9.16、1.26、2.38、1.43个百分点,召回率相较于Faster R-CNN、SSD、YOLO v5、YOLO v6、YOLO v7网络模型分别提高5.0、4.5、1.3、3.7、1.8个百分点;单幅图像检测时间为28.9 ms,可实现苹果幼果的高效检测。针对幼果目标模糊、存在阴影和严重遮挡的情况,本研究采用550幅测试图像进行模型鲁棒性检验。在加噪模糊情况下,YOLO v7-ECA的mAP为91.1%,F1值为89.8%,与Faster R-CNN、SSD、Scaled-YOLO v4、YOLO v5、YOLO v6、YOLO v7网络模型相比其mAP分别提高26.3、21.0、5.4、8.0、11.5、8.9个百分点,F1值分别提高27.19、7.08、8.50、4.20、3.94、4.67个百分点;在阴影情况下,YOLO v7-ECA的mAP为97.5%,F1值为95.36%,与Faster R-CNN、SSD、Scaled-YOLO v4、YOLO v5、YOLO v6、YOLO v7网络模型相比其mAP分别提高14.8、8.8、2.1、2.4、5.4、2.5个百分点,F1值分别提高21.51、2.60、10.49、1.53、3.23、2.56个百分点;在严重遮挡情况下,YOLO v7-ECA的mAP为98.6%,F1值为94.8%,与Faster R-CNN、SSD、Scaled-YOLO v4、YOLO v5、YOLO v6、YOLO v7网络模型相比其mAP分别提高21.7、13.7、2.3、2.4、4.8、2.2个百分点,F1值分别提高28.29、3.50、6.45、0.96、1.36、1.36个百分点。该网络模型可在保证网络模型精度的同时拥有较快的检测速度,且对场景模糊、阴影和严重遮挡等影响具有较好的鲁棒性。该研究可为幼果实时检测系统提供有效借鉴。

基于改进E-EfficientNet的古陶瓷纹饰分类模型

为进一步提高古陶瓷纹饰分类精度,提出一种基于改进EfficientNet的古陶瓷纹饰分类模型。该模型通过引入高效率注意力机制(ECA)模块改进原主干网络EfficientNet-B0,有效捕获通道间的交互信息,利用跳跃连接在特征提取的最后一层加入ECA模块,获得古陶瓷纹饰注意力特征图,并利用迁移学习和Adam优化算法在古陶瓷纹饰数据集上进行实验验证。结果表明,改进后的E-EfficientNet模型在古陶瓷纹饰数据集上的识别准确率达到了99.26%,较改进前提高了2.48%;与同类轻量化模型ShuffleNet-V2和MobileNet-V3对比,识别准确率分别提高了2.10%和2.91%;与其他经典模型VGG、ResNet对比,不仅参数量大幅度减少,识别准确率均明显提高,可有效用于古陶瓷纹饰分类。

基于高效通道注意力模块(ECA)和YOLOv5的图像检测方法研究

佩戴安全帽是人们在施工建设中的一项重要保护措施,它可以有效保障人们的生命财产安全。安全帽检测系统也已经成为了很多施工场所的必备的基础设施,为了改善YOLOv5不能通过权重进行聚焦,从而生成有明显辨识度的特征,进而影响安全帽检测准确度的问题,我们在YOLOv5中引入了注意力模块,保证了卷积过程中的特征提取,并且使得图像得到优化,提升了安全帽检测结果的准确性和模型性能。并且我们对比了原YOLOv5、添加了ECA(Efficient Channel Attention)高效通道注意力模块、添加了SEA(Squeeze-andExcitation attention)注意力模块和添加了压缩激励SEL(Squeeze and Excitation Layer)注意力模块的精确率P/%、召回率R/%、mAP@0.5和mAP@0.5:0.95,实验结果表明添加了ECA(Efficient Channel Attention)通道注意力模块的ECA-Yolov5算法相较于原YOLOv5算法P/%、R/%、mAP@0.5、mAP@0.5:0.95分别提升了0.5、0.6、0.5、0.2。由此结果表明引入高效通道注意力模块(ECA)的YOLOv5安全帽识别算法更有能力进行安全施工的检测,提升了施工的安全性。

基于ECA改进1D-CNN的柱塞泵故障诊断

往复式柱塞泵是油田作业的关键设备,其健康状况直接影响作业区的生产运行效率。针对变工况柱塞泵的复杂振动特性,提出基于高效通道注意力(Efficient Channel Attention,ECA)的一维卷积神经网络(One-dimensional Convolutional Neural Network,1D-CNN)油田柱塞泵故障诊断方法。在油田柱塞泵体关键部位安装加速度传感器,并使用测振系统采集泵前轴承等关键部位振动信号;利用一维卷积神经网络对油田柱塞泵振动监测信号进行学习,以识别柱塞泵故障特征,通过高效通道注意力(ECA)机制实现减少特征维度损失同时捕获特征通道信息交互,以提高柱塞泵故障诊断精度;借助SoftMax分类器实现振动加速度信号分析的多故障诊断。现场数据采集及试验分析证明,提出的故障诊断模型具有较强的数据特征提取能力,并在油田实际运行数据分析中取得了高性能的诊断效果。验证结果表明,该技术在柱塞泵监测应用中具有较强的鲁棒性和准确性,与其他单一深度学习相比有显著的故障特征提取和诊断优势,能够为柱塞泵及类似设备的故障诊断提供理论依据和技术指导。

基于ECA和YOLOv4的轻量级目标检测网络设计

针对传统的目标检测网络存在参数量大、检测速度慢等不足,在计算资源受限的设备上难以满足实时性需求的问题,提出一种改进的YOLOv4-tiny目标检测算法,使用Bneck_E替换主特征提取网络的CSP结构,在深层特征提取网络中,增加轻量级注意力机制——高效通道注意力(ECA)机制,采用双向特征融合,用深度可分离卷积对浅层特征下采样,提高对小目标的检测精度。在PASCAL VOC数据集上实验表明,该算法平均精度均值(mAP)提高了4.4%,帧率(FPS)提升了8.9%,模型大小仅为YOLOv4-tiny的36%,有利于在嵌入式设备上部署运行。

改进EfficientNet图像分类的恶意流量检测模型

基于深度学习流量图像分类的恶意流量检测模型大多专注于通过改进学习器来提高准确率,忽视了图像数据集中因图像的复杂程度导致的图像样本不平衡、特征提取不佳的问题。针对该问题,提出一种改进EfficientNet图像分类的恶意流量检测模型。首先将注意力机制SE(Squeeze-Excitation)模块替换为ECA(Efficient Channel Attention)模块,增强网络对图像有效特征的提取。然后通过替换EfficientNet模型最后Softmax层中的损失函数,提高模型提取图像特征的能力。最后给模型增加容忍度机制,在模型训练准确率一直未能提高的情况下,可以依据指标回调模型的学习率,进而提高模型的检测准确率。使用913个恶意网络流量PCAP可视化图像公共数据集进行实验验证,其中测试平均准确率为97.51%,损失率为0.02%,相对原模型准确率提高1.93%,损失率减少0.07%,说明本文改进的EfficientNet模型具有一定的适用性和有效性。

基于改进ResNet18的干香菇等级识别

为解决干香菇等级识别技术复杂及识别精度不高的问题,提出了一种基于残差神经网络ResNet18的干香菇等级识别方法。首先将传统的ResNet18中Stem的7×7卷积层替换为3个3×3卷积层串联,保证在感受野保持不变的情况下进一步减小计算量;其次针对残差块中线性变换和非线性变换不足的问题,引入融合非对称卷积和h-swish激活函数,增加了模型的复杂性,使其能够进行更深层次的特征学习;最后在ResNet18骨干网络中引入高效通道注意力机制,加强模型提取特征的能力。实验结果表明,改进后的ResNet18网络模型准确度达97.04%,相比ResNet18网络模型方法提升了4.81%,且性能优于VGG16、MobileNetV2、DenseNet121、ResNet34等网络模型方法,可提高干香菇等级的识别精度,单幅图像的检测时间为5.91 ms,对干香菇智能分拣过程中的等级识别具有借鉴意义。

宽卷积局部特征扩展的Transformer网络故障诊断模型

视觉Transformer网络的高精度诊断性能依赖于充分的训练数据,利用卷积网络在提取局部特征上的优势,构造能同时描述故障局部和全局特征的提取层,提高诊断模型的抗噪声干扰能力。首先,引入卷积网络模块将原始振动信号转换为Transformer网络可以直接接收的特征向量,提取故障局部特征,并通过增加卷积网络的感受野。然后,结合Transformer网络多头自注意力机制生成的全局信息,构建能同时描述故障局部和全局特征的特征向量。最后,在Transformer网络的预测层,利用高效通道注意力机制对特征向量的贡献度进行自动筛选。在西储大学(CWRU)轴承数据集上的故障诊断结果表明,在信噪比-4 dB的噪声干扰下,改进后的Transformer网络轴承故障诊断模型的准确率达90.21%,与原始Transformer模型相比,准确率提高了13.2%,在噪声环境下表现出优异的诊断性能。

基于改进Res-UNet的昼夜地基云图分割网络

针对昼夜地基云图在分割中细节信息丢失、分割精度低等问题,提出一种基于改进Res-UNet(Residual network-UNetwork)的昼夜地基云图分割网络CloudRes-UNet(Cloud ResNet-UNetwork),整体采用编码器-解码器的网络结构。首先,编码器使用ResNet50提取特征,增强特征提取能力;其次,设计多级特征提取(Multi-Stage)模块,该模块结合分组卷积、膨胀卷积和通道打乱这3种技巧,获取高强度语义信息;再次,加入高效通道注意力(ECA‑Net)模块,在通道维度上聚焦重要信息,加强对地基云图中云区域的关注,提高分割精度;最后,解码器使用双线性插值对特征进行上采样,提高分割图像的清晰度并减少目标和位置信息丢失。实验结果表明,与当前基于深度学习表现较好的地基云图分割网络(Cloud-UNet)相比,CloudRes-UNet在昼夜地基云图分割数据集上的分割准确率提升了1.5个百分点,平均交并比(MIoU)上升了1.4个百分点,更准确地获取了云量信息,对天气预报、气候研究和光伏发电等方面具有积极意义。

基于多判别器辅助分类器生成对抗网络的故障诊断方法研究

在强冲击、强辐射、极高温等极端恶劣的工作环境下,机械设备的故障模式复杂多样,获得充足且有效的故障数据变得非常困难甚至难以实现,以致故障诊断的准确性受限,后续检修维护方案难以有效制定。针对这一问题,提出了一种多判别器辅助分类器生成对抗网络的数据增强算法。通过设置3个判别器、1个生成器并添加独立的分类器,构建了新的辅助分类器生成对抗网络模型。针对在该模型训练中存在的不稳定性问题,通过引入Wasserstein距离构造新的损失函数,并采用稳定性更具优势的单边软约束正则化项替换原有的L2梯度惩罚项来解决模型崩溃问题;在此基础上,采用高效通道注意力机制来进一步提高模型的特征提取能力。将所提出的模型应用于扩充机械设备故障数据集,辅助深度学习智能诊断模型的训练。多个故障数据集扩充实验表明,与现有模型相比,新模型所生成数据的质量更高,故障诊断的准确率也得到进一步提高,因此具有较高的应用价值。

基于改进YOLOv5l的田间水稻稻穗识别

【目的】引入YOLOv5l算法模型并对其进行改进,以实现大田环境下水稻稻穗的精准、高效、无损检测。【方法】以田间水稻为研究对象,通过数码单镜反光相机采集水稻图像样本,人工标注后对原始图像进行离线数据增强扩充,构建田间水稻图像数据集;对YOLOv5l算法进行适应性改进,在空间金字塔池化(Spatial pyramid pooling,SPP)层前以及Cross-stage-sartial-connections(CSP)层中置入有效通道注意力(Efficient channel attention,ECA)机制,并进行对比试验。选取最优算法作为基准模型进行注意力机制和数据增强消融试验,并测试得到性能最优模型。将改进YOLOv5l与YOLOv5l、YOLOv5x、SSD和Faster R-CNN进行对比试验。【结果】在改进YOLOv5l的水稻识别框架中,将ECA置入网络SPP层前有更出色的性能。利用测试集图像检验模型,识别结果的平均精确率为93.63%,平均召回率为90.94%,总体平均精度可达95.05%。与未融合YOLOv5l算法相比,改进的YOLOv5l算法平均精度高3.03个百分点,图像的检测速率快8.20帧/ms;与YOLOv5x算法相比,改进的YOLOv5l算法平均精度提高0.62个百分点,图像的检测速率快5.41帧/ms,内存占用减少74.1MB,在田间水稻稻穗检测方面,改进YOLOv5l算法的综合性能优于其他算法。【结论】将改进后的YOLOv5l算法引入大田环境下的水稻稻穗检测是可行的,具有较高的精确率、较快的检测速度和较小的内存占用,能够避免传统人工检测的主观性,对稻穗检测和水稻的无损估产具有重要意义。

基于ECA-TCN的电力系统短期负荷预测研究

为充分挖掘蕴含在电力负荷数据中有效时序信息,科学、准确地进行短期电力负荷预测,提出了一种基于高效通道注意力ECA(efficient channel attention)模块优化的时间卷积神经网络TCN(temporal convolutional network)模型。将轻量级ECA模块与具有强大时序数据挖掘能力的TCN相结合,搭建ECA-TCN负荷预测框架。以可并行计算的TCN为基础学习负荷数据特征,改进基本TCN残差块的下采样位置,嵌入ECA模块,通过一维卷积生成通道权重进而实现不降维的局部跨通道交互,捕获重要信息。该模型能够在增加极少参数的同时提升模型性能,高效地完成负荷预测任务。经实际电网负荷数据仿真,结果表明所提出的ECA-TCN模型可以在保持较快训练速度的同时有效地提高预测精度。

改进YOLOv5s的遥感图像目标检测

针对遥感图像中感兴趣目标特征不明显、背景信息复杂、小目标居多导致的目标检测精度较低的问题,本文提出了一种改进YOLOv5s的遥感图像目标检测算法(Swin-YOLOv5s)。首先,在骨干特征提取网络的卷积块中加入轻量级通道注意力结构,抑制无关信息的干扰;其次,在多尺度特征融合的基础上进行跨尺度连接和上下文信息加权操作来加强待检测目标的特征提取,将融合后的特征图组成新的特征金字塔;最后,在特征融合的过程中引入Swin Transformer网络结构和坐标注意力机制,进一步增强小目标的语义信息和全局感知能力。将本文提出的算法在DOTA数据集和RSOD数据集上进行消融实验,结果表明,本文提出的算法能够明显提高遥感图像目标检测的平均准确率。

基于YOLOv5s的轻量化乒乓球目标检测算法

针对乒乓球目标检测方法易受环境、光线、速度等多种因素干扰导致精度和实时性不佳的问题,提出了一种基于YOLOv5s框架的轻量化乒乓球目标检测算法——SYOLO5(Shuffle-YOLOv5s)。首先,采用改进的ShuffleNetV2网络单元组合重构YOLOv5s主干网络,提高特征提取速度;其次,在特征融合的过程中引入高效通道注意力(ECA)机制,有效提升模型的检测性能;接着,采用SIoU Loss(S-Intersection over Union)作为定位损失函数提升网络的收敛速度和定位精度;最后,贴合乒乓球小尺寸的特点,采用双尺度目标检测,进一步提高模型推理速度。实验结果表明,所提算法与YOLOv5s相比,参数量和计算量分别减少了80%和60%,精确率提升了1.9个百分点。

基于改进YOLOv5s的带式输送机滚筒故障检测研究

针对目前带式输送机滚筒故障检测方法检测效率低、识别准确率不高、特征提取能力较差等问题,提出了一种基于改进YOLOv5s的带式输送机滚筒故障检测方法。在YOLOv5s网络模型中增加了小尺寸检测层,使尺寸较小的滚筒故障更易被检测到;在Backbone和Neck间引入卷积注意力机制(CBAM),提高目标检测的准确率;在Neck中引入高效通道注意力机制(ECA),增强对滚筒故障的特征提取能力。实验结果表明:①在满足实时检测要求的前提下,改进YOLOv5s网络模型识别平均准确率均值达94.46%,较改进前提升了1.65%。②改进YOLOv5s网络模型对滚筒开焊、包胶磨损和包胶脱落检测的平均准确率分别为95.29%,96.43%,91.65%,较改进前分别提高了1.56%,0.89%和2.50%。设计了基于改进YOLOv5s的带式输送机滚筒故障检测系统,并对该系统进行验证:①实验平台测试结果表明:基于改进YOLOv5s的带式输送机滚筒故障检测系统对滚筒开焊、包胶磨损和包胶脱落检测的平均准确率分别达95.29%,96.43%,91.65%,3种故障检测的平均准确率均值达94.46%,检测速度约为14帧/s。②现场测试结果表明:包胶磨损和包胶脱落的置信度分别为0.92,0.97,且能准确地识别出滚筒的故障类型和位置,说明基于改进YOLOv5s的带式输送机滚筒故障检测系统具有可行性。

注意力机制CNN结合肌电特征矩阵的手势识别研究

当前基于卷积神经网络(CNN)的手势识别研究集中于增加网络深度,较少关注改善样本数据分布带来的性能提升。针对此类问题,提出一种量化表面肌电信号(sEMG)特征相关性的肌电特征矩阵(EFM)样本输入有效通道注意力(ECA)机制CNN,用于识别NinaproDB1中52类手势。首先使用时间窗截取低通滤波后的sEMG,计算多种信号时域特征;然后利用笛卡尔积组合并相乘不同特征,对特征相乘值进行归一化后得到EFM。同时,引入ECA机制使网络关注重要的深层特征,从而提升手势分类效果。分别输入sEMG、肌电时域特征和EFM到注意力机制CNN进行手势识别,EFM识别准确率最高,达到了86.39%,高于近年来手势识别研究方法精度。验证了提出方法的有效性,为多类别手势准确分类提供可行新方案。

基于知识蒸馏与EssNet的田间农作物病害识别

农作物病害的快捷精准识别对我国粮食安全与农业发展提质增效具有重要意义。针对现有病害识别模型参数量大、泛化能力弱、不适用于田间实际场景且不易搭载至移动端等问题,本文提出了EssNet农作物病害识别网络,该网络以ShuffleNetV2_0.5为基础网络,引入高效通道注意力(ECA)机制与SiLU激活函数进行结构改进,同时结合知识蒸馏技术使用EfficientNetB0网络对EssNet进行学习指导,最后使用余弦退火衰减策略对学习率进行动态调整使网络表现达到最优。结果表明,本文提出的EssNet农作物病害识别网络对复杂环境下2种作物(玉米、苹果)的11种病害在测试集上的准确率达到95.21%,比基础网络提高2.11个百分点,参数量为0.35 M,权重文件为1.49 MB。该网络的整体性能优于其他现有模型,为建立田间轻量级农作物病害识别方法提供了参考。

监控视角下密集人群口罩佩戴检测算法

针对密集人群场景的口罩佩戴检测面临着监控视角下目标密集、互相遮挡、目标小、人脸透视畸变等难题,同时,涵盖不规范佩戴口罩场景的公开数据集也较为缺乏。提出一种基于YOLO-v5改进的监控视角下密集人群口罩佩戴检测算法MDDC-YOLO。利用空洞卷积构造多分支感受野模块MRF-C3替换YOLO-v5中常规C3模块,解决密集人群中小目标占比大的问题。使用Repulsion Loss基于样本边界框排斥吸引的原则提高模型抗遮挡能力,并充分利用训练过程中的遮挡正样本。在此基础上,引入ECA注意力机制进行特征通道最优化选择,并提出基于透视变换的离线数据增强方法,结合使用更适用于生成更多小目标样本的Mosaic-9数据增强方法,解决监控视角下密集人群口罩佩戴数据集缺乏的问题。实验结果表明,MDDC-YOLO算法相较于YOLO-v5算法mAP提升6.5个百分点,并达到32帧/s的检测速度,满足密集人群口罩佩戴检测的应用需求。

基于改进ShuffleNetV2的敏感内容识别与应用

针对目前公共场合大屏显示系统视频内容审核方法识别准确率低、难以部署在控制器上的问题,提出一种基于改进ShuffleNetV2的敏感内容识别方法。首先,在Block2模块拼接特征通道后引入高效通道注意力(ECA)模块,加强重要特征通道的权重;其次,采用最大池化替换Block2模块中的深度可分离卷积,减少复杂背景的干扰。将训练得到的模型进行转换并通过参数量化压缩模型,部署在以RK3399Pro为核心处理器的嵌入式控制器上,设计应用程序实现对视频文件中敏感内容的识别。实际测试结果表明:改进的ShuffleNetV2敏感内容识别模型准确率提升了3.85%,计算量减小了12.99%,在控制器上的检测速度达到每帧图像17 ms,并取得较好的识别效果,该方法可有效审核视频内容,并为大屏显示系统视频内容安全提供了可靠保障。