基于改进E-EfficientNet的古陶瓷纹饰分类模型

为进一步提高古陶瓷纹饰分类精度,提出一种基于改进EfficientNet的古陶瓷纹饰分类模型。该模型通过引入高效率注意力机制(ECA)模块改进原主干网络EfficientNet-B0,有效捕获通道间的交互信息,利用跳跃连接在特征提取的最后一层加入ECA模块,获得古陶瓷纹饰注意力特征图,并利用迁移学习和Adam优化算法在古陶瓷纹饰数据集上进行实验验证。结果表明,改进后的E-EfficientNet模型在古陶瓷纹饰数据集上的识别准确率达到了99.26%,较改进前提高了2.48%;与同类轻量化模型ShuffleNet-V2和MobileNet-V3对比,识别准确率分别提高了2.10%和2.91%;与其他经典模型VGG、ResNet对比,不仅参数量大幅度减少,识别准确率均明显提高,可有效用于古陶瓷纹饰分类。

基于高效通道注意力模块(ECA)和YOLOv5的图像检测方法研究

佩戴安全帽是人们在施工建设中的一项重要保护措施,它可以有效保障人们的生命财产安全。安全帽检测系统也已经成为了很多施工场所的必备的基础设施,为了改善YOLOv5不能通过权重进行聚焦,从而生成有明显辨识度的特征,进而影响安全帽检测准确度的问题,我们在YOLOv5中引入了注意力模块,保证了卷积过程中的特征提取,并且使得图像得到优化,提升了安全帽检测结果的准确性和模型性能。并且我们对比了原YOLOv5、添加了ECA(Efficient Channel Attention)高效通道注意力模块、添加了SEA(Squeeze-andExcitation attention)注意力模块和添加了压缩激励SEL(Squeeze and Excitation Layer)注意力模块的精确率P/%、召回率R/%、mAP@0.5和mAP@0.5:0.95,实验结果表明添加了ECA(Efficient Channel Attention)通道注意力模块的ECA-Yolov5算法相较于原YOLOv5算法P/%、R/%、mAP@0.5、mAP@0.5:0.95分别提升了0.5、0.6、0.5、0.2。由此结果表明引入高效通道注意力模块(ECA)的YOLOv5安全帽识别算法更有能力进行安全施工的检测,提升了施工的安全性。

基于ECA改进1D-CNN的柱塞泵故障诊断

往复式柱塞泵是油田作业的关键设备,其健康状况直接影响作业区的生产运行效率。针对变工况柱塞泵的复杂振动特性,提出基于高效通道注意力(Efficient Channel Attention,ECA)的一维卷积神经网络(One-dimensional Convolutional Neural Network,1D-CNN)油田柱塞泵故障诊断方法。在油田柱塞泵体关键部位安装加速度传感器,并使用测振系统采集泵前轴承等关键部位振动信号;利用一维卷积神经网络对油田柱塞泵振动监测信号进行学习,以识别柱塞泵故障特征,通过高效通道注意力(ECA)机制实现减少特征维度损失同时捕获特征通道信息交互,以提高柱塞泵故障诊断精度;借助SoftMax分类器实现振动加速度信号分析的多故障诊断。现场数据采集及试验分析证明,提出的故障诊断模型具有较强的数据特征提取能力,并在油田实际运行数据分析中取得了高性能的诊断效果。验证结果表明,该技术在柱塞泵监测应用中具有较强的鲁棒性和准确性,与其他单一深度学习相比有显著的故障特征提取和诊断优势,能够为柱塞泵及类似设备的故障诊断提供理论依据和技术指导。

基于ECA和YOLOv4的轻量级目标检测网络设计

针对传统的目标检测网络存在参数量大、检测速度慢等不足,在计算资源受限的设备上难以满足实时性需求的问题,提出一种改进的YOLOv4-tiny目标检测算法,使用Bneck_E替换主特征提取网络的CSP结构,在深层特征提取网络中,增加轻量级注意力机制——高效通道注意力(ECA)机制,采用双向特征融合,用深度可分离卷积对浅层特征下采样,提高对小目标的检测精度。在PASCAL VOC数据集上实验表明,该算法平均精度均值(mAP)提高了4.4%,帧率(FPS)提升了8.9%,模型大小仅为YOLOv4-tiny的36%,有利于在嵌入式设备上部署运行。

基于改进Res-UNet的昼夜地基云图分割网络

针对昼夜地基云图在分割中细节信息丢失、分割精度低等问题,提出一种基于改进Res-UNet(Residual network-UNetwork)的昼夜地基云图分割网络CloudRes-UNet(Cloud ResNet-UNetwork),整体采用编码器-解码器的网络结构。首先,编码器使用ResNet50提取特征,增强特征提取能力;其次,设计多级特征提取(Multi-Stage)模块,该模块结合分组卷积、膨胀卷积和通道打乱这3种技巧,获取高强度语义信息;再次,加入高效通道注意力(ECA‑Net)模块,在通道维度上聚焦重要信息,加强对地基云图中云区域的关注,提高分割精度;最后,解码器使用双线性插值对特征进行上采样,提高分割图像的清晰度并减少目标和位置信息丢失。实验结果表明,与当前基于深度学习表现较好的地基云图分割网络(Cloud-UNet)相比,CloudRes-UNet在昼夜地基云图分割数据集上的分割准确率提升了1.5个百分点,平均交并比(MIoU)上升了1.4个百分点,更准确地获取了云量信息,对天气预报、气候研究和光伏发电等方面具有积极意义。

基于ECA-TCN的电力系统短期负荷预测研究

为充分挖掘蕴含在电力负荷数据中有效时序信息,科学、准确地进行短期电力负荷预测,提出了一种基于高效通道注意力ECA(efficient channel attention)模块优化的时间卷积神经网络TCN(temporal convolutional network)模型。将轻量级ECA模块与具有强大时序数据挖掘能力的TCN相结合,搭建ECA-TCN负荷预测框架。以可并行计算的TCN为基础学习负荷数据特征,改进基本TCN残差块的下采样位置,嵌入ECA模块,通过一维卷积生成通道权重进而实现不降维的局部跨通道交互,捕获重要信息。该模型能够在增加极少参数的同时提升模型性能,高效地完成负荷预测任务。经实际电网负荷数据仿真,结果表明所提出的ECA-TCN模型可以在保持较快训练速度的同时有效地提高预测精度。

基于YOLOv5s的轻量化乒乓球目标检测算法

针对乒乓球目标检测方法易受环境、光线、速度等多种因素干扰导致精度和实时性不佳的问题,提出了一种基于YOLOv5s框架的轻量化乒乓球目标检测算法——SYOLO5(Shuffle-YOLOv5s)。首先,采用改进的ShuffleNetV2网络单元组合重构YOLOv5s主干网络,提高特征提取速度;其次,在特征融合的过程中引入高效通道注意力(ECA)机制,有效提升模型的检测性能;接着,采用SIoU Loss(S-Intersection over Union)作为定位损失函数提升网络的收敛速度和定位精度;最后,贴合乒乓球小尺寸的特点,采用双尺度目标检测,进一步提高模型推理速度。实验结果表明,所提算法与YOLOv5s相比,参数量和计算量分别减少了80%和60%,精确率提升了1.9个百分点。

基于改进YOLOv5s的带式输送机滚筒故障检测研究

针对目前带式输送机滚筒故障检测方法检测效率低、识别准确率不高、特征提取能力较差等问题,提出了一种基于改进YOLOv5s的带式输送机滚筒故障检测方法。在YOLOv5s网络模型中增加了小尺寸检测层,使尺寸较小的滚筒故障更易被检测到;在Backbone和Neck间引入卷积注意力机制(CBAM),提高目标检测的准确率;在Neck中引入高效通道注意力机制(ECA),增强对滚筒故障的特征提取能力。实验结果表明:①在满足实时检测要求的前提下,改进YOLOv5s网络模型识别平均准确率均值达94.46%,较改进前提升了1.65%。②改进YOLOv5s网络模型对滚筒开焊、包胶磨损和包胶脱落检测的平均准确率分别为95.29%,96.43%,91.65%,较改进前分别提高了1.56%,0.89%和2.50%。设计了基于改进YOLOv5s的带式输送机滚筒故障检测系统,并对该系统进行验证:①实验平台测试结果表明:基于改进YOLOv5s的带式输送机滚筒故障检测系统对滚筒开焊、包胶磨损和包胶脱落检测的平均准确率分别达95.29%,96.43%,91.65%,3种故障检测的平均准确率均值达94.46%,检测速度约为14帧/s。②现场测试结果表明:包胶磨损和包胶脱落的置信度分别为0.92,0.97,且能准确地识别出滚筒的故障类型和位置,说明基于改进YOLOv5s的带式输送机滚筒故障检测系统具有可行性。

矿井图像超分辨率重建研究

受井下粉尘大、照度低等环境影响,矿井图像存在分辨率低、细节模糊等问题,现有的图像超分辨率重建算法应用于矿井图像时,难以获取不同尺度图像信息、网络参数过大而影响重建速度,且重建图像易出现细节丢失、边缘轮廓模糊、伪影等问题。提出了一种基于多尺度密集通道注意力超分辨率生成对抗网络(SRGAN)的矿井图像超分辨率重建算法。设计了多尺度密集通道注意力残差块替代SRGAN原有的残差块,采用2路并行且卷积核大小不同的密集连接块,可充分获取图像特征;融入高效通道注意力模块,加强对高频信息的关注度;采用深度可分离卷积对网络进行轻量化,抑制网络参数的增加;利用纹理损失约束网络训练,避免网络加深时产生伪影。在井下数据集和公共数据集上对提出的矿井图像超分辨率重建算法和经典超分辨率重建算法BICUBIC,SRCNN,SRRESNET,SRGAN进行实验,结果表明:所提算法在主客观评价上总体优于对比算法,网络参数较SRGAN减少了2.54%,峰值信噪比与结构相似度较经典算法指标均值分别提高了0.764 dB和0.05358,能更好地关注图像的纹理、轮廓等细节信息,重建图像更符合人眼视觉。

注意力机制CNN结合肌电特征矩阵的手势识别研究

当前基于卷积神经网络(CNN)的手势识别研究集中于增加网络深度,较少关注改善样本数据分布带来的性能提升。针对此类问题,提出一种量化表面肌电信号(sEMG)特征相关性的肌电特征矩阵(EFM)样本输入有效通道注意力(ECA)机制CNN,用于识别NinaproDB1中52类手势。首先使用时间窗截取低通滤波后的sEMG,计算多种信号时域特征;然后利用笛卡尔积组合并相乘不同特征,对特征相乘值进行归一化后得到EFM。同时,引入ECA机制使网络关注重要的深层特征,从而提升手势分类效果。分别输入sEMG、肌电时域特征和EFM到注意力机制CNN进行手势识别,EFM识别准确率最高,达到了86.39%,高于近年来手势识别研究方法精度。验证了提出方法的有效性,为多类别手势准确分类提供可行新方案。

基于知识蒸馏与EssNet的田间农作物病害识别

农作物病害的快捷精准识别对我国粮食安全与农业发展提质增效具有重要意义。针对现有病害识别模型参数量大、泛化能力弱、不适用于田间实际场景且不易搭载至移动端等问题,本文提出了EssNet农作物病害识别网络,该网络以ShuffleNetV2_0.5为基础网络,引入高效通道注意力(ECA)机制与SiLU激活函数进行结构改进,同时结合知识蒸馏技术使用EfficientNetB0网络对EssNet进行学习指导,最后使用余弦退火衰减策略对学习率进行动态调整使网络表现达到最优。结果表明,本文提出的EssNet农作物病害识别网络对复杂环境下2种作物(玉米、苹果)的11种病害在测试集上的准确率达到95.21%,比基础网络提高2.11个百分点,参数量为0.35 M,权重文件为1.49 MB。该网络的整体性能优于其他现有模型,为建立田间轻量级农作物病害识别方法提供了参考。

基于改进ShuffleNetV2的敏感内容识别与应用

针对目前公共场合大屏显示系统视频内容审核方法识别准确率低、难以部署在控制器上的问题,提出一种基于改进ShuffleNetV2的敏感内容识别方法。首先,在Block2模块拼接特征通道后引入高效通道注意力(ECA)模块,加强重要特征通道的权重;其次,采用最大池化替换Block2模块中的深度可分离卷积,减少复杂背景的干扰。将训练得到的模型进行转换并通过参数量化压缩模型,部署在以RK3399Pro为核心处理器的嵌入式控制器上,设计应用程序实现对视频文件中敏感内容的识别。实际测试结果表明:改进的ShuffleNetV2敏感内容识别模型准确率提升了3.85%,计算量减小了12.99%,在控制器上的检测速度达到每帧图像17 ms,并取得较好的识别效果,该方法可有效审核视频内容,并为大屏显示系统视频内容安全提供了可靠保障。

监控视角下密集人群口罩佩戴检测算法

针对密集人群场景的口罩佩戴检测面临着监控视角下目标密集、互相遮挡、目标小、人脸透视畸变等难题,同时,涵盖不规范佩戴口罩场景的公开数据集也较为缺乏。提出一种基于YOLO-v5改进的监控视角下密集人群口罩佩戴检测算法MDDC-YOLO。利用空洞卷积构造多分支感受野模块MRF-C3替换YOLO-v5中常规C3模块,解决密集人群中小目标占比大的问题。使用Repulsion Loss基于样本边界框排斥吸引的原则提高模型抗遮挡能力,并充分利用训练过程中的遮挡正样本。在此基础上,引入ECA注意力机制进行特征通道最优化选择,并提出基于透视变换的离线数据增强方法,结合使用更适用于生成更多小目标样本的Mosaic-9数据增强方法,解决监控视角下密集人群口罩佩戴数据集缺乏的问题。实验结果表明,MDDC-YOLO算法相较于YOLO-v5算法mAP提升6.5个百分点,并达到32帧/s的检测速度,满足密集人群口罩佩戴检测的应用需求。

基于改进ShuffleNetV2网络的岩石图像识别

由于基于传统深度学习的岩石图像识别算法模型比较繁琐,而且应用于移动终端等需要一定的计算能力,因此很难实现对岩石类型的实时准确判别。为此,以ShuffleNetV2网络为基础,插入通道连接注意力机制ECA(Efficient Channel Attention)模块,使用Mish激活函数代替ReLU激活函数并引入轻量级网络部件中的深度可分离卷积。将该方法用于岩石图像识别,实验结果表明,改进后的算法结构简单,同时具有轻量化的特点,其识别精度达到94.74%,可在移动终端等有限资源环境下应用。

基于改进高分辨率神经网络的多目标行人跟踪

针对行人多目标跟踪过程中目标被遮挡时产生的检测、跟踪失败问题,提出了一种改进型高分辨率神经网络作为检测网络。首先,为了增强网络对于行人目标的初始特征提取能力,在高分辨率神经网络的基础上,对网络的主干部分引入二代瓶颈残差块结构,提升感受野和特征表达力;其次,设计了添加二层高效通道注意力模块的残差检测块架构,并通过该架构替换了原有网络在多尺度信息交换阶段中的残差检测块,以提高了整个网络系统的测试性能;最后,通过选择适当的参数对网络进行了全面地训练,并通过多个测试集对算法测试。测试结果显示,本文算法相较于FairMOT在2DMOT15,MOT17,MOT20数据集上的跟踪准确度分别提升0.1%,1.6%,0.8%。本文算法可以良好地应用在目标较多且遮挡面积较大的特殊情景,同时对于较长时间视频序列的追踪稳定性也大大提高。

基于改进残差网络的异常网络流量检测

提出一种改进ResNet101的异常流量数据检测和识别方法,在残差模块中改变卷积层,同时引入高效信道注意力(ECA)机制,使用一维卷积在高度注意力信道中融合特征流,增加对异常流量的识别能力。实验结果表明,基于残差网络改进模型在识别极低样本数量时相比原有模型能够有更高的精确率、召回率和F 1值。

融合双残差密集与注意力机制的视网膜血管分割

针对视网膜血管末端细小,且容易与背景混淆等现象从而导致细小血管不易分割和断裂等情况,提出了一种融合双残差密集与注意力机制的视网膜血管分割算法。首先,在编码器部分利用双残差密集块与高效通道注意力机制来获取特征;其次,为了解决细小血管分割不足的现象,在编码器与解码器中间使用空洞卷积替换标准卷积来增大感受野;最后,自适应聚合块将之前所有块的特征映射组合起来,形成一个新的特征映射,作为后续层的输入,在自适应聚合块或DDRB之后,将使用卷积层来压缩特征映射,则双残差密集块(从DDRB1到DDRB5)的输出特征映射被完全重用。分别在DRIVE和STARE数据集上进行验证,其ACC分别为96.85%和97.84%,AUC分别为98.61%和99.45%。

融合注意力的ConvNeXt视网膜病变自动分级

由于视网膜病变的类间图像特征差别小及分类临界值相对模糊,自动分级算法存在识别与分级准确率低的问题,提出了融合高效通道注意力(Efficient Channel Attention,ECA)特征的ConvNeXt视网膜病变自动分级模型。针对数据集中数据不足的问题,采用水平翻转左右变换的方法扩充数据,并引入相关数据集来均衡数据的分布。针对眼底图像中出现的图像模糊、光照不均等问题,采用Graham方法对图像进行预处理突出病变特征。提出了融合注意力的ConvNeXt网络来辅助医生诊断视网膜病变,引入ECA机制,并设计了E-Block模块,该模块具有高性能、低参数的特性,能够在训练过程中有效捕捉跨通道交互的信息,同时避免降维。采用迁移学习方法训练网络的所有层参数,加入dropout方法避免ConvNeXt网络的学习能力过强导致的过拟合问题。实验结果表明,所提出的模型敏感性为95.20%,特异度为98.80%,准确率为95.21%。与常用的网络相比,本文方法针对视网膜病变自动分级各项性能指标均有提高。

改进ShuffleNet V2的轻量级农作物病害识别方法

针对目前有关深度学习的农作物病害识别方法中存在模型较为复杂,部署在计算资源有限的边缘设备和移动终端上适应性不强,实时准确识别作物病害较差的问题,提出一种改进ShuffleNet V2的轻量级农作物病害识别方法。以ShuffleNet V2单元为基础,引入ECA(efficient channel attention)注意力模块,使用H-Swish激活函数以便减少网络结构每个Stage模块中ShuffleNet V2单元使用个数,使用轻量化网络设计组件深度可分离卷积。在PlantVillage病害数据集上进行实验。结果表明,模型的参数量约为2.95×10^(5),计算量为3.388×10^(7)(FLOPs)和6.674×10^(7)( MAdd),病害识别平均准确率达到了99.24%,为农作物病害识别方法在移动终端等资源受限设备上部署应用提供参考。

基于改进CNN的噪声以及变负载条件下滚动轴承故障诊断方法

针对现有轴承故障诊断方法应对噪声以及变负载条件下诊断能力不足问题,提出一种基于卷积神经网络(Convolutional Neural Networks, CNN)和有效通道注意力模块(Efficient Channel Attention,ECA)的滚动轴承故障诊断方法。该方法首先通过卷积神经网络对原始信号进行自适应故障特征提取;然后使用ECA模块生成通道注意力权重,实现对通道全局特征信息的掌握,据此增强模型在噪声及变负载条件下特征提取能力;最后将所提取的特征信息输入Softmax分类器并输出结果,实现滚动轴承故障诊断。通过对比实验证明,相比于传统深度学习方法,该方法拥有优良的轴承故障诊断性能,并在噪声干扰以及变负载条件下仍能保持出色的故障诊断准确率。