基于注意力机制残差神经网络的近红外芒果种类定性建模方法

现代光谱检测技术的飞速发展与深度学习紧密相关,作为一种端到端的模型,深度神经网络可以从光谱中得到更多信息,从而提升模型鲁棒性。为探究近红外光谱结合深度学习对芒果种类定性预测的可行性,提出一种基于卷积注意力机制(CBAM)的一维残差神经网络(1D-AD-ResNet-18)模型。为降低光谱中冗余信息的干扰,在传统一维残差神经网络(1D-ResNet-18)中嵌入CBAM卷积注意力模块,该模块可重点关注光谱局部有用信息;为避免梯度消失、过拟合情况发生,使用解决网络“退化”问题的ResNet-18。对于186个芒果样本,采用70%的样本进行训练,30%的样本进行测试,采用准确度(Accuracy)、精确率(Precision)、召回率(Recall)、F1值(F1-score)、宏观平均值(Macro-average)以及加权平均值(Weighted-average)作为模型评价指标。建立传统1D-ResNet-18、SNV-SVM和PCA-KNN三种对比模型,与上述三种方法作对比,所建立的1D-AD-ResNet-18模型取得最优预测结果,四种定性分析模型的准确率分别为96.42%,80.35%,76.78%和67.85%。结果表明,1D-AD-ResNet-18模型实现了对芒果种类的准确识别与分类,为近红外光谱定性分析芒果种类提供了新思路。

基于注意力机制和Mogrifier LSTNet的道路交通占有率预测

提出一种改进的LSTNet深度学习框架用于交通占有率数据预测。采用不同大小的卷积核来捕捉时间序列数据中不同时间范围内的模式和趋势,并融合CBAM注意力机制可以在通道维度和空间维度上自适应地调整特征的权重。通过引入Mogrifier机制多次迭代交替更新LSTM的输入门和遗忘门的权重,以更好地捕捉序列数据中的长期依赖关系。而AR模型充分考虑了数据集的自相关性帮助模型更好地理解历史信息。实验结果表明,提出的模型相对绝对值误差为0.3497,明显优于其他模型,能够有效提高交通占有率的准确预测。

引入注意力机制的偏转字符识别算法

由于传统人工抄表成本高且受恶劣环境限制,使得智能抄表成为以后的发展方向。常见的电表主要可分为机械字轮电表和液晶电表两类。其中,由于机械字轮电表存在的偏转问题,导致其在字符识别的过程中出现了字符特征信息缺失的情况,从而使该表型识别准确率较低。为了解决此问题,本文对YOLOv5识别算法的骨干网部分进行了修改,提升了算法对机械字轮电表偏转字符的识别效果。首先,在网络模型中引入了CBAM注意力机制,提升了网络模型对偏转字符的特征提取能力。其次,将切片操作(Focus)替换成一个6×6的卷积,并使用更快的SPPF池化结构替换了原先的SPP池化结构以提升算法的运算速度。为了测试模型的识别效果,采集了329张电表偏转字符样本进行实验,整体识别准确率可以达到99.4%。同时采集了1500张液晶电表样本对模型的泛化性进行测试,识别准确率达到了99.6%。实验结果表明,本文方法解决了偏转字符识别率低的问题,同时验证了识别模型具有很强的泛化性。

基于注意力机制和迁移学习的服装分类方法

针对服装图像分类效率低、准确率不高等问题,提出了一种基于注意力机制和迁移学习的服装图像分类方法。主要采用预训练的ResNet50网络模型在服装数据集上进行迁移学习,以降低对数据集的依赖,并减少网络训练时间;通过几何变换和颜色抖动2种数据增强手段处理数据集,提高模型的泛化能力;以ResNet50为基础网络,加入卷积注意力机制模块(convolutional block attention module, CBAM),依次从通道和空间2个维度提高对服装不同区域的关注度,增强了特征表达能力。在CD和IDFashion两类背景干扰信息不同的数据集上进行验证,实验结果表明:所提出的模型能够提取更多服装特征信息,在IDFashion数据集的平均分类准确率为95.60%,分别高于ResNet50、ResNet50+STN和ResNet50+ECA模型6.65%、6.69%、6.62%,一定程度上提高了服装图像分类的准确率和效率。

基于注意力机制轻量化模型的植物病害识别方法

针对现有植物病害识别模型存在响应速度慢、参数量多、计算机内存资源消耗大等问题,本研究提出了一种轻量化神经网络模型,该模型由特征提取层、特征增强层和分类器组成。为了减小模型大小并提高网络响应速度,在特征提取层中使用深度可分离卷积进行特征提取。为了防止网络传播过程中的梯度消失并增强病害像素特征融合,在特征提取层中引入了大卷积核倒置残差结构(IRBCKS)模块。此外,在特征增强层集成了轻量级卷积块注意力模块(CBAM)注意力机制,以捕捉植物病害相关图像中像素之间的关系,增强关键信息的提取。最后,采用剪枝技术剔除模型中冗余特征信息,从而再次减少模型参数量,形成最终的轻量级网络模型Cut-MobileNet。为验证该模型的先进性,将其与轻量化模型(MobileNet V2、SqueezeNet、GoogLeNet)和非轻量化模型(Vision Transformer、AlexNet)进行性能对比,研究结果表明,Cut-MobileNet在浮点运算量、准确率、单张图片推理时间、参数量、F1值和模型大小等性能指标上都取得了较优的效果。

基于注意力机制的轻量级矿井钢丝绳断丝检测算法研究

立井提升系统作为煤矿生产中的主要运输设备,其核心构件钢丝绳常因工作负荷大、受到腐蚀、磨损等原因而产生断丝引发事故。传统的立井提升机钢丝绳检测算法存在效率低、劳动强度大、智能化程度差和准确率低等问题。基于此,提出一种改进YOLOv5s模型,并基于改进的模型进行矿井钢丝绳断丝检测。首先,设计Swiener滤波算法进行钢丝绳图像运动模糊修复,抑制噪声干扰;其次,在特征提取阶段,引入RFC3轻量化模块降低模型可训练参数,提升钢丝绳检测速度;第三,提出CBAM R注意力机制,增强模型对小断口断丝的检测能力;最后,引入Focal EIoU损失函数,提高模型对小断口断丝的检测精度并加速模型收敛。研究结果表明:所提出的基于注意力机制矿用钢丝绳断丝检测算法(CTR YOLO)可以更好地满足实际应用需求,减少了误检、漏检导致的人力成本浪费及安全事故的发生。

多尺度残差注意力网络及其表情识别算法

面部表情识别已经广泛运用于人机交互、教育、自动驾驶等各种领域,针对现有表情识别方法网络结构复杂、参数多、泛化能力不足、识别率低等问题,且人脸表情在自然环境下易受到光照、姿态和局部遮挡等环境因素的影响,提出了一种多尺度残差注意力网络.以ResNet-18网络为基础,提出了一种新的多尺度残差注意力模块,通过提取不同尺度特征,增加特征多样性.引入CBAM注意力机制获取表情图像重点特征信息,有利于提升遮挡表情的识别.构建特征残差融合块,将浅层特征与深层特征进行残差融合,有利于获取丰富的人脸表情图像整体特征.实验结果表明,本文方法在CK+、JAFFE和Oulu-CASIA 3个公开表情数据集上分别达到了99.49%、98.53%和97.08%的准确率,与一些现有方法相比,本文方法表情识别率更高,证明了该方法可用于人脸表情识别.

基于注意力机制和级联金字塔网络的姿态估计

人体姿态估计是计算机视觉领域的热门研究课题。随着深度学习的发展,人体姿态估计模型已经能够精准预测人体关键点。针对关键点被遮挡、关键点重合以及复杂背景等问题,提出了一种结合注意力机制的级联金字塔模型,它将注意力机制加入特征提取网络中,使模型可以获得更丰富的特征信息,并且借助GlobalNet和RefineNet达到精准定位被遮挡关键点的目的。在公开数据集MPII、MS COCO2017和3DOH50K上的验证结果表明,相较于以往模型,该模型在标准情况和被遮挡情况下人体姿态估计的准确度有所提升,且具有鲁棒性。

基于注意力机制的遥感船舶图像分类

遥感船舶图像细粒度分类的难点在于类间差异小和类内差异大,并且该领域公开可用的数据集太少,常规的数据增强方法效率低且效果不够好。为了解决上述问题,提出一种基于注意力机制的遥感船舶图像分类网络。首先,利用CBAM注意力机制生成每张训练图的注意力图以突出目标的显著特征部分;其次,通过注意力引导的区域剪裁和区域删除两种方式进行数据增强;最后,将原图和增强后的图片输入进行训练。在数据集FGSCR-42上对该方法进行验证,实验结果表明,该方法超越了其他现有模型,有效提升了遥感船舶图像细粒度分类精度。

一种结合改进Inception V2模块和CBAM的轴承故障诊断方法

传统深度学习的轴承故障诊断方法网络复杂,训练参数多,模型泛化性弱。针对上述问题,在工业大数据背景下,提出一种结合改进Inception V2模块和CBAM注意力机制的轴承故障诊断方法,改进后的Inception V2模块通过增加平均池化层,进一步拓宽分支网络结构,从而提高网络表达能力。将轴承振动信号通过小波变换转换为时频图,作为卷积神经网络的输入,通过改进Inception V2模块对输入特征进行自适应特征提取,跨通道对提取的特征进行信息组织;通过CBAM注意力机制生成通道和空间的双重注意力权重,增强相关度高的特征并抑制相关度不高的特征;将生成的特征数据输入到全局平均池化层,并输出故障诊断结果。实验结果表明:该方法可以建立“浅层”卷积神经网络模型,减少模型参数,加快模型收敛速度,实现99.75%的准确率;同时在不同负载以及高噪声条件下,模型有较好的泛化性,更适合应用在工业大数据中。

基于CBAM-InceptionV2-双流CNN的风电机组轴承故障诊断

针对风电机组轴承故障诊断中经典一维卷积神经网络和二维卷积神经网络准确率低的问题,将一维原始振动信号和二维时频图相融合,构建基于CBAM-InceptionV2-双流CNN的滚动轴承故障诊断方法。首先,通过快速傅里叶变换和小波变换,将原始振动信号转化为一维数据和二维时频图;其次,构建基于CBAMInceptionV2-双流CNN模型;最后,将提取到的双层特征信息进行融合,并输入到Softmax完成故障分类。实验结果表明,所提模型能够显著地提升轴承故障诊断的准确性。

基于CBAM和BiFPN改进YoloV5的渔船目标检测

在渔港高点监控渔船目标的场景下,对渔船检测经常丢失和检测错误等问题,提出了一种基于改进YoloV5的渔船目标检测模型。首先通过Kmeans++算法对锚框重新聚类,选择适合渔船数据集的锚框尺寸;然后在YoloV5的骨干网络中融入卷积注意力模块(CBAM)注意力机制获取更多细节特征;再采用加权双向特征金字塔网络(BiFPN)代替原先的特征金字塔网络(FPN)+像素聚合网络(PAN)结构,快速进行多尺度特征融合;最后在检测尺度上去掉大目标的检测尺度,增加更小目标的检测尺度,改用新的三个检测尺度,提高了模型对小目标渔船的检测精度。结果显示:对比原YoloV5算法,改进后的算法精确度、召回率和平均精度均值均有所提升,分别提升29.5%、0.5%和4.5%,每秒检测帧数达到90.6,对渔船目标检测效果有大幅度改善。研究表明,改进后的YoloV5算法满足休渔期管控期间对渔船目标检测的准确性和实时性要求。

基于CBAM-ResNet网络的视线估计方法

针对当前视线估计方法准确率不高的问题,提出了一种基于残差网络与注意力机制相结合的视线估计模型。首先,预处理阶段对人脸图像进行关键点定位、剪裁及归一化;然后,将归一化后的图像连续通过残差网络与CBAM(convolutional block attention module)注意力模块,进行人脸特征提取;最后,将神经网络输出的二维视线方向向量转换为三维视线方向向量,得到最终结果。实验结果表明,本模型在公共数据集MPIIFaceGaze上的视线误差角度为4.48o,与其他视线估计系统模型进行对比,本文所提出的模型可以更准确地估计视线方向。

基于改进U-Net模型和CBAM的脑肿瘤MRI图像分割

由于脑肿瘤图像分割常出现缺少上下文信息和分割效率低的情况,本文采用对U-Net模型改进的方法来解决此问题。首先,在U-Net中引入改进的残差块,其作用是对网络进行深化,便于提取更多的特征信息;然后通过加入CBAM机制的方法,使得网络更加关注某些特征层和空间区域,抑制非病灶区域的特征,以提高肿瘤分割的准确性。本文利用MICCAI提供的公开磁共振成像MRI数据集对改进模型进行验证,并利用Dice系数和精准率对模型进行评估,在整体、核心和增强肿瘤区两者分别达到0.883、0.80、0.789和0.899、0.845、0.804。结果显示,修改后的模型对脑肿瘤图像的分割精度和准确率均有所提高。

低照度下改进YOLOX的煤矿无人电机车轨道障碍物检测方法

为解决地下煤矿光照不足进而导致无人电机车脱轨、撞车或侧翻等问题,提出了一种低照度多特征融合的YOLOX-CBAM目标检测算法,对矿井无人电机车轨道障碍物进行有效识别与分类。首先,通过实际场景采集及标注构建地下煤矿障碍物数据集,并将其输入微光数据处理Zero_DCE模型中;其次,对YOLOX目标检测网络进行改进,分别在骨干网络CSPDarknet和特征金字塔(Feature Pyramid Networks,FPN)部分增加双通道CBAM注意力模块,解决了特征提取环节通道单一的问题;最后,将预测头部分的损失函数替换成SIoU,加快了模型迭代的速度。结果表明,与传统两阶段Faster-RCNN网络、YOLOv4网络、YOLOv5网络和原YOLOX网络相比,本模型精确率分别提高了4.65百分点、2.65百分点、2.19百分点、1.35百分点,召回率分别提高了9.39百分点、4.36百分点、0.82百分点、0.76百分点,速度分别提高了28.6帧/s、16帧/s、13.6帧/s、2.9帧/s,同时本模型与分别添加CBAM、SA、SA+SIoU、SE、SE+SIoU,YOLOX-CBAM模块的YOLOX模型相比,其精度分别提高了0.64百分点、0.84百分点、1百分点、1.29百分点和0.76百分点,速度分别提高了0.5帧/s、0.4帧/s、0.3帧/s、0.2帧/s和0.4帧/s。所提出的方法能实现地下煤矿井下无人电机车轨道障碍物的快速准确检测,并为地下矿运输设备的智能化升级及安全运行提供理论支撑。

基于改进EfficientNet的红外图像光伏组件故障识别研究

光伏组件的故障会影响光伏阵列的输出性能,从而降低电站的发电效率,严重时甚至会危害电站的安全运行。传统的方法无法满足目前光伏组件故障检测快速性和正确率需求。因此,本文提出了一种基于改进EfficientNet的光伏组件故障识别方法。首先,利用采集到的光伏组件红外图像建立故障数据集,并利用图像分割和数据增强对数据集进行预处理;其次,基于EfficientNet网络构建故障识别模型,同时在模型中引入双通道注意力模块(CBAM),该模块能够抑制不必要特征的识别,增强模型对空间特征信息的提取能力,进而提高模型的识别准确率;最后,通过对比仿真实验证明模型的有效性和先进性。实验结果表明,该模型的故障识别准确率达到了90.83%,相较于原始的EfficientNet模型提高了2.83%,且模型大小仅为20.3 M,具有良好的实用性,能够满足光伏电站实际应用的需求。

基于深度学习的PCB缺陷检测技术

印刷电路板(printed circuit board,PCB)是电子产品的关键部件。在实际生产过程中,PCB难免会产生多种缺陷,对缺陷进行及时、精准检测具有一定的研究意义与应用价值。传统的检测方法存在速度慢、成本高、精度低的问题。针对PCB缺陷检测问题,开展基于YOLO系列算法研究,在相同的实验环境下,以平均精度、精确率、召回率、每秒传输帧数作为评价性能指标。实验研究发现,YOLOv7在精度方面比YOLOv5有一定的提升,而YOLOv5在训练和推理的速度上比YOLOv7更快。提出融合CBAM(convolutional block attention module)注意力机制模块的YOLOv5改进算法用于PCB缺陷检测。经实验验证,改进算法在PCB缺陷检测的精确性和速度性能上均得到提升,其中,平均精度、精确度和召回率分别提升了7.40%,3.57%和5.63%。

基于改进YOLOv8s算法的胸环靶弹孔检测技术

为了解决传统胸环靶弹孔检测技术在自然条件下易受光照强度、复杂背景影响的问题,设计了一种基于YOLOv8s的改进算法。首先,在数据集的制作过程中引入图形分割将背景与胸环靶分离,避免了复杂环境对弹孔识别精度的影响。其次,为提升模型对弹孔的检测能力,在C2f中引入CBAM注意力机制,通过对空间和通道特征赋予不同的权值提高网络对弹孔目标的识别能力;增加检测尺度为160×160的小目标输出层,减少了弹孔特征在下采样过程中的信息损失并降低弹孔漏检的概率;考虑到原有卷积层对小目标不敏感,采用SPD-Conv模块替换原有卷积层,提取更多的特征信息提升检测精度。最后,将边界框损失函数更改为WIoU以减弱正负样本数量不均衡的影响,提高了预测框的回归精度。在自制胸环靶数据集的实验结果表明:改进算法的准确率P为96.9%、召回率R为96.4%、平均精度mAP50为98.0%,相较于原算法,分别提升8.8百分点、25.4百分点、15.3百分点。实验结果证明改进的YOLOv8s模型在复杂环境和密集弹孔的检测方面具有更好的性能。

基于改进YOLOv8的森林火灾检测算法研究

随着全球天气持续变暖,高温、干旱、大风等极端天气呈现多发并发态势,导致全球范围内森林火灾频繁爆发。为了提升森林火灾检测精确率和实时性,提出了一种基于改进YOLOv8的森林火灾检测算法模型。该模型在Neck端上采样阶段中的Upsample结构后面以及每个C2F模块后面添加CBAM(Convolutional Block Attention Module)注意力机制,通过对特征通道和空间的学习,提高模型的特征提取能力,解决火焰和烟雾图像分辨率低和受不同场景因素影响导致的识别率低的问题。将该算法模型应用于火灾数据集进行训练、验证、测试发现,与原算法模型相比,经改进的算法模型的准确率和召回率分别提高了6.5%和6.8%,其中mAP@0.5提高了4.8%。实验结果表明,改进后的算法模型能够实现对森林火灾的实时监测与精确识别。

基于改进YOLOv5s的田间移动障碍物检测

为实现无人农机在行驶过程中对田间移动型障碍物的实时检测,提出一种基于YOLOv5s的目标检测模型,用于检测田间行人和其他协同作业的农机设备。该目标检测模型以YOLOv5s模型为基础框架,进行了以下三点改进:第一,为了减少模型的参数量和计算复杂度,提高推理速度,将YOLOv5s网络模型中的卷积模块和C3模块替换为Ghost卷积和C3Ghost模块;第二,为了弥补模型参数量减少所造成的精度下降的损失,提升对目标的检测能力,在主干网络输出的特征层中引入CBAM注意力机制;第三,采用BiFPN特征金字塔结构,实现多尺度特征加权融合。实验结果表明,YOLOv5s模型的参数量为7.02×106,计算复杂度为15.8GB,平均检测精度为94%,生成权重文件大小为13.7MB,单幅图像的检测速度为71.43 f/s;改进后的模型参数量为4.04×106,下降了42.45%,计算复杂度缩减为8.5 GB,平均检测精度达到了93.2%,仅仅下降了0.8%,权重文件大小为8.1 MB,单幅图像的检测速度为77.52 f/s。以上数据证明,改进后的模型能够满足对田间移动型障碍物的实时检测,且更加易于部署到移动端设备。