基于卷积块注意力模块和双向特征金字塔网络的接触网支持装置检测方法研究

接触网支持装置是接触网悬挂状态检测监测图像分析的关键对象,对支持装置零部件的检测定位是实现缺陷自动分析的基础。针对接触网支持装置零部件种类多、尺寸差异大、存在遮挡、部分零部件相似度高等问题,提出一种融合卷积块注意力模块(convolutional block attention module,CBAM)和双向特征金字塔网络(bidirectional feature pyramid network,BiFPN)的接触网支持装置检测方法。在YOLO v5s网络模型基础上,该方法通过CBAM增强接触网支持装置的特征提取,结合BiFPN,实现不同零部件分辨率特征图的融合。利用4C装置获得的图像数据集,开展验证试验。试验结果表明,相对YOLO v5s网络模型,融合CBAM和BiFPN的接触网支持装置检测方法,网络平均精度mAP@0.5提高2.12%;能显著提升小目标检测效果,提高定位的准确性和稳定性,对接触网状态的智能分析有重要意义。

引入卷积块注意力模块的YOLOv5网络在地铁车辆一系弹簧断裂检测中的应用

作为地铁车辆关键部件的一系弹簧会发生断裂,威胁列车运行安全。由于一系弹簧断裂的位置、形状不同,并且断裂位置常常被遮挡,使得采用目标检测方法检测时,目标面积较小。对于小目标,采用的基于深度学习的目标检测方法检测难以达到好的效果。针对这一问题,在YOLOv5网络的基础上加以改进,加入更小的初始检测锚框,并且在主干网络加入空间和通道注意力模块。对比试验结果表明,改进后平均准确率提高3%,有效提高了小目标的检测能力。

基于卷积块注意力模块的图像描述生成模型

图像描述生成模型是使用自然语言描述图片的内容及其属性之间关系的算法模型.对现有模型描述质量不高、图片重要部分特征提取不足和模型过于复杂的问题进行了研究,提出了一种基于卷积块注意力机制模块(CBAM)的图像描述生成模型.该模型采用编码器-解码器结构,在特征提取网络Inception-v4中加入CBAM,并作为编码器提取图片的重要特征信息,将其送入解码器长短期记忆网络(LSTM)中,生成对应图片的描述语句.采用MSCOCO2014数据集中训练集和验证集进行训练和测试,使用多个评价准则评估模型的准确性.实验结果表明,改进后模型的评价准则得分优于其他模型,其中Model2实验能够更好地提取到图像特征,生成更加准确的描述.

多尺度特征融合注意力新冠肺炎病灶分割网络

新冠病毒传染性极强,尽早的诊断和治疗是减少疫情造成损失的关键因素。为辅助医生诊断新冠病情,高效、准确地从肺部CT切片中分割新冠病灶,提出了一种改进的编码器-解码器深度神经网络———多尺度融合注意力网络MSANet(Multi-scale Attention Network),以图像分割效果较为出色的U-Net网络为基础,通过全局池化层和设置空洞卷积的采样率,增大网络感受野,捕获多尺度信息,实现对大目标的有效分割;使用通道注意力与空间注意力,在空间维度上建模,有效提取图像深层特征。测试结果表明,改进后的算法与U-Net网络相比,分割的平均交并比提升了1.46%,类别平均像素准确率提升了0.8%,准确率提升了1.17%。

嵌入双尺度分离式卷积块注意力模块的口罩人脸姿态分类

目的针对口罩遮挡的人脸姿态分类新需求,为了提高基于卷积神经网络的人脸姿态分类效率和准确率,提出了一个轻量级卷积神经网络用于口罩人脸姿态分类。方法本文设计的轻量级卷积神经网络的核心为双尺度可分离注意力卷积单元。该卷积单元由3×3和5×5两个尺度的深度可分离卷积并联而成,并且将卷积块注意力模块(convolutional block attention module,CBAM)的空间注意力模块(spatial attention module,SAM)和通道注意力模块(channel attention module,CAM)分别嵌入深度(depthwise,DW)卷积和点(pointwise,PW)卷积中,针对性地对DW卷积及PW卷积的特征图进行调整。同时对SAM模块补充1×1的点卷积挤压结果增强其对空间信息的利用,形成更加有效的注意力图。在保证模型性能的前提下,控制构建网络的卷积单元通道数和单元数,并丢弃全连接层,采用卷积层替代,进一步轻量化网络模型。结果实验结果表明,本文模型的准确率较未改进SAM模块分离嵌入CBAM的模型、标准方式嵌入CBAM的模型和未嵌入注意力模块的模型分别提升了2.86%、6.41%和12.16%。采用双尺度卷积核丰富特征,在有限的卷积单元内增强特征提取能力。与经典卷积神经网络对比,本文设计的模型仅有1.02 MB的参数量和24.18 MB的每秒浮点运算次数(floating-point operations per second,FLOPs),大幅轻量化了模型并能达到98.57%的准确率。结论本文设计了一个轻量高效的卷积单元构建网络模型,该模型具有较高的准确率和较低的参数量及计算复杂度,提高了口罩人脸姿态分类模型的效率和准确率。

基于混合注意力机制的动态人脸表情识别

针对自然环境中存在人脸遮挡、姿势变化等复杂因素,以及卷积神经网络(CNN)中的卷积滤波器由于空间局部性无法学习大多数神经层中不同面部区域之间的长程归纳偏差的问题,提出一种用于动态人脸表情识别(DFER)的混合注意力机制模型(HA-Model),以提升DFER的鲁棒性和准确性。HA-Model由空间特征提取和时序特征处理两部分组成:空间特征提取部分通过两种注意力机制——Transformer和包含卷积块注意力模块(CBAM)的网格注意力模块,引导网络从空间角度学习含有遮挡、姿势变化的鲁棒面部特征并关注人脸局部显著特征;时序特征处理部分通过Transformer引导网络学习高层语义特征的时序联系,用于学习人脸表情特征的全局表示。实验结果表明,HA-Model在DFEW和AFEW基准上的准确率分别达到了67.27%和50.41%,验证了HA-Model可以有效提取人脸特征并提升动态人脸表情识别的精度。

改进注意力机制的电梯场景下危险品检测方法

针对电动自行车和煤气罐搭乘电梯引起的火灾隐患,提出一种改进注意力机制的电梯场景下危险品检测方法。以YOLOX-s为基线模型,首先在加强特征提取网络中引入深度可分离卷积替换标准卷积,提升模型的推理速度。然后提出一种基于混合域的高效卷积块注意力模块(ECBAM)并嵌入主干特征提取网络中。在ECBAM模块的通道注意力部分,使用一维卷积替换两个全连接层,既降低了卷积块注意力模块(CBAM)的复杂度又提高了检测精度。最后提出一种多帧协同算法,通过结合多张图片的危险品检测结果以减少危险品入侵电梯的误报警。实验结果表明:改进后模型比YOLOX-s的平均精度均值(mAP)提升了1.05个百分点,浮点计算量降低了34.1%,模型体积减小了42.8%。可见改进后模型降低了实际应用中的误报警,且满足电梯场景下危险品检测的精度和速度要求。

混合注意力机制的异常行为识别

随着人工智能的快速发展,基于计算机视觉的人体异常行为识别受到极大的关注,并被广泛应用到智能安防等领域。针对人们在加油站等重要场所抽烟以及司机驾驶途中打电话等违规行为,提出一种混合注意力机制的异常行为识别方法。利用引入的卷积块注意力模块重点关注输入对象的显著性特征,并对输入信息进行精细化的分配和处理,在突出重要信息的同时弱化无关信息。为提升网络模型的特征挖掘能力及增强网络的信息交互性,利用提出的卷积特征提取模块进一步提取识别对象的高层语义特征,并将其与低层细节特征进行融合以达到多尺度特征交互的目的。此外,为了减少网络训练过程中错误标签造成的损失,采用标签平滑对交叉熵损失函数进行修正以此来驱动模型的学习过程。实验结果表明,所提出的模型优于当前的主流网络,可有效检测出异常行为。

基于注意力残差U-Net的皮肤镜图像分割方法

针对皮肤镜图像类内差异性、类间相似性、数据集不平衡等问题,本文提出了一种基于注意力残差U-Net(attention residual block-UNet,ARB-UNet)的皮肤镜图像分割方法。将卷积块注意力机制模块(convolutional block attention module,CBAM)引入到U-Net模型的“跳过连接”中;同时将CBAM模块集成到残差模块DRB(dilated residual networks)中得到注意力残差结构(attention residual block,ARB);且选取Focal Tversky Loss作为该模型的损失函数;在ISIC2016数据集上对所提ARB-UNet模型进行训练和测试,并与传统方法和UNet等经典方法进行了对比实验,实验结果中灵敏度(sensitivity,SE)达到了92.9%,特异性(specificity,SP)达到了94.1%,Dice相似指数(dice similarity cofficient,DSC)达到了92.1%,整体上均优于其他对比方法,从而验证了本文方法是有效的和可行的。

注意力机制与复合卷积在手写识别中的应用

将图片切分成单“字”识别再连接成“串”是脱机手写图像识别的一种方法,但由于手写字符间易存在粘连,切分方法不易实现。卷积循环神经网络(CRNN)虽解决了整张文本图片输入,标签却不易对齐的问题,但由于不同人脱机手写风格的严重差异,网络提取出的特征表示力不够。对此提出了加强型卷积块注意力模块和复合卷积,并将其加入处理脱机文本识别的CRNN+CTC主流框架中。加强型卷积块注意力模块增大输入特征图的贡献权重且并联地使用通道注意力、空间注意力,丰富了细化特征图语义信息的同时避免了通道注意力模块对空间注意力模块的权重干扰,使得网络更聚焦图片中的有用特征而非无用的拖拽字迹特征。而嵌入在网络深层的复合卷积采用的多卷积核卷积意味着不同尺度的特征融合,增强了网络的泛化性。基于加强型卷积块注意力模块和复合卷积的CRNN+CTC框架在具有语义信息的IAM数据集上准确率达到85.7748%,字符错误率为8.6%;在RIMES数据集上准确率达到92.8728%,字符错误率为3.9%,比起当前主流的脱机文本识别算法,性能进一步提升。

注意力引导的三流卷积神经网络用于微表情识别

目的微表情识别在心理咨询、置信测谎和意图分析等多个领域都有着重要的应用价值。然而,由于微表情自身具有动作幅度小、持续时间短的特点,到目前为止,微表情的识别性能仍然有很大的提升空间。为了进一步推动微表情识别的发展,提出了一种注意力引导的三流卷积神经网络(attention-guided three-stream convolutional neural network,ATSCNN)用于微表情识别。方法首先,对所有微表情序列的起始帧和峰值帧进行预处理;然后,利用TV-L1(total variation-L1)能量泛函提取微表情两帧之间的光流;接下来,在特征提取阶段,为了克服有限样本量带来的过拟合问题,通过3个相同的浅层卷积神经网络分别提取输入3个光流值的特征,再引入卷积块注意力模块以聚焦重要信息并抑制不相关信息,提高微表情的识别性能;最后,将提取到的特征送入全连接层分类。此外,整个模型架构采用SELU(scaled exponential linear unit)激活函数以加快收敛速度。结果本文在微表情组合数据集上进行LOSO(leave-one-subject-out)交叉验证,未加权平均召回率(unweighted average recall,UAR)以及未加权F1-Score(unweighted F1-score,UF1)分别达到了0.7351和0.7205。与对比方法中性能最优的Dual-Inception模型相比,UAR和UF1分别提高了0.0607和0.0683。实验结果证实了本文方法的可行性。结论本文方法所提出的微表情识别网络,在有效缓解过拟合的同时,也能在小规模的微表情数据集上达到先进的识别效果。

基于多监督注意力机制神经网络的脑胶质瘤循环肿瘤细胞分割算法

为了提升脑胶质瘤循环肿瘤细胞的分割准确率,解决人工分割中肉眼分辨边界困难、目标占比小和操作流程繁琐等问题,提出一种端到端的像素级分割算法。针对数据特征,提出一种基于多监督机制的混合损失函数用以提升预测区域与目标区域的交并比,同时训练网络向预测正确目标个数的方向收敛;其次,在网络中逐层加入卷积块注意力机制模块,使得网络能在空间、通道层面重点学习数据特征,进一步提升预测准确率;最后,通过采用混合训练的方式,只需一个网络模型就能直接分割出细胞核、细胞质区域,缩减训练流程。实验结果表明,此分割算法对比U-Net网络在召回率、精确率以及Dice系数方面均有显著提升,在细胞核分割方面,分别达到92.20%、86.56%、88.27%;在细胞质分割方面,分别达到89.33%、85.31%、86.33%。

基于CBAM YOLOv4-Mish的乳腺X线摄片肿块检测方法

为了提高乳腺肿块的检测精度,基于YOLOv4提出了一种CBAM YOLOv4-Mish模型进行乳腺X线摄片肿块检测.该模型采用平滑、连续可导的Mish激活函数替换原模型中的Leaky ReLU激活函数,并引入了卷积块注意力模块,使模型更加关注于肿块等关键信息而忽略背景等无关信息.在DDSM数据集上的实验结果表明:CBAM YOLOv4-Mish的AP_(0.5)为81.9%,比原始YOLOv4提升了3.6%.与其他乳腺肿块检测方法相比,该方法具有更好的检测能力.

基于注意力融合的遥感滑坡目标识别

针对传统卷积神经网络遥感滑坡识别方法中存在的模型参数量多、重点区域关注不足、难以捕获长期(全局)依赖关系的问题,提出一种融合改进自注意力和卷积块注意力的遥感滑坡目标识别算法。该算法基于编码器-解码器目标识别框架,为了增强模型对滑坡区域局部特征关注程度,将卷积块注意力机制应用于浅层特征提取,从空间与通道两个维度获取滑坡目标特征关联信息。将改进自注意力机制应用于深层特征提取,使模型能够捕获特征图内和特征图间的全局特征信息,实现滑坡目标与背景区域的有效区分。实验结果表明,该方法的滑坡识别精度为96.81%,像素分割准确率均值达到90.11%。通过与FCN、DeeplabV3+等算法进行对比,该方法在保持模型轻量级的同时,有效提升了滑坡识别的准确率。

基于CBAM-CNN的电力系统暂态电压稳定评估

为进一步提高电力系统暂态电压稳定评估模型的特征提取能力和模型在系统拓扑结构发生变化时的适应性,提出一种将改进的卷积神经网络与迁移学习相结合的方法。首先,在卷积神经网络的卷积层后插入卷积块注意力模块,对输入的数据从通道和空间两个独立的维度依次提取特征,提高卷积神经网络对系统暂态电压状态的识别能力。然后,将该模块与微调技术相结合,提高模型在系统拓扑结构改变时的在线更新速度。最后,算例分析验证了所提模型的有效性。

基于改进YOLOv5s的轻量级绝缘子缺失检测

针对现有绝缘子缺失检测模型计算复杂度高和小目标难以检测等问题,提出一种基于改进的YOLOv5s轻量级检测模型。首先,移除主干网络中的C3模块来减少模型的参数量。其次,在多尺度特征融合网络中引入卷积块注意力机制来提高复杂背景下模型的特征提取能力。同时,采用加权双向特征金字塔网络结构对特征进行双向跨尺度加权融合,提升网络在遮挡物、相似目标干扰下目标的检测性能。最后,选用SIoU损失函数提升网络的收敛速度和检测精度。实验结果表明,所提模型的平均精准率为96.8%,浮点运算数为2.8 GFLOPS,而原始YOLOv5s在保证97.4%的平均精准率下的浮点运算数为16.3 GFLOPS。相较于原始模型,所提模型对小目标、遮挡目标以及模糊等场景有着较强的鲁棒性,且在保证近似检测精度的同时极大减少了计算量。

基于CBAM-CGRU-SVM的Android恶意软件检测方法

随着Android恶意软件的种类和数量不断增多,检测恶意软件以保护系统安全和用户隐私变得越来越重要。针对传统的恶意软件检测模型分类准确率较低的问题,提出一种基于卷积神经网络(CNN)、门控循环单元(GRU)和支持向量机(SVM)的模型CBAM-CGRU-SVM。首先,在CNN中添加卷积块注意力模块(CBAM)以学习更多恶意软件的关键特征;其次,利用GRU进一步提取特征;最后,为了解决图像分类时模型泛化能力不足的问题,使用SVM代替softmax激活函数作为模型的分类函数。实验使用了Malimg公开数据集,该数据集将恶意软件数据图像化作为模型输入。实验结果表明,CBAM-CGRU-SVM模型分类准确率达到94.73%,能够更有效地对恶意软件家族进行分类。

基于CBAM-LSTM的风电集群功率短期预测方法

风电功率的精准预测对我国实现“碳达峰”、“碳中和”的目标具有重要意义。传统的风电功率预测方法往往忽视了时间序列数据中的长期依赖关系和空间相关性,导致预测结果不准确。为了解决这个问题,文中提出了了卷积块注意力机制(Convolutional Block Attention Module, CBAM)和长短时记忆网络(Long Short-Term Memory, LSTM)相结合的模型。首先,使用CBAM对风电功率时间序列数据特征和数值天气预报中蕴含的空间特性进行提取,该模块能够自适应地学习时间和空间上的重要特征;然后,将提取的特征输入到LSTM层结构中进行功率预测。为了验证所提方法的有效性,使用中国吉林省某风电场的数据集进行验证,实验结果表明,与其他功率预测方法相比,文中所提方法平均绝对误差(Mean Absolute Error, MAE)平均降低2.67%;决定系数(R-Square, R2)平均提高23%;均方根误差(Root Mean Square Error, RMSE)平均降低2.69%。

改进YOLOv5的遥感图像目标检测

针对基于YOLOv5算法的小目标的检测精度低、密集目标识别效果差的问题,提出了一种改进YOLOv5目标检测框架。YOLOv5的主干网络加入卷积块注意力模块(Convolutional block attention module,CBAM)可提高特征提取能力,增强网络对图像纹理的感知能力,使小目标获取更多关注。为了解决密集目标检测的漏检问题,YOLOv5的颈部网络使用加权双向特征网络(Bidirectional feature pyramid network,BiFPN)替代原有的像素聚合网络(Path aggregation network,PAN),通过权值共享的方式实现多尺度特征融合。采用EIoU作为模型的边界框回归损失函数,提高了边界框回归性能,加快网络收敛速度。在DOTA数据集上,实验验证了YOLOv5的改进结果,此方法的mAP为80.0%,能够检测更多的目标,相较于YOLOv5,改进YOLOv5的mAP提升了5.2%。

基于改进UNet3+的岩心图像颗粒提取算法

在石油勘探过程中,岩心颗粒是研究地质层序、评估油气含量以及认识地质构造的有效资料,对岩心颗粒图像进行颗粒提取有利于地质研究人员后续的深入分析.岩心颗粒图像通常存在颗粒边缘模糊、背景与颗粒色彩复杂的问题.为了改善岩心颗粒提取的效果,本文设计了一种基于改进UNet3+的岩心图像颗粒提取算法.该算法在UNet3+的每个编码层后加入感受野模块(RFB)来扩大网络的感受野,从而有效地解决网络因感受野受限而导致的分割精度低的问题,并在RFB模块后嵌入了卷积块注意力模块(CBAM)使网络更加精确地聚焦于目标区域,提高目标区域的特征权重.实验结果表明,改进后的算法在岩心颗粒图像上具有良好的分割效果,相比原始UNet3+网络,分别在mIoU、mPA和FWIoU上提升了5.43%、2.99%和5.34%.