CIRBlock:融合低代价卷积的轻量反向残差模块

针对轻量级卷积神经网络MobileNet采用的反向残差结构仍具有较多的冗余计算的问题,构建了一种更为轻量的反向残差模块(cheap inverted residuals block,CIRBlock),并设计了一种新的轻量级卷积神经网络CIRNet。通过低代价卷积操作,简化逐点卷积,并构建旁路分支进行特征复用,减少反向残差的输出通道;利用通道注意力机制和通道混洗,增强通道间信息交流;在下采样时利用旁路分支信息构建和主分支相同的拓扑结构,提高特征冗余结构的通道多样性;完成轻量化网络模块CIRBlock的设计,并通过人工堆叠CIRBlock构建不同复杂度的轻量级卷积神经网络CIRNet。在目标分类上的实验表明:在CIFAR数据集上,基于相同的VGG16架构,使用CIRBlock比使用MobileNetV2的反向残差结构FLOPs降低58.1%,参数量减少55.5%,分类精度损失小于0.4%。在Mini-ImageNet目标分类数据集上,CIRNet分类精度比MobileNetV2高0.35%,FLOPs降低69%,参数量减少77.4%。

融合Inception V1-CBAM-CNN的轴承剩余寿命预测模型

针对现有的滚动轴承剩余寿命(RUL)预测方法精度低、轴承健康指标(HI)构建困难等问题,提出了一种基于卷积神经网络(CNN)并融合Inception V1模块和卷积注意力机制模块(CBAM)的滚动轴承RUL预测模型。首先,在CNN中添加了CBAM机制,并进行了加权处理,在通道和空间维度对重要特征进行了强化,对次要特征进行了抑制,通过添加改进的InceptionV1模块,提高了CNN通道间信息交互水平,全面提取了退化特征;然后,进行了网络优化,采用全局最大池化(GMP)方法对模型进行了简化,采用Dropout和批量归一化(BN)方法,避免了过拟合,提高了精度,且克服了训练时出现的梯度消失问题;最后,对数据进行了处理,将降噪后的信号重组为三维张量,将其作为HI,构建了退化标签,引入了评价指标,采用PHM2012轴承数据集进行了实验验证,在3种工况下将其与深度神经网络(DNN)、CNN方法、结合注意力机制的残差网络方法(ResNet)进行了对比。研究结果表明:该方法在变负载条件下的平均RMSE为0.033,较其他方法的RMSE值分别降低了86%、78%和69%,在预测精度和泛化能力方面具有明显优势。

基于残差卷积网络的多传感器融合永磁同步电机故障诊断

作为工业生产与日常生活的常见设备,永磁同步电机的故障诊断研究具有十分重要的意义。以永磁同步电机的匝间短路、退磁、轴承故障为诊断目标,提出一种新型的多传感器特征融合网络(MSFFN),结合多传感器融合技术与卷积神经网络实现永磁同步电机的可靠故障诊断。网络采用2个带有残差模块的卷积神经网络,对输入的电流信号与振动信号并行提取隐藏特征,并设计一种中间特征融合模块(IFFM)有效融合电流和振动的各层隐藏特征,IFFM基于注意力机制对网络中的电流特征与振动特征进行筛选,自适应关注不同信号的内在相关特征,以实现更好的诊断效果。搭建了故障样机测试平台进行数据采集与实验验证,实验结果表明,提出方法具有更高的诊断准确率,同时在叠加了强噪声的条件下,具备更强的抗干扰能力。

基于GRU-DRSN的双通道人体活动识别

人体活动识别(human activity recognizition, HAR)在医疗、军工、智能家居等领域有很大的应用空间。传统机器学习方法特征提取难度较大且精度不高。针对上述问题并结合传感器时序特性,提出了一种融合CBAM(convolutional block attention module)注意力机制的GRU-DRSN双通道并行模型,有效避免了传统串行模型因网络深度加深引起梯度爆炸和消失问题。同时并行结构使得两条支路具有相同的优先级,使用深度残差收缩网络(deep residual shrinkage network, DRSN)提取数据的深层空间特征,同时使用门控循环结构(gated recurrent unit, GRU)学习活动样本在时间序列上的特征,同时进行提取样本不同维度的特征,并通过CBAM模块进行特征的权重分配,最后通过Softmax层进行识别,实现了端对端的人体活动识别。使用公开数据集(wireless sensor data mining, WISDM)进行验证,模型平均精度达到了97.6%,与传统机器学习模型和前人所提神经网络模型相比,有更好的识别效果。

基于改进Unet的多目标非侵入式负荷监测

非侵入式负荷监测被认为是能源监测和管理中一个关键问题,针对传统NILM模型对多状态电器训练准确率较低且只能对单一电器进行训练问题,文章提出基于改进Unet多目标非侵入式负荷监测模型。模型在Unet基础上引入卷积块注意力模块(CBAM),CBAM结合通道和空间注意力,增强模型提取特征能力,通过结合残差连接,将激活函数ReLU替换为GELU,防止网络退化和梯度爆炸,利用神经网络不同通道特征提取能力实现多通道输出,对UK-DALE数据集上使用最多5个电器同时训练。相比于现有NILM模型,该模型在更低网络参数量下,可以实现多目标监测且有较高准确率。

面向畸变扭曲文档的两种图像矫正网络

由于文档纸张的几何形变、拍摄场景的干扰及拍摄角度不理想导致的透视失真,移动设备获取的文档图像的光学字符识别(Optical character recognition,OCR)性能受到很大挑战。针对折叠和扭曲的畸变文档图像预处理问题,设计了两种基于自编码器的网络结构,以实现自适应性图像矫正并提高文字识别正确率。首先提出空洞残差块和非对称卷积残差块两种残差块,然后将残差块与自编码器相结合,设计了一种非对称空洞自编码器网络;同时利用空间金字塔池化代替全连接层,并用非对称卷积残差块实现特征提取,设计了另一种空间金字塔自编码器网络。实验结果表明,与畸变图像相比,经非对称空洞自编码器网络矫正后的图像在OCR正确率、OCR召回率和文本相似度上分别提高了26.3%、20.4%和12.3%,而经空间金字塔自编码器网络矫正后的图像在正确率、召回率和文本相似度上分别提高了27.7%、22.0%和15.5%。与RectiNet等其他图像矫正网络相比,这两种网络可以自适应矫正多种类型的畸变文档图像,且矫正后的图像在文字识别上表现更为优异。本文提出的两种矫正网络能有效提高图像文字识别正确率、召回率和文本相似度,同时在鲁棒性、泛化性等方面与现有矫正网络相比具有明显的优势。

基于并联自适应残差网络与CBAM的ECT图像重建

为解决电容层析成像中软场效应导致重建图像精度低的问题,提出了一种基于并联自适应残差网络与卷积注意力机制的图像重建算法。通过引入并联自适应残差模块提取丰富的特征层信息,再利用压缩激励网络调整各通道的权重系数,达到过滤冗余信息的效果,引入卷积注意力机制学习浅层特征的通道和空间信息,将卷积注意力机制通道与并联自适应残差网络进行特征融合以补偿损失的浅层特征和空间信息。仿真结果表明,相比LBP算法、Landweber迭代算法、1D CNN算法,改进算法有效提高了重建质量。

改进卷积神经网络的SAR图像识别方法

针对SAR图像存在散斑噪声且各个类别的区分度不高而导致的目标特征提取难的问题,提出了一种改进卷积神经网络的SAR图像识别方法.采用不同尺度的卷积层提取SAR图像特征,设计了一种多尺度特征提取模块,充分提取图像的隐含信息;对经典的残差神经网络残差块进行改进,设计了一种密集残差块结构,为后面层提供丰富的细节信息,保证输出特征的表达能力.最后在MSTAR数据集上进行了验证.实验结果表明,本文模型在测试集上的识别率达到了99.17%,优于其他方法.对测试集加入不同比例的椒盐噪声,本文模型比其他CNN识别率高,说明本文模型具有较好的鲁棒性.

基于联邦学习与改进CBAM-ResNet18的脑肿瘤分类

针对联邦学习框架下,基于卷积注意力模块的多客户端脑肿瘤分类方法对于MRI图像中肿瘤区域细节提取能力不足、通道注意力与空间注意力相互干扰的问题,以及针对多点医疗肿瘤数据分类准确性低的问题,提出了一种融合联邦学习框架和改进的CBAM-ResNet18网络的脑肿瘤分类方法.利用联邦学习特性联合多点脑肿瘤数据,采用Leaky ReLU激活函数代替ReLU激活函数以减轻神经元死亡,将卷积注意力模块中的通道注意力模块由先降维再升维改成先升维再降维,充分提高网络对图像细节的提取能力,将卷积注意力模块中的通道注意力模块与空间注意力模块由级联结构改为并联结构,使得网络的特征提取能力不会受到二者先后顺序的影响.通过在Kaggle公开的脑肿瘤MRI数据集上的进行实验,该方法的准确率、精准度、召回率与F1值分别为97.78%、97.68%、97.61%与97.63%,比基准模型分别高6.54%、4.78%、6.80%、7.00%.实验结果证明,该方法不仅能够打破数据孤岛,实现多点数据融合,而且比多数现有主流模型的性能更好.

基于卷积注意力的单导联心电图房颤检测方法

随着可穿戴心电设备的普及,从单导联心电图中自动检测房颤的方法越来越重要。针对可穿戴心电设备采集的单导联心电图中存在噪声干扰的问题,提出一种基于卷积注意力的残差神经网络模型Resnet34-CAB。通过融合卷积注意力块(CAB),在模型复杂度少量增加的情况下,选择性地关注心电图的关键特征,自适应地抑制噪声,提高了模型的检测性能。在公开数据集上的实验结果表明,Resnet34-CAB模型优于Resnet34、Resnet34-Transformer模型,验证了融合CAB的有效性。

基于Dy Res Net-CBAM网络的滚动轴承剩余寿命预测

滚动轴承的工作状况关系到使用滚动轴承的机械能否正常运行,预测轴承的剩余使用寿命(RUL)是避免机械系统失效的关键。针对传统的轴承使用寿命预测方法无法自适应调节特征权重、提取有用特征,造成预测值误差过大的问题,提出了一种带有卷积块注意力模块(CBAM)的动态残差网络(Dy Res Net)用于预测轴承RUL。对振动信号进行快速傅里叶变换求得频域累积幅值特征,在动态残差网络中加入CBAM模块,并利用压缩激励模块进行特征细化得出预测结果,使用公开轴承数据集对所提模型进行评估。实验表明:与其他模型相比,Dy Res Net-CBAM模型能够充分提取特征信息,对轴承RUL预测的准确度高于其他模型。

一种残差卷积与多尺度特征融合的海岛多时相遥感影像变化检测方法

为提高多时相遥感影像的海岛变化检测精度,文中采用编解码结构模型将变化检测中变和不变的二分类问题视为语义分割任务,提出一种残差卷积与多尺度特征融合的海岛多时相遥感影像变化检测方法(RMFNet)。首先,在编码器层构建4组优化的残差卷积块(RC)用于提取特征信息,每组残差卷积块通过三重跳跃连接方式提高网络的泛化能力;其次,构建基于空洞空间金字塔池化的多尺度特征融合块(MFF),融合语义信息、全局上下文信息以充分学习海岛变化与未变化的特征;然后,使用损失函数指导残差卷积块和多尺度特征融合块的训练;最后,以中国香港岛为例,基于公开的变化检测OSCD数据集进行仿真实验。结果表明:提出的RMFNet方法的Kappa值比CNN、ResNet-18、PSPNet、SegNet、UNet五种方法分别提高0.2509、0.2019、0.1313、0.0786、0.0380,验证了该方法的有效性。

联合超声甲状腺结节分割与分类的多任务方法研究

针对超声图像中甲状腺结节多尺度、结节边缘模糊、良恶分类不平衡问题,提出一种联合超声甲状腺结节分割与分类的多任务方法。以全卷积网络作为主干共享网络,将提取到的浅层特征共享给多任务分支网络,在分割网络分支中,先加入深层卷积块,获取分割分支深层特征,再对深层特征进行上采样。本文提出一种改进卷积注意力模块的多尺度卷积注意力模块,将上采样结果与主干共享网络每个特征提取阶段经过带有多尺度卷积注意力模块跳跃连接后的特征张量进行拼接,减少结节边缘模糊问题,提高分割性能。同时将多尺度卷积注意力模块融入到分类分支中,优化分类性能。实验结果表明:本文所提多任务方法能有效提升分割和分类的精度,较单任务深度学习网络具有更优的分割与分类性能,能有效处理甲状腺结节多尺度、结节边缘模糊的问题,降低良恶分类不平衡带来的影响。

矿井图像超分辨率重建研究

受井下粉尘大、照度低等环境影响,矿井图像存在分辨率低、细节模糊等问题,现有的图像超分辨率重建算法应用于矿井图像时,难以获取不同尺度图像信息、网络参数过大而影响重建速度,且重建图像易出现细节丢失、边缘轮廓模糊、伪影等问题。提出了一种基于多尺度密集通道注意力超分辨率生成对抗网络(SRGAN)的矿井图像超分辨率重建算法。设计了多尺度密集通道注意力残差块替代SRGAN原有的残差块,采用2路并行且卷积核大小不同的密集连接块,可充分获取图像特征;融入高效通道注意力模块,加强对高频信息的关注度;采用深度可分离卷积对网络进行轻量化,抑制网络参数的增加;利用纹理损失约束网络训练,避免网络加深时产生伪影。在井下数据集和公共数据集上对提出的矿井图像超分辨率重建算法和经典超分辨率重建算法BICUBIC,SRCNN,SRRESNET,SRGAN进行实验,结果表明:所提算法在主客观评价上总体优于对比算法,网络参数较SRGAN减少了2.54%,峰值信噪比与结构相似度较经典算法指标均值分别提高了0.764 dB和0.05358,能更好地关注图像的纹理、轮廓等细节信息,重建图像更符合人眼视觉。

一种用于深度补全的双分支引导网络

深度信息在机器人、自动驾驶等领域中有着重要作用,通过深度传感器获取的深度图较为稀疏,研究人员为了补全缺失的深度信息提出了大量方法。但现有方法大多是针对不透明对象,基于卷积神经网络的强大表征能力,设计了一个双分支引导的编解码结构网络模型,通过针对透明物体的以掩码图为引导的编码分支,提升网络对透明物体特征信息的提取能力,并且使用谱残差块连接编解码部分,提高了网络训练稳定性及获取物体结构信息的能力,除此之外,还加入了注意力机制以提升网络空间和语义信息的特征建模能力。该网络在两个数据集上都达到了领先的效果。

基于注意力机制和残差块的真实图像去噪

为有效去除真实图像噪声,提出一种基于注意力机制和残差块的图像去噪算法。采用通道和空间注意力机制相结合的双重注意力模块给不同的特征赋予权重,并与残差块合并于编解码结构;应用增大感受野模块,在保护图像结构的同时增大感受野;整体架构采用密集特征融合保留更多细节。实验结果表明,该算法在SIDD和DND数据集的峰值信噪比分别达到了39.59 dB和39.73 dB,结构相似性分别达到了0.911%和0.953%,具有最佳视觉效果。所提算法在去噪的同时能够保留更多图像细节信息。

基于注意力残差U-Net的皮肤镜图像分割方法

针对皮肤镜图像类内差异性、类间相似性、数据集不平衡等问题,本文提出了一种基于注意力残差U-Net(attention residual block-UNet,ARB-UNet)的皮肤镜图像分割方法。将卷积块注意力机制模块(convolutional block attention module,CBAM)引入到U-Net模型的“跳过连接”中;同时将CBAM模块集成到残差模块DRB(dilated residual networks)中得到注意力残差结构(attention residual block,ARB);且选取Focal Tversky Loss作为该模型的损失函数;在ISIC2016数据集上对所提ARB-UNet模型进行训练和测试,并与传统方法和UNet等经典方法进行了对比实验,实验结果中灵敏度(sensitivity,SE)达到了92.9%,特异性(specificity,SP)达到了94.1%,Dice相似指数(dice similarity cofficient,DSC)达到了92.1%,整体上均优于其他对比方法,从而验证了本文方法是有效的和可行的。

基于弱监督下改进的CBAM-ResNet18模型识别苹果多种叶部病害

针对苹果叶部病害图像在仅有图像类别标注的弱监督的条件下识别准确率低的问题,提出了一种基于改进的CBAM-ResNet算法进行苹果叶部病害识别。以ResNet18作为基础模型,对轻量级卷积块注意力模块(Convolutional Block Attention Module,CBAM)注意力机制中通道注意力模块中的多层感知机(Multilayer Perceptron,MLP)进行升维改进,放大苹果叶部病害特征细节;将改进的CBAM融入残差模块中,以加强对关键细节特征的提取,将AlphaDropout配合SeLU (Scaled Exponential Linearunits)融入网络中,防止其网络的过拟合化,加速模型收敛效果;最后,采用单周期余弦退火算法调整学习率,得到病害识别模型。训练在样本图像均只进行图像级标注的弱监督下进行,大大降低标注成本。通过消融实验,探究出改进CBAM中MLP最佳升维维度为2,相对于原CBAM,准确率提升0.32%,并在参数量增加17.59%的情况下,每轮训练时长减少8 s。在包含苹果斑点落叶病、褐斑病、花叶病、灰斑病、锈病等5种病害的6185幅图像数据集上进行了试验测试,结果显示,在弱监督学习下,识别准确率方面,该模型对苹果5种病害的平均识别准确率达到98.44%,改进的CBAM-ResNet18相比改进前的ResNet18提高了1.47%,且高于VGG16,DesNet121,ResNet50,ResNeXt50,EfficientNet-B0和Xception对照模型;在学习效率方面,改进的CBAM-ResNet18相对于ResNet18在参数量增加24.9%的条件下,每轮的训练时间减少6 s,且在VGG16,DesNet121,ResNet50,ResNeXt50,EfficientNet-B0和Xception对照模型中以每轮137 s最快速度完成模型训练。通过混淆矩阵结果,计算出模型的精确度平均值、召回率平均值和F1分数平均值分别达到了98.43%、98.46%和0.9845。该结果表明,改进的CBAM-ResNet模型可进行苹果叶部病害识别且具有良好的识别结果,可为苹果叶部病害智能识别提供技术支撑。

结合残差块和MLP卷积的真实图像去噪网络

与传统的去噪方法相比,基于卷积神经网络的去噪方法有良好的去噪性能,然而此类方法在恢复图像时会产生过平滑伪影导致信息缺失。因此提出了一种基于残差块和多层感知器(MLP)卷积的端到端去噪网络,其由特征提取模块、多路径扩张模块和去噪特征学习模块组成。该网络首先引入特征提取模块来对输入特征进行约束增强处理;然后使用多路径扩张模块捕获局部上下文信息的同时增加感受野;最后利用残差块和MLP卷积进一步捕捉复杂的特征信息以及实现跨通道的信息交互和整合,同时提升模型的泛化能力,以获得高质量的无噪声图像。实验结果表明,所提方法在主观和客观上均具有先进的去噪性能。

基于Mask R-CNN卷积神经网络的虹膜分割

针对虹膜图像中存在眼镜遮挡、模糊、角度偏差等不同噪声因素,我们设计了一种基于Mask R-CNN的卷积神经网络(convolutional neural network,CNN),命名为Mask-INet,用于虹膜分割.该网络在特征提取阶段为特征金字塔添加了一条自底向上的路径,既提高了底层到顶层特征的定位信息,增强语义信息融合,又进一步加快了底层到顶层的传播效率,有效提升对虹膜特征提取的准确性.为了进一步挖掘特征图中的特征信息,在掩模预测分支阶段,我们引入上采样和CBAM网络(convolutional block attention module),利用上采样提高特征图的空间分辨率,利用CBAM网络让特征图中的显著信息更加显著,增强对特征的判别性.该方法在NIR-ISL 2021比赛提供的虹膜数据集进行了验证.在相同实验条件下与该赛事的冠军相比,该方法的各项指标均优于其网络.与基线Mask R-CNN相比,该方法的Dice相似系数、平均交并比、召回率分别提升了8.53%、11.97%、8.88%,提升了虹膜分割效果.