基于压缩激励网络的注意力因子分解机的点击率预测模型

在互联网技术日趋成熟的今天,广告的点击率(click-through rate,CTR)预测得到越来越多的关注。在特定的商业环境下,广告CTR预测模型的改进可以带来巨大的经济效益。然而特征的多样性和复杂性使得传统的预测模型难以发现海量特征中的重要特征。针对上述问题,提出了基于压缩激励网络的注意力因子分解机的点击率预测模型(squeeze and excitation network based attentional factorization machines model for click-through rate prediction,SEAFM),SEAFM模型通过压缩和激励网络来动态学习特征的重要性,通过注意力网络来学习特征交互的权重,通过深度神经网络(deep neural network,DNN)模块来隐式建模高阶特征交互。实验结果显示,SEAFM模型比现有相关模型具有更好的性能。

基于全局注意力机制的Robust-PointPillars三维目标检测

提出了一种基于全局注意力机制的Robust-PointPillars三维目标检测方法,在智能驾驶的应用中,提高了目标检测的精度和鲁棒性。PointPillars等神经网络通过使用点云柱表示点云,具有实现三维目标检测的潜力。首先介绍了空间和通道双重注意力模块,以增强有学习价值的点云特征,解决了PointPillars缺乏点云柱内部学习机制和特征提取不足的问题;挤压与激励网络(SENet)模块的引入,使PointPillars对特征信息的学习理解能力得到进一步提高;最终,对受到干扰或缺失的传感器信号进行抑制,并利用全局注意力算法来提高鲁棒性。基于KITTI数据集上的目标检测结果,本文算法具有良好的目标检测精度和鲁棒性。

基于压缩激励模块的工业产品缺陷分类算法

针对传统的工业产品表面缺陷检测技术检测效率低下、检测速度慢等问题,在以前工作的基础上,提出了基于压缩激励模块的工业产品缺陷分类算法。主要是在原有的并行模块与并行非对称卷积模块基础上增加了压缩和激励机制,通过显式的建模特征通道之间的相互依赖关系来提升网络的表征能力。在偏光片图像数据集上的实验结果表明,在不大量增加模型占用内存大小以及单张图片测试时间的基础上,显著提高了缺陷分类的正确率。

基于挤压激励的轻量化注意力机制模块

针对向卷积神经网络(CNN)中嵌入注意力机制模块以提高模型应用精度导致参数和计算量增加的问题,提出基于挤压激励的轻量化高度维度挤压激励(HD-SE)模块和宽度维度挤压激励(WD-SE)模块。为了充分利用特征图中潜在的信息,HD-SE对卷积层输出的特征图在高度维度上进行挤压激励操作,获得高度维度上的权重信息;而WD-SE在宽度维度上进行挤压激励操作,以得到特征图宽度维度上的权重信息;然后,将得到的权重信息分别应用于对应维度的特征图张量,以提高模型的应用精度。将HD-SE与WD-SE分别嵌入VGG16、ResNet56、MobileNetV1和MobileNetV2模型中,在CIFAR10和CIFAR100数据集上进行的实验结果表明,与挤压激励(SE)模块、协调注意力(CA)模块、卷积块注意力模块(CBAM)和高效通道注意力(ECA)模块等先进的注意力机制模块相比,HD-SE与WDSE在向网络模型中增加的参数和计算量更少的同时得到的精度相似或者更高。

基于通道注意力和边缘融合的伪装目标分割方法

伪装目标分割(COS)的目标是从背景中分离出隐藏的目标对象。近年来,基于卷积神经网络(CNN)的伪装目标检测(COD)发展迅速,然而仍存在无法从前/背景高度相似的场景中准确地检测出完整目标对象的问题。针对上述问题,提出一种基于通道注意力(CA)和边缘融合的COS方法CANet(Network based on Channel Attention and edge fusion),以得到伪装目标的边缘细节更清晰的完整分割结果。首先,引入压缩和激励(SE)注意力模块,以提取更丰富的高级语义特征;其次,提出一个边缘融合模块,抑制低级特征中的干扰,并充分利用图像的边缘细节信息;最后,设计了基于深度可分离卷积的通道注意力模块,以自上而下的方式逐步融合跨级的多尺度特征,进一步地提升检测精度和效率。在多个公开的COD数据集上的实验结果表明,相较于SINet(Search Identification Net)、TINet(Textureaware Interactive guidance Network)和C2FNet(Context-aware Cross-level Fusion Network)等8种主流的方法,CANet表现更佳,且能够获取到丰富的伪装目标内部及边缘细节信息,而且在具有挑战性的COD10K数据集上结构度量指标相较于SINet提升了2.6个百分点。CANet性能优越,适用于医学上检测与人体组织相似的病灶区域、军事领域检测隐蔽目标等相关领域。

基于U-Net多尺度自校准注意力视网膜分割算法

针对视网膜细小血管分割精度低的问题,提出一种融合可伸缩级联模块、Transformer和自校准注意力的改进U-Net算法以提高细小血管分割精度。首先在编码阶段利用可伸缩级联模块,先行学习复杂多变的视网膜血管拓扑结构。然后在解码阶段提出一种自校准注意力机制,利用多尺度挤压激励模块,自适应对特征图通道和空间之间特征重要性进行校准,增强目标区域特征响应,抑制背景噪声。最后使用Transformer特征提取块,提高特征空间映射能力。基于DRIVE和CHASEDB1数据集的实验结果表明,所提算法准确率分别为96.49%和96.67%,灵敏度分别为83.75%和83.30%,特异性分别为98.28%和98.01%,AUC分别为0.987 1和0.987 2,所提算法的整体性能优于现有算法,各模块能够有效提高细小血管分割能力。

融合压缩与激励的GoogLeNet模型云检测算法

Landsat系列陆地卫星受大量云和云阴影遮盖,干扰了地面信息的提取。因此,有效的云检测是遥感影像资源利用的前提。使用SE-GoogLeNet模型进行Landsat8遥感影像的云检测工作。SE-GoogLeNet模型有9个InceptionV3块,它起到了多尺度融合的作用,获取高级语义信息与低级空间信息相结合的特征,在每个InceptionV3后添加添加SeNet(压缩与激励)模块,通过自身的信息学习通道注意力权重,自动学习Landsat8遥感影像11个波段的相互依赖关系,每个波段的重要程度,然后按照这个重要程度提升有用特征,抑制无用的特征。通过实验可视化和评估指标的对比,SE-GoogLeNet模型云检测比GoogLeNet模型云检测准确率精度等均有提升。

融合残差及通道注意力机制的单幅图像去雨方法

为了去除雨天图像上附着的雨滴并恢复图像的清晰度,提出一种基于深度学习思想结合图像增强技术融合残差及通道注意力机制来实现的单幅图像去雨方法。首先,利用导向滤波将有雨图像分解为平滑基本层和高频细节层;其次,提出自适应Gamma校正算法增强平滑基本层以提高对比度;然后,构建融合残差块和通道注意力机制的深度神经网络实现高频细节层去雨;最后,将去雨后的高频细节层与增强后的平滑基本层融合实现单幅图像去雨功能。实验结果表明:与具有代表性的单幅图像去雨方法相比,所提方法效果较好并可保留更多的图像细节信息。

基于注意力机制和混合网络的小群体情绪识别

针对自然状态下小群体图像的情绪分类,提出基于面部、场景和骨架3种视觉线索的混合深度网络,分别利用3类卷积神经网络(convolutional neural networks,CNN)分支独立学习,通过决策融合获得最终的情绪分类。其中面部CNN通过注意力机制学习不同人脸的权重,获得整张图片关于人脸的特征表示,利用large-margin softmax(L-softmax)损失函数进行判别性学习;使用先进的姿势估计方法OpenPose获得图像中所有人体骨架,作为基于骨架卷积神经网络的输入。考虑图片的场景信息,将整张图片作为基于场景CNN的输入。实验结果表明,改进模型对自然状态下3种类型的小群体情绪识别鲁棒,取得了较高的准确率。

基于注意力生成对抗网络的图像强光去除

图像中的强光在一定程度上会降低图像的质量,本文致力于从受到强光影响的图像中去除强光并生成清晰图像。为解决这个问题,提出一种带有注意力辅助模块的生成对抗网络。它主要由加入压缩-激励模块的卷积长短期记忆网络和注意力矩阵辅助模块组成,注意力辅助模块可以指导自动编码器生成清晰的图像。该方法可以轻松地移植处理其他类似的图像恢复问题。实验证明,改进后的网络体系结构是有效的并且有一定的意义。

基于残差挤压激励与密集空洞卷积的视网膜血管分割

针对现有视网膜血管分割技术存在视网膜血管分割精度不高和病灶区域误分割的问题,提出对U型网络改进,结合密集空洞卷积(dense atrous convolution,DAC)模块与残差挤压激励(residual squeeze and excitation,RSE)模块的视网膜血管分割模型(DACRSE-Unet)。该模型采用改进集成随机失活块(DropBlock)的残差结构,不仅可以构建深层网络来提取更复杂的血管特征,还可以有效缓解过拟合;此外,为了进一步提高网络的表达能力,在改进残差块的基础上引入挤压激励模块(squeeze and excitation,SE);同时,为获取血管更多的上下文信息,在模型中引入DAC模块来实现对视网膜血管的精准分割;最后,在不同数据集上进行验证。结果表明,DACRSE-Unet模型的接受者操作特性曲线下面积分别为0.9869和0.9964,灵敏度分别为0.8226和0.8779,准确率分别为0.9692和0.9830,整体分割效果比其他模型更好。

基于双阶段特征解耦网络的单幅图像去雨方法

针对现有的单幅图像去雨方法无法有效地平衡背景图像细节恢复与有雨分量去除问题,提出一种基于双阶段特征解耦网络的单幅图像去雨方法,采用渐进式的学习方式从粗到细分阶段进行单幅图像去雨.首先构建压缩激励残差模块,实现背景图像与有雨分量的初步分离;然后设计全局特征融合模块,其中特别引入特征解耦模块分离有雨分量和背景图像的特征,实现细粒度的图像去雨;最后利用重构损失、结构相似损失、边缘感知损失和纹理一致性损失构成的复合损失函数训练网络,实现高质量的无雨图像重构.实验结果表明,在Test100合成雨图数据集上,所提方法峰值信噪比为25.57dB,结构相似性为0.89;在100幅真实雨图上,所提方法的自然图像质量评估器为3.53,无参考图像空间质量评估器为20.16;在去雨后的RefineNet目标分割任务中,平均交并比为29.41%,平均像素精度为70.06%;视觉效果上,该方法能保留更多的背景图像特征,有效地辅助下游的目标分割任务的开展.

基于SE模块和ResNet的番茄病虫害识别方法

番茄病虫害是引起番茄减产的重要因素。精确识别病虫害种类是当前国际热点问题之一,有助于及时有效采取针对性的病虫防治办法,减少和避免因番茄减产导致的经济损失。针对传统虫害识别方法存在效率和精确率低的问题,利用Kaggle网站上的Tomato数据集,构建基于压缩和激励(SE)模块的深度残差网络模型(ResNet),优化番茄病虫害识别方法。结果表明:通过Pytorch框架下的迁移学习,改进后的网络模型对番茄病虫害图像的平均识别准确率最高为97.96%;基于SE模块的ResNet网络模型有助于增强特征区分能力,增加模型的通用性和鲁棒性。研究结果对番茄病虫害的及时监测和处理、提高番茄产量具有重要意义。

基于SWT与改进卷积神经网络的轴承故障诊断

针对传统轴承故障诊断依赖专家经验且存在时频特征提取效果不佳,导致故障诊断效率和精度较低的问题,提出一种基于同步压缩小波变换(SWT)与改进卷积神经网络(CNN)的轴承故障诊断模型(SICNN)。首先,将一维的非平稳轴承振动信号通过SWT转换为高频率表达的二维时频图像,作为卷积神经网络的输入;然后,引入SRM对提取的特征进行风格池化与融合,调整卷积通道合适的特征权重,提高重要特征的关注度进而提高网络的表征能力;最后,通过Softmax层输出故障诊断结果。为了验证所提出的模型性能,使用凯斯西储大学采集的轴承数据集开展实验。结果表明,该模型故障诊断准确率可达到99.88%,与其他传统方法相比,具有良好的可行性和收敛性能,实践层面应用价值较高。

周期规律增强的多视角短期电力负荷预测

短期电力负荷预测对电力系统的可靠运行具有重要意义。现有方法存在如下问题:缺乏对特征之间依赖关系的挖掘;忽略了电力负荷变化的周期性规律。为此,提出一种周期规律增强的多视角短期电力负荷预测网络(EPISODE)方法。EPISODE方法主要包括2个核心组件:多视角特征学习组件和周期规律增强的电力负荷预测组件。前者旨在有效提取电力负荷数据中的静态特征与时序特征,以得到增强的特征表示;后者则是对电力负荷数据进行一般性时序挖掘和周期性时序挖掘,从而得到全面的电力负荷历史数据表征。基于后期融合的方式,实现短期电力负荷预测。在真实公开的电力负荷预测数据集上进行了大量实验。实验结果证明了所提方法相比现有基准方法的先进性。

改进YOLOv5s的无人机目标检测算法

无人机在情报、侦察和监视领域,目标自动检测可为侦察等任务提供准确的目标位置及类别,为地面指挥人员提供详尽的目标信息。针对无人机图像背景复杂、分辨率高、目标尺度差异大等特点,提出一种改进YOLOv5s目标检测算法。将压缩-激励模块引入到YOLOv5s算法中,提高网络的特征提取能力;引入双锥台特征融合(bifrustum feature fusion,BFF)结构,提高算法对较小目标的检测检测精度;将CIoU Loss替换GIoU Loss作为算法的损失函数,在提高边界框回归速率的同时提高定位精度。实验结果表明,改进后的YOLOv5s取得了86.3%的平均均值精度(mAP),比原算法YOLOv5s提高了16.8个百分点,在复杂背景下仍能显著提升无人机图像目标检测性能。

一种改进的tiny YOLO v3煤矸石快速识别模型

传统的煤矸石分选方法效率低下、安全隐患较大、应用范围受限,现有的基于机器视觉的煤矸石图像识别方法在模型识别速度与精度上难以平衡,未综合考虑输入图像尺寸不一、重要通道权重较低及卷积参数量大对模型精度的影响。针对上述问题,在tiny YOLO v3模型的基础上,提出了一种改进的tiny YOLO v3煤矸石快速识别模型。首先,在tiny YOLO v3模型引入多卷积核组合池化的特征金字塔池化(SPP)网络,确保输入特征图可被处理为固定尺寸再输出;其次,引入RGB通道权重可调节的压缩激励(SE)模块,用于增强前几层特征图各通道之间的联系,强调感兴趣通道的特征值和不同目标特征之间的差异性,确保关键信息的捕捉和网络灵敏度;最后,引入包含0权值点的空洞卷积替代tiny YOLO v3模型中部分卷积层,在不增加模型参数的前提下,可捕获多尺度上下文信息进而扩大感受野,提高模型计算速度。将该模型分别与tiny YOLO v3模型、Faster RCNN模型、YOLO v5系列模型进行对比,结果表明:(1)与tiny YOLO v3相比,改进的tiny YOLO v3煤矸石快速识别模型的识别准确性和快速性都有显著提升。(2)与Faster RCNN相比,改进的tiny YOLO v3煤矸石快速识别模型训练时间减少了65.72%,识别精度增幅为11.83%,识别召回率增幅为0.5%,模型平均精度均值(m AP)增幅为3.02%。(3)与YOLO系列模型相比,改进的tiny YOLO v3煤矸石快速识别模型在保持识别精度优势的情况下识别速度有大幅增长。消融实验结果表明:改进的tiny YOLO v3煤矸石快速识别模型的识别准确率为99.4%,较加入SPP网络的tiny YOLO v3模型的识别准确率提高了4.9%;测试每张图片耗时12.5 ms,较加入SPP网络的tiny YOLO v3模型耗时减少了1 ms。

多尺度密集注意力网络用于视网膜血管分割

针对视网膜血管分割中有标签图像数据有限、血管结构复杂尺度不一且易受病变区域干扰等问题,提出一种多尺度密集注意力网络用于视网膜血管分割.首先,以U-Net架构为基础,引入并行空间和通道挤压激励注意力密集块(scSE-DB)代替传统卷积层,加强特征传播能力,实现了对特征信息的双重校准,使模型能更好地识别血管像素;其次,在网络底端嵌入级联空洞卷积模块,以捕获多尺度血管特征信息,提升网络获取深层语义特征的能力;最后,在公共数据集DRIVE、CHASE_DB1和STARE上进行实验,所提网络的准确率分别为96.50%、96.62%和96.75%,灵敏度分别为84.17%、83.34%和80.39%,特异性分别为98.22%、97.95%和98.67%.所提网络的整体分割性能优于现有多数先进算法.

面向跌倒行人的MP-YOLOv5检测模型

跌倒是高龄人群及复杂作业环境中工人死伤的重要因素,针对原始YOLOv5模型漏检、错检、小目标检测效果差等问题,提出一种MP-YOLOv5检测模型,自建跌倒行人数据集用于跌倒检测研究。为增强Backbone的特征提取能力,设计了深度自注意力变换模块(transformer C3,TRC3),运用多头自注意力(multi-head self-attention,MHSA)模型,拓展网络关注不同位置局部信息的能力,捕捉更丰富的上下文信息;针对原始模型feature map分辨率不足的问题,在YOLOv5原有的模型上增加1个prediction head用于小目标检测,使模型更敏锐地识别小目标;为削弱复杂背景对网络特征提取的干扰,提出一种改进的压缩和激励网络(squeeze-and-excitation network,SENet),有助于网络更精确地关注跌倒姿态;引入软非极大值抑制(soft non-maximum suppression,Soft-NMS)替换YOLOv5原始的NMS降低了漏检率。实验结果表明,在不影响算法识别速度的情况下,MP-YOLOv5跌倒行人检测训练集的mAP从97.62%提升至98.87%,证明了MP-YOLOv5模型比未改进的YOLOv5模型更能满足行人跌倒检测的要求。

基于多种强调机制的深度点云网络改进研究

机器视觉是机器人从复杂空间环境中识别工作对象的关键技术。在机器人系统中常用的Kinect深度相机或激光扫描传感器能够获取目标的三维信息,这使得机器人完成更加复杂的如组装、拆卸、抓取等工作任务成为可能。但是,这也对机器人系统处理三维信息的能力如三维定位、工作对象尺寸测量、估计等提出更高要求。以PointNet网络为基础,分析了软阈值挤压激励、通道门控、注意力等机制的主要特征强调机理,分别采用软阈值挤压激励、通道门控、注意力网络对PointNet网络进行改进,并在斯坦福大学公开的ShapeNet数据集上进行实验验证。结果表明,3种强调机制对原网络的改进,使三维点云的分割精度(均交并比)较PointNet原网络分别提高了0.24%,0.68%,0.93%。该改进方法为后续解决机器人在组装、拆卸、抓取等任务中对工作对象的尺寸精确估计奠定了基础。