基于端口注意力与通道空间注意力的网络异常流量检测

网络异常流量检测是网络安全保护重要组成部分之一。目前,基于深度学习的异常流量检测方法都是将端口号属性与其他流量属性同等对待,忽略了端口号的重要性。为了提高异常流量检测性能,借鉴注意力思想,提出一个卷积神经网络(CNN)结合端口注意力模块(PAM)和通道空间注意力模块(CBAM)的网络异常流量检测模型。首先,将原始网络流量作为PAM的输入,分离得到端口号属性送入全连接层,得到学习后的端口注意力权重值,并与其他流量属性点乘,输出端口注意力后的流量数据;其次,将流量数据转换成灰度图,利用CNN和CBAM更充分地提取特征图在通道和空间上的信息;最后,使用焦点损失函数解决数据不平衡的问题。所提PAM具有参数量少、即插即用和普遍适用的优点。在CICIDS2017数据集上,所提模型的异常流量检测二分类任务准确率为99.18%,多分类任务准确率为99.07%,对只有少数训练样本的类别也有较高的识别率。

基于卷积神经网络与通道和空间注意力机制的房颤预测模型研究

目的采用人工智能技术提出一种模型,以对房颤进行早期预防和诊断。方法提出一种基于卷积神经网络(convolutional neural network,CNN)与通道和空间注意力机制(convolutional block attention module,CBAM)的模型用于对房颤的诊断与预测。结果根据长期心房颤动数据库、MIT-BIH心房颤动数据库和MIT-BIH正常窦性心律数据库的数据,提出的模型在全盲的情况下总体准确率达94.2%。结论提出的模型满足了医学心电图解释的需要,为房颤的预测研究提供了新思路。

多粒度空间注意力与空间先验监督的DETR

近年来,Transformer在视觉领域的表现卓越,由于其优秀的全局建模能力以及可媲美CNN的性能表现受到了广泛关注。DETR(Detection Transformer)是在其基础上研究的首个在目标检测任务上采用Transformer架构的端到端网络,但是其全局范围内的等价建模以及目标查询键的无差别性导致其训练收敛缓慢,且性能表现欠佳。针对上述问题,利用多粒度的注意力机制替换DETR的encoder中的自注意力以及decoder中的交叉注意力,在距离近的token之间使用细粒度,在距离远的token之间使用粗粒度,增强其建模能力;并在decoder中的交叉注意力中引入空间先验限制对网络训练进行监督,使其训练收敛速度得以加快。实验结果表明,在引入多粒度的注意力机制和空间先验监督后,相较于未改进的DETR,所提改进模型在PASCAL VOC2012数据集上的识别准确度提升了16%,收敛速度快了2倍。

事件融合与空间注意力和时间记忆力的视频去雨网络

近年来数码视频拍摄设备不断升级,其感光元件宽容度、快门速率的提升虽然极大程度地丰富了可拍摄景物的多样性,雨痕这类由于雨滴高速穿过景深范围的退化元素也更容易被记录到,作为前景的稠密雨痕阻挡了背景景物的有效信息,从而影响图像的有效采集.由此视频图像去雨成为一个亟待解决的问题,以往的视频去雨方法集中在利用常规图像自身的信息,但是由于常规相机的感光元件物理极限、快门机制约束等原因,许多光学信息在采集时丢失,影响后续的视频去雨效果.由此,利用事件数据与常规视频信息的互补性,借助事件信息的高动态范围、时间分辨率高等优势,提出基于事件数据融合与空间注意力和时间记忆力的视频去雨网络,利用三维对齐将稀疏事件流转化为与图像大小匹配的表达形式,叠加输入至集合了空间注意力机制的事件-图像融合处理模块,有效提取图像的空间信息,并在连续帧处理时使用跨帧记忆力模块将先前帧特征利用,最后经过三维卷积与两个损失函数的约束.在开源视频去雨数据集上验证所提方法的有效性,同时达到了实时视频处理的标准.

虚拟试穿能量法空间注意力编码算法

在虚拟试穿网络中,分割决定了服饰从模特身上迁移变换到目标骨架结构的精度。提出一种基于能量法思想的空间注意力机制,为服饰试穿这一类生成网络提供更加精准的分割编码结果。该方法利用目标主体在不同轴向上的投影能量,形成空间位置的关注区域,为分割编码提供有效的空间注意力预处理信息。经过实验仿真验证,该方法对分割编码具有较好的改善作用。

基于空间注意力与过滤网络的遥感图像配准

针对部分遥感图像配准算法存在特征提取能力不足,存在较多误匹配点的问题,提出了一个算法。在特征提取阶段加入改进的空间注意力机制关注图像的重要区域以及显著特征,增强网络的特征表达能力。匹配阶段提出粗过滤加细过滤双层过滤的方式,提高模型的鲁棒性和配准精度。同时改进了损失函数,提高模型的泛化性和拟合能力。仿真中,与多种先进的方法相比,所提算法能获得更高的配准精度和更低的配准误差,并且针对不同类型的图像也能取得较好的配准效果。

基于多尺度残差空间注意力轻量化U-Net的农业害虫检测方法

田间害虫的快速精准检测是作物害虫防治的前提。现有基于卷积神经网络的作物害虫检测方法常包含大量训练参数,难以应用于现实场景中。针对上述难点,提出1种基于多尺度残差空间注意力轻量化U-Net(Multi-scale residual spatial attention lightweight U-Net,简称MSRSALU-Net)的检测方法,并应用于田间害虫检测。MSRSALU-Net由编码模块与解码模块组成。在MSRSALU-Net编码模块中,多尺度残差卷积模块用于提取害虫多尺度信息以缓解害虫尺度变化对检测性能的影响;空间注意力机制模块用于提取特征的全局依赖以缓解复杂背景对检测性能的干扰。此外,使用残差连接路径模块连接MSRSALU-Net的编码模块与解码模块,以更好地传播特征信息。在构建的IP13数据库上进行试验,基于MSRSALU-Net的害虫检测方法的识别精度为95.11%。与基于UNet、注意力UNet、MultiResUNet的害虫检测方法相比,MSRSALU-Net检测精度分别提高11.85%、5.38%、2.41%。模型参数量与U-Net、注意力UNet、MultiResUNet相比,分别减少了25.81%、21.45%、18.39%。结果表明,提出的MSRSALU-Net能有效克服害虫尺度变化、背景复杂等因素干扰,实现害虫的快速精准识别。该方法可为田间作物害虫检测系统提供技术支撑。

基于空间注意力和可变形卷积的无人机田间障碍物检测

为了解决植保无人机作业时,传统田间障碍物识别方法依赖人工提取特征,计算耗时较长,难以实现在非结构化田间环境下实时作业识别的问题,提出一种优化的Mask R-CNN模型的非结构化农田障碍物实例分割方法。以ResNet-50残差网络为基础,将空间注意力(Spatial attention,SA)引入残差结构,聚焦跟踪目标的显著性表观特征并主动抑制噪声等无用特征的影响;引入可变形卷积(Deformable convolution,DCN),通过加入偏移量,增大感受野,提高模型的鲁棒性。构建包含农田典型障碍物的数据集,通过对比试验研究在ResNet残差网络结构中的不同阶段中加入空间注意力和可变形卷积时的模型性能差异。结果表明,与Mask R-CNN原型网络相比,在ResNet的阶段2、阶段3、阶段5加入空间注意力和可变形卷积后,改进Mask R-CNN的边界框(Bbox)和掩膜(Mask)的平均精度均值(mAP)分别从64.5%、56.9%提高到71.3%、62.3%。本文提出的改进Mask R-CNN可以很好地实现农田障碍物检测,可为植保无人机在非结构化农田环境下安全高效工作提供技术支撑。

基于通道和空间注意力的机场道面地下目标自动检测

针对机场道面地下目标检测任务中,探地雷达(GPR)生成的B-scan图背景复杂、包含大量噪声,尤其是单个B-scan图不能反映地下目标的完整信息等问题,构建一种三维通道和空间注意力的UNet(3D-CSA-UNet)模型对地下目标进行自动检测。首先,设计三维通道和空间注意力并行模块(3D-CS-Block),使模型重点关注雷达C-scan中的地下目标信息,抑制背景和噪声的干扰;其次,设计多尺度的三维分割模型从雷达C-scan中提取不同大小的特征图,以增强3D-CS-Block提取目标特征的能力;最后,使用交叉熵损失函数计算每个尺度下特征图的损失值,从而提高模型的检测精度。在采集的实际机场道面地下目标数据集上,相较于3D-FCN、3D-UNet等模型,3D-CSA-UNet对于脱空、钢筋和钢筋平行目标预测的平均F1至少提高12.33、9.05、11.05个百分点。实验结果表明,3D-CSA-UNet可以较好地满足工程实际要求。

融合先验信息的残差空间注意力人脸超分辨率重建模型

针对公共场所监控图像中低分辨率人脸图像利用现有人脸识别系统识别准确率低的问题,提出了融合先验信息的残差空间注意力人脸超分辨率重建模型,用该模型对低分辨率人脸图像进行预处理后再进行识别可大大提升识别准确率.该模型将面部先验结构信息嵌入到生成对抗网络模型中,再采用残差空间注意力激活算法突出空间位置中携带高频信息的特征,最后使用多阶特征融合算法充分利用不同尺度的特征,防止携带高频信息的人脸特征在网络传播中丢失.实验结果表明,重建出的超分辨率人脸图像具有更多的面部细节特征,大大提高了对低分辨率人脸图像的识别准确率,并且与其他5种模型相比,新模型具有较低的耗时和较少的参数.

基于空间注意力的文本超分辨率重建算法

自然场景的文本识别在深度学习的推动下发展迅速,但是大多数文本识别算法都无法在低分辨率条件下使用,为了解决这个困境,本研究将超分辨率重建技术作为预处理手段加入到文本识别中,并提出一种针对文本识别领域的超分辨率重建网络,利用像素级注意力机制使超分辨率重建网络专注文本相关信息,同时利用文本识别网络的先验信息构建感知损失,辅助超分辨率识别网络的训练,将低分辨率图片的识别率从66.38%提升到78.99%.

利用金字塔空间注意力与特征推理的图像修复

针对现有基于深度学习的图像修复方法对图像未受损区域多尺度特征空间信息利用不足的问题,提出一种利用金字塔空间注意力与特征推理的图像修复模型.首先,采用基于部分卷积的区域识别模块,用于识别本次循环中需要推理的区域,其次,通过循环特征推理模块高效地推理待推理区域的图像特征,最后,使用基于残差去冗余特征的特征融合模块以保证在融合中间特征图的过程中减少无效特征信息对图像修复的干扰.在人脸、街景等数据集上端对端地对所提模型进行实验的结果表明,与经典方法相比,该模型在峰值信噪比、结构相似度和平均L1损失评估指标方面分别提升了3%,1%和3%.

基于光谱-空间注意力残差网络的高光谱图像分类

在高光谱图像分类任务中,引入注意力改变提取到的光谱和空间特征权重,有效突出重要特征,提高分类准确率。将注意力机制、残差网络和特征提取模块集成到分类框架中,引入中心区域光谱注意力机制,在避免干扰像素对波段权重影响的同时,利用周围像素增强中心像素波段,增强光谱特征的鲁棒性进而提取有效的光谱特征。并在此基础上提出了光谱-空间注意力残差网络,该网络可以从高光谱图像中连续提取到丰富的光谱特征和空间特征,并通过残差网络连接特征提取模块,缓解了精度下降问题,保证网络良好的分类性能。在4个公开数据集上,所提出的分类算法和其他算法相比,各项指标均达到最优。

融合多层空间注意的U型视网膜血管分割算法

针对现有算法因视网膜细小血管分割不足和抗噪声能力弱导致其分割精度低等问题,提出一种融合多层空间注意的U型视网膜血管分割算法.首先,在编码和解码部分采用特征增强残差模块,引入通道注意机制提高网络模型对血管特征的分割能力.其次,在U型网络的底部引入密集空洞卷积模块,增大感受野提取血管多尺度特征.最后,在跳跃连接阶段使用三端空间注意模块进行特征自适应细化,有效抑制特征图中的噪声.在DRIVE和STARE公开眼底图像数据集上验证本文算法,实验结果表明,所提算法准确率分别达到了0.9643和0.9683,灵敏度分别达到了0.8329和0.8224,AUC值分别达到了0.9861和0.9897.其性能指标整体优于现有先进算法.

基于时间和空间注意力机制的视频异常检测

针对带有记忆模块的异常行为识别模型存在存储容量有限和有限的时间轴相关性的局限性,提出带有时间和空间注意力机制的异常行为识别模型。该模型在MAND框架下,引用时间和空间注意力机制,通过该注意力机制对卷积层(CNN)输出的特征图从时间和空间两个维度进行加权操作。该方法有效结合时间和空间上下文信息,捕捉局部和全局的特征,输入到解码器中进行重构,然后计算重构帧与输入帧的误差。采用重构当前帧和预测未来帧(下一帧)的异常检测方法,使用相同的网络体系结构分别进行实验。实验结果证明,与其他检测算法相比,所提方法在UCSD Ped2数据集和The CUHK Avenue数据集上的检测精度有所提升,预测方法在两个数据集中的帧级AUC分别提升了4.9%和1.2%,重构方法同样得到了提升,验证了该方法的有效性。

基于轴向空间注意力和中间融合表示的单图像三维重建模型

提出一种基于注意力和中间融合表示的三维重建模型,旨在重建具有精细化结构的三维模型。该方法利用轴向空间注意力机制学习不同方向的信息,将其嵌入编码器中以捕获局部结构特征;并基于双流网络推测深度图和三维平均形状以设计中间融合表示模块,该模块能够有效地融合可见表面细节信息,从而更好地描绘对象的三维空间结构。实验结果表明:所提出的轴向空间注意力机制和中间融合表示模块增强了特征提取的能力,IoU和F-score比PixVox++分别提升了1.3%和0.4%,三维重建效果更优。

结合空间注意力机制与多尺度分辨率融合的低光照图像增强方法

为了解决低光照条件下拍摄造成的对比度过低、颜色失真等多种图像内容退化问题,提出了一种结合空间注意力机制与多尺度分辨率融合的图像增强方法。首先基于Retinex理论,利用带有空间注意力机制的分解网络将低光照图像分解为光照图与反射图,并且在光照图中,采用伽玛校正对光照图拉伸光照对比度。然后在融合网络中,将校正过的光照图与反射图通过U-net网络,使高、低分辨率的特征图充分融合来生成最终的色泽度饱满、细节信息丰富的结果。提出的算法在LOL-dataset数据集的结构相似度指标为0.8032,比同类最优算法高出6.37%。

融合多尺度特征和子空间注意力的黏膜下肿瘤检测

计算机辅助检测工具可以帮助医生减少在临床检查中漏检误检的情况,从而提高诊断准确度,同时减轻医生的劳动强度。针对超声胃肠镜检查中黏膜下肿瘤的定位与分类问题,提出了一种融合多尺度特征和子空间注意力的黏膜下肿瘤检测算法(MFSA-YOLOv7t)。首先,移除小目标预测头,在保证精度下使网络轻量化;然后,基于浅层特征提出多尺度特征融合模块,提取肿瘤细节信息;其次,改进上采样结构,在保留上层信息的同时增强感受野;最后,引入子空间位置注意力模块,捕获肿瘤的位置和边界特征,进一步提升黏膜下肿瘤的检测性能。实验表明,MFSA-YOLOv7t在平均精度均值、敏感度以及准确度上分别达到97.32%,96.99%和96.24%,相比YOLOv7-tiny算法检测性能有较大的提升,分别提高了2.39%,2.75%和2.59%。MFSA-YOLOv7t为医生在临床检查中的辅助诊断提供更加可靠的肿瘤类型参考,同时为黏膜下肿瘤的检测提供了一个新的思路和研究方向。

基于语义感知和空间注意力的人脸图像超分辨率重建

人脸图像超分辨率重建在人脸图像处理中具有重要的应用价值,近年来得到了广泛的研究。然而,以前的工作往往不能为真实世界的低质量人脸图像产生可信的高质量结果,例如在关键人脸结构(眼睛、嘴巴等)以及皮肤纹理等方面还有较大的改善空间。提出了一种基于语义感知和空间注意力的网络结构,用于人脸图像超分辨率重建。引入了一种语义感知风格损失,以改善人脸纹理的细节。此外,还引入了空间注意力残差块(SARB),这使得卷积层能够自适应地引导与关键人脸结构相关的特征。最后在Helen和CelebA数据集上的实验结果表明,该方法在人脸图像超分辨率重建方面优于其他方法。

基于空间注意力的图像分类网络研究

针对以往的图像分类方法利用手工提取的特征(或通过神经网络提取的特征)、空间信息关注不足等问题,文章提出一种基于空间注意力的图像分类网络。该网络利用空间注意力模块,对深度网络提取的视觉特征进行空间约束。利用特征的空间信息,使得网络能够对特征在空间上的重要性加以区分,从而使其更具判别性。采用CIFAR-10和CIFAR-100测试集分别进行测试,测试结果表明,该文提出的图像分类网络的图像分类效果明显优于其他深度学习方法。