基于多尺度边缘分割与混合注意力机制的脊柱CT图像分割

脊柱疾病的前期主要通过计算机断层扫描技术进行筛查与初步判断。为解决脊柱CT图像目前存在的椎骨结构复杂、分割精度不足等问题,提出一种基于3D U-Net框架的脊柱CT图像改进分割网络,通过融合SE残差单元、椎骨边缘分割模型与改进混合通道-空间注意力机制,在VerSe 19、VerSe 20与CTSpine1K脊柱数据集上进行分割训练与测试。多次测试实验结果表明,本文模型在保证分割精度和分割效率有效提高的同时具有较好的泛化性与鲁棒性,在Dice相似系数、豪斯多夫距离与平均表面距离上相较于其他先进网络分割精度更高。本文模型在现有脊柱分割的网络中具有更强的分割性能,可为放射科医生提供有效临床信息。

基于改进U-Net和混合注意力机制的高质量全尺寸图像隐写方法

图像隐写术是一种将秘密信息隐藏在图像中以防止被发现的技术。当前的图像隐写模型存在图像生成质量差和抗隐写分析能力弱等问题。混合注意力机制不仅可以抑制无意义的通道信息,避免其在含密图像上产生伪影,而且可以根据载体图像中不同位置的重要程度分配不同的权重,为秘密信息寻找更合适的隐藏区域。基于上述特点,文章提出了基于U-Net和混合注意力机制的高质量全尺寸图像隐写方法。文章所提方法的模型由编码器、提取器和判别器三个子网组成。编码器采用改进的U-Net结构和混合注意力机制模块进行设计;提取器采用卷积神经网络和混合注意力机制模块进行设计;判别器则用于增强模型的安全性。实验结果表明,该方法能够将尺寸为256×256的彩色秘密图像完全隐藏在同尺寸的彩色载体图像中,在不降低隐写容量的情况下实现高质量的图像隐写。该方法在ImageNet、COCO、DIV2K三个数据集上都展现了良好的视觉质量和隐藏容量,在ImageNet数据集上,PSNR值最高可达40.143dB(载体图像与含密图像)和42.082dB(秘密图像与重构的秘密图像),同时还能够提高模型的抗隐写分析能力。

融合非负正弦位置编码和混合注意力机制的情感分析模型

针对情感分析任务中,序列模型存在难以获取文本的相对位置信息,且处理较长序列时容易丢失关键信息等问题,提出了一种融合非负正弦位置编码(non-negative sinusoidal position encoding,NSPE)和混合注意力机制(hybrid attention mechanism,HAM)的双向长短期记忆网络(bi-directional long short-term memory,Bi-LSTM)情感分析模型(NSPEHA-BiLSTM)。提出NSPE方法,建立词语的NSPE,为词向量融入相对位置信息;通过Bi-LSTM提取文本特征,并基于HAM分别对特征的全局和局部特征进行赋权,确保关键信息的准确传递;通过全连接层实现文本情感分析。在IMDB数据集中,NSPEA-BiLSTM相较于Bi-LSTM和Text-CNN准确率分别提升了4.67和2.02个百分点,且输入的文本长度越长,模型效果越好,同时验证了NSPE优于其他位置编码。

结合生成对抗网络与混合注意力机制的街景图像语义分割

街景图像语义分割是自动驾驶领域的主要研究任务之一,对于路径规划和行人安全保障具有重要意义。目前,街景图像语义分割主要存在小目标物体分割不精确、模型容易出现过拟合的问题。为此,提出一种结合生成对抗网络与混合注意力机制的街景图像语义分割模型。具体而言,提出一种多尺度混合注意力模块,用于增强上下文语义信息、提高特征表征能力和对多尺度目标的适应性。同时,为了降低过拟合,引入BN层,结合DCGAN网络构建生成对抗网络分割模型,通过判别损失和分割损失共同约束训练,以增强模型稳定性、提高分割精度。实验结果表明,与DeepLabV3+相比,所提模型在Cityscapes数据集上的分割精度提高了2.4个百分点,mIoU值达到73.4%。

基于混合注意力机制的时间旋转知识图谱补全

针对现有时序知识图谱补全中捕捉动态关系模式,处理非对称、临时和自反关系方面的局限性,提出了一种新颖的融合混合注意力机制与时间旋转的模型。一方面,通过引入时间旋转,利用复数空间中的向量来表示随时间演化的实体与关系,特别是处理时间区间内的关系变化,采用双复数嵌入方案显著增强了对时态特性的表达能力;另一方面,通过对知识图谱引入空间注意力和通道注意力两个维度分析,能够更好地聚焦于时序序列中对预测最为关键的实体和关系特征,从而在复杂的时间序列中挖掘时序关联信息。通过在ICEWS14、ICEWS18、YAGO11k和WIKI12k数据集上的实验评估,模型在MRR、Hits@1、Hits@3和Hits@10上普遍优于基线模型,体现出算法的优越性和强鲁棒性。

基于卷积神经网络和混合注意力机制的书标检测算法

为实现图书馆中机器人智能排架,提出一种基于卷积神经网络和混合注意力机制的书标检测模型。将DenseNet121引入YOLOv4以提高特征和梯度之间的传递效率,利用SPDC模块实现局部和全局特征融合,进而通过通道和空间混合注意力提高模型的特征表征能力。实验结果表明,模型的平均准确率、整体性能、参数量和模型大小均优于对比方法,且易于部署到嵌入式设备中实现在线检测,从而提高图书乱架治理的智能化水平。

基于混合注意力机制和深度学习的大坝变形预测模型

为深度挖掘时序数据中前后信息的动态相关性,探究大坝变形的内在影响机理,有效提高模型预测精度,构建了一种基于混合注意力机制与鲸鱼优化算法(WOA)的双向门控循环网络(BiGRU)预测模型。模型利用WOA对BiGRU进行超参数寻优以有效挖掘变形数据在时间维度的深层信息,并引入融合特征注意力(FATT)和时间注意力(TATT)的混合注意力机制计算各影响因子的贡献率,使模型可视化并提高模型捕捉环境因素动态变化的能力。以某高拱坝为例,将该模型预测结果与多种常用模型预测结果进行对比分析,结果表明该模型预测精度显著提升,贡献率计算符合大坝变形研究成果,验证了模型在大坝变形预测中的优越性与合理性。

基于多尺度混合注意力机制的视频摘要算法

针对现有的视频摘要任务中视频帧的多层次上下文依赖信息提取不足的问题,提出一种基于多尺度混合注意力机制的视频摘要(MHAVS)算法。MHAVS采用编码器-解码器架构,编码器部分采用金字塔空洞卷积模块提取视频帧的不同尺度特征信息,解码器部分嵌入混合注意力机制建模视频帧的通道维度和空间维度的深度相互依赖性,增强特征的表达,利用指针网络帮助模型生成优势的视频摘要。提出算法在两个公共数据集SumMe和TvSum上进行多次实验,综合结果表明,MHAVS算法取得了不错的结果。

非受控环境下基于混合注意力机制的面部表情识别

针对非受控环境下的面部表情识别过程中特征提取不充分的问题,构建了一个加强特征提取的网络结构——3_M_S_MobileNetV2模型,该结构以MobileNetV2为基础网络,结合自主设计的混合注意力模块3_M_CBAM,并且将ReLU6激活函数更换为SiLU激活函数设计而成。在两个非受控环境下所采集的数据集RAF_DB和Fer2013上对设计的模型进行实验,识别准确率分别达到81.88%和65.65%,并且与现有的基于神经网络的识别方法相比,在RAF_DB数据集和Fer2013数据集上的面部表情识别准确率分别提高了1%~9%、0.5%~4%,证明了文中网络结构的有效性。

基于多尺度卷积和混合注意力机制的情绪脑电识别研究

建立了基于深度学习框架的情绪识别模型——M-Attention-EmotionNet。采用多尺度卷积提取不同尺度的特征。为避免特征冗余,引入了混合域注意力机制,从通道和空间两个维度对特征进行赋权。在DEAP数据集上,首先提取预处理后脑电信号不同频带的功率谱密度特征作为模型的输入,然后被分类。实验结果表明,该模型在唤醒和效价两个维度上分类准确率分别为95.64%和96.49%,同时,在四分类和八分类的细粒度情感分类上,平均准确率分别为90.89%和89.22%。

融合细节特征与混合注意力机制的火灾烟雾检测

针对卷积神经网络高层特征图中细节特征被削弱造成烟雾图像底层特征丢失的问题,提出一种融合细节特征与混合注意力机制的YOLOv4改进算法。设计了细节特征融合模块,将主干网络中的底层细节特征引入高层特征图,得到具有丰富多尺度信息的融合特征。在通道和空间维度上采用混合注意力机制对融合特征的图权重进行重新赋值,在增强烟雾目标特征的同时抑制无关区域特征,使烟雾特征表达具有更好的鲁棒性。实验结果表明,本文算法的平均精确率、精确率和召回率相比YOLOv4算法分别提高了4.31%,1.21%,9.86%,同时保持了较快的检测速度。本文算法能够有效提取烟雾目标的整体特征,对于复杂背景下的火灾烟雾检测任务更为适用。

基于生成对抗网络和混合注意力机制残差网络的苹果病害识别

准确识别并防治病害对提高苹果产量和质量具有重要意义。针对苹果病害图像因病斑区域小且易受背景干扰而导致识别准确率低的问题,设计一种基于混合注意力机制的残差网络(Convolutional Block Attention Module-Residual Network,CBAM-ResNet)模型。该模型在残差网络中嵌入串联的通道注意力模块和空间注意力模块,使模型将注意力集中于图像特征的病害区域,提高识别准确率。针对模型训练数据集样本数量不足且数据不均衡问题,提出基于Wasserstein距离的生成对抗网络(Wasserstein Generative Adversarial Networks,WGAN)对数据集进行扩充的方法。通过生成器与判别器的对抗训练生成10000张苹果病害图像,对CBAM-ResNet进行训练和测试,提高模型的泛化能力和鲁棒性。试验结果表明:与CNN、VGG-16、ResNet-50、Inception-V3等传统模型相比,CBAM-ResNet对苹果病害的识别效果更优,其识别准确率、精确率、召回率和F1-Score参数分别达到95.50%、95.40%、95.40%和0.95。该方法能够为苹果病害图像准确识别和实时监测提供技术支撑。

基于混合注意力机制的中文文本蕴含识别方法

将注意力机制应用于中文文本蕴含识别研究,提出了一种基于混合注意力机制的中文文本蕴含识别方法。为使模型能捕获文本间更丰富的语义信息,利用混合注意力机制获取文本词语级别和句子级别的语义信息,将不同级别的语义信息进行融合后对文本蕴含关系进行识别,提高了模型识别中文蕴含关系的准确性。模型的输入阶段采用了BERT字向量,提高了模型的泛化能力。该方法在CCL2018(第十七届中国计算语言学大会)中文文本蕴含识别测评任务验证集上准确率达80.38%,实验结果表明了该方法的有效性。

基于混合注意力机制的目标跟踪算法

针对全卷积孪生网络目标跟踪算法(SiamFC)在目标形变、遮挡和快速运动等复杂场景中易导致跟踪失败的问题,提出一种利用混合注意力机制增强网络识别能力的算法(SiamMA)。首先,在训练阶段提出堆叠裁剪法构建自对抗训练样本对,以模拟实际跟踪时的复杂场景,使训练的网络模型具有更强的泛化性。其次提出混合注意力机制,在网络不同分支融合使用空间注意力和通道注意力网络模块,有效抑制了特征图中的背景干扰,提升算法的鲁棒性。采用GOT-10k、UAV123等4种数据集进行算法性能评测实验,结果表明本文算法的跟踪成功率、精度等主要性能指标较SiamFC和KCF等6种经典算法均有提升,平均速度达到60 fps。

基于混合注意力机制和相关性估计网络的点云配准算法

点云配准是对同一物体上采集到的点云数据进行精确匹配,然而传统方法计算成本高,配准精度差.基于神经网络的算法也存在噪声干扰,在类别未见的点云数据上应用时效果不佳.为解决这一问题,本文提出了一种基于混合注意力机制和相关性估计网络的点云配准算法.考虑到点云内部特征的复杂性和点云对变换的随机性,提出一种混合注意力机制来提取关键特征信息,利用残差的方式进行连接,可以得到更具鲁棒性的点云特征.通过相关性估计网络对点云特征进行非线性激励,可以提高表达能力,获取点云对之间更紧密的相关性.在人工合成数据集ModelNet40和真实数据集ICL-NUIM上的仿真实验结果表明,本文算法在大尺度仿射变换下,对掺杂噪声、类别未见点云数据的配准精度有显著的提升,证明了其有效性.

基于混合域注意力机制的神经网络反演大气湍流强度

本文提出了一种基于混合域注意力机制的神经网络方法反演大气湍流强度。神经网络的输入为不同大气湍流强度下的退化图像,输出为表征大气湍流强度的折射率结构常数。混合域注意力机制由空间域和通道域双重注意力机制组成,其中空间域注意力机制用于增强退化图像中受湍流影响的区域特征,通道域注意力机制用于增强由湍流引起的颜色和纹理特征。在网络训练阶段,引入的混合域注意力机制让神经网络更专注于退化图像中与大气湍流强度相关的特征,提高了模型的精度。数值实验结果表明,本文提出的方法能够较准确地实现大气湍流强度反演。

一种融合多尺度混合注意力的建筑物变化检测模型

针对高分辨率遥感图像非真实变化所引起的错误检测问题,提出一种新颖的轻量化孪生神经网络建筑物变化检测模型。其中轻量化的特征提取模块可以获取不同尺度的局部上下文信息,使其充分学习局部和全局特征。由通道和空间注意力组成的混合注意力模块可以充分利用周围丰富的时空语义信息,以实现变化建筑物的准确提取。针对变化建筑物尺度跨度较大,容易导致建筑物边缘细节提取粗糙、小尺度建筑物漏检等问题,引入多尺度概念,将提取到的特征图划分为多个子区域,并分别引入混合注意力模块,最终将不同尺度的输出特征进行加权融合,以加强边缘细节提取能力。模型在WHU-CD、LEVIR-CD公开数据集进行实验,并分别取得87.8%和88.1%的F 1值,相较于6种对比模型具有更高的变化检测精度。

基于多尺度特征混合注意力的连续帧深度估计

目的估计获取拍摄物体到相机之间距离的深度信息是单目视觉SLAM中获取深度信息的方法,针对无监督单目深度估计算法出现精度不足以及误差较大的问题,提出基于多尺度特征融合的混合注意力机制的连续帧深度估计网络。方法通过深度估计和位姿估计的两种编码器解码器结构分别得到深度信息和6自由度的位姿信息,深度信息和位姿信息进行图像重建与原图损失计算输出深度信息,深度估计解码器编码器结构构成U型网络,位姿估计网络和深度估计网络使用同一个编码器,通过位姿估计解码器输出位姿信息;在编码器中使用混合注意力机制CBAM网络结合ResNet网络提取四个不同尺度的特征图,为了提升估计的深度信息轮廓细节在提取的每个不同尺度的特征中再进行分配可学习权重系数提取局部和全局特征再和原始特征进行融合。结果在KITTI数据集上进行训练同时进行误差以及精度评估,最后还进行了测试,与经典的monodepth2单目方法相比误差评估指标相对误差、均方根误差和对数均方根误差分别降低0.034、0.129和0.002,自制测试图片证明了网络的泛化性。结论使用混合注意力机制结合的ResNet网络提取多尺度特征,同时在提取的特征上进行多尺度特征融合提升了深度估计效果,改善了轮廓细节。

融入混合注意力的低缩放因子SeamCarving篡改检测算法

针对现有的Seam Carving篡改检测算法对于低缩放因子情况存在检测精度不高、鲁棒性不强的问题,提出一种融入混合注意力机制的Seam Carving篡改检测算法。首先,利用BayarConv2D约束卷积对图像进行预处理,充分学习图像的噪声特征,并通过矩阵乘法与RGB图像进行特征融合;然后,采用ResNet作为骨干网络进行特征学习,引入残差传播和残差反馈机制,凸显Seam Carving的操作痕迹;最后,利用混合注意力机制同时提取相邻位置和通道之间的特征,更好地捕捉全局特征,进而将其输入全连接层进行分类。实验结果表明,在BOSSbase1.01数据集上,当缩放因子为1%和9%时,检测精度分别达到了89.48%和97.94%,优于现有主流方法,同时具有较低的计算复杂度和较好的鲁棒性,能够抵抗JPEG压缩攻击。

融合CAT-BiFPN与注意力机制的航拍绝缘子多缺陷检测网络

针对航拍绝缘子图像中检测目标尺度相差较大、绝缘子缺陷具有尺度小和背景复杂的特点,造成检测效果不佳的问题,提出一种基于改进YOLOv7的航拍绝缘子多缺陷检测算法。该算法使用具有单元内跳跃结构的加权双向特征金字塔(concat bidirectional feature pyramid network, CAT-BiFPN)替代YOLOv7中的双向路径融合网络(path aggregation network, PANet),减少以融合不同特征为目标的结构中的冗余,提高多尺度目标特征的融合度,并形成针对小目标检测的第4检测层;通过添加自注意力与卷积混合注意力机制(a mixed model of self-attention and convolution, ACmix)更加关注特征中的细节,进一步区分不同的绝缘子缺陷。该算法对航拍图像中高压输电线路上的正常绝缘子、自爆、污损和破损进行检测,并同时检测杆塔上的鸟巢异物。实验结果表明,该文算法的平均准确率达93.9%,相比于标准YOLOv7提高了9.6%,该文提出的多缺陷检测算法能够更好地对不同尺度绝缘子的缺陷进行准确识别。