基于注意力机制的高光谱图像降维在纸质文物霉斑识别的研究

纸质文物作为文物传承的重要工具,用于记录不同时期人类历史及人文风貌,其在保存过程中极易受到霉菌等微生物的侵害。霉菌会加速纤维素的降解,在纸张表面生成霉斑,并且散落的孢子会随空气流动大范围传播,增加其他纸质文物发生霉变的风险。因此,定期对纸质文物进行霉斑检测对了解纸质文物现状和纸质文物修复至关重要。高光谱成像技术是一种非接触性、非破坏性的检测技术,能同时获得空间数据和光谱数据,与计算机技术结合可以实现纸质文物的大批次实时无损检测。针对黑曲霉这一广泛出现的霉菌,提出一种基于注意力机制的高光谱数据降维方法,通过采集其高光谱数据,实现了高光谱冗余数据的自适应预处理。采集了来自重庆中国三峡博物馆提供的20份纸质文物黑曲霉霉斑样本,使用ENVI软件分析得出在413~855 nm波段范围内,黑曲霉霉斑感染区域和健康区域的平均光谱曲线,平均反射率差异明显;在855~1021 nm波段范围内,黑曲霉霉斑感染区域和墨迹区域的平均光谱曲线,平均反射率差异明显。文中将所提出方法与传统主成分分析和独立成分分析预处理方法分别处理原始高光谱数据,并将结果在经典U-Net、SegNet、DeepLabV3+和PSPNet四个语义分割网络上进行了对比。结果表明,该算法预处理的数据在U-Net和SegNet经典网络中有明显优势,相较于主成分分析法和独立成分分析法,霉斑识别精度取得了较大提升达到89.49%和88.46%,验证了本文所提出算法的有效性,为文物保护领域提供有效的支撑和新的思路。

融合注意力机制的荔枝轻量化检测方法研究

针对荔枝果实个体小、生长密集和遮挡严重等特点,为了快速准确地实现荔枝的检测和计数,提出了一种融合注意力机制和多尺度特征图的网络模型。为了提高模型对遮挡和阴影环境下果实的识别准确率,将Coordinate Attention(CA)注意力机制嵌入至YOLOv4-Tiny模型。为了提高模型对小目标果实的检测精度,在特征金字塔Feature Pyramid Networks(FPN)结构中生成了两个更大尺度的特征图。试验结果表明:融合注意力机制的荔枝轻量化检测模型的准确率(Precision)、召回率(Recall)和平均精度(mAP)分别为92.92%、76.09%和88.51%。与YOLOv4-Tiny和YOLOv3模型相比,所构建的融合注意力机制的荔枝轻量化检测模型的平均检测精度分别高出8.84个百分点和3.87个百分点。该模型能够快速、精准地检测出果园环境中的荔枝,适用于果园中荔枝的识别和计数。

基于像素差异度注意力机制的轻量化YOLOv5行人检测算法

针对实时行人检测场景存在遮挡、形态姿势不同的行人目标,YOLOv5模型对于这些目标检测有明显的漏检问题,提出一种像素差异度注意力机制(pixel difference attention,PDA),不同于传统的通道注意力机制用全局均值池化(global average pooling,GAP)、全局最大值池化(global max pooling,GMP)来概括整张特征图的信息,全局池化将空间压缩成一个值来表征整个通道,造成了空间信息的流失,PDA将空间信息沿高和宽分别压缩,并将其分别与通道信息联系起来做注意力加权操作,同时提出一种新的通道描述指标表征通道信息,增强空间信息与通道信息的交互,使模型更容易关注到综合了空间和通道维度上的特征图的重要信息,在主干网络末端插入PDA后使模型平均精度(mean average precision,mAP)0.5提升了2.4个百分点,mAP0.5:0.95提升了4.4个百分点;针对实时检测场景的部署和检测速度要求模型拥有较少的参数量和计算量,因此提出了新的轻量化特征提取模块AC3代替原YOLOv5模型中的C3模块,该模块使插入PDA后的改进模型在精度仅仅损失0.2个百分点的情况下,参数量(parameters,Param.)减少了20%左右,浮点运算量(giga floating-point operations,GFLOPs)减少了30%左右。实验结果表明,最终的改进模型比YOLOv5s原模型在VOC行人数据集上mAP0.5提升了2.2个百分点,mAP0.5:0.95提升了3.1个百分点,且参数量减少了20%左右,浮点运算量减少了30%左右,在GTX1050上的检测速度(frames per second,FPS)提升了4。

复杂场景下基于注意力机制的车辆跟踪方法

基于视觉的车辆跟踪技术易受到背景复杂、低分辨率、光照变化等干扰而发生跟踪漂移的现象。为提高在复杂场景中的跟踪性能,提出一种基于注意力机制的视觉车辆跟踪算法。首先,利用基于注意力机制的Swin Transformer充分挖掘与表达特征,完成对全局信息建模;其次,使用基于注意力机制的编码器将信息融合与增强,释放出注意力机制强大的潜力;最后,利用简单、堆叠的RepVGG结构网络对目标位置进行预测。实验结果表明,所提算法在两个公开、大型基准数据集LaSOT与UAV123上精确度分别达到78.4%和89.6%,成功率分别达到69.3%和69.8%,性能超越其他主流跟踪器;对OTB100数据集中的车辆视频序列跟踪结果进行可视化与分析,效果优于基准STARK-S50,具有更稳定的跟踪性能,能够对抗背景复杂、模糊、相似物体、遮挡、光线昏暗、车辆尺度变换与旋转等多种跟踪挑战。

基于注意力机制的端到端轻量化星图识别算法研究

星敏感器在航天任务中通过对恒星进行识别以实现姿态测量,而星图识别算法作为其核心部分决定着星敏感器姿态定位的性能.针对现有的基于神经网络的星图识别算法难以在保证识别准确率的同时限制计算成本的问题,提出了一种基于注意力机制端到端轻量化网络MobileCiT的星图识别算法,用于直接识别星敏感器中的含噪声星图.MobileCiT在卷积神经网络的基础上采用深度可分离卷积和改进前置倒残差结构以实现星图识别算法的轻量化,同时引入注意力机制以重点关注星点位置信息.此外,由于实拍星图的成本高,噪声不可控,采用基于小孔成像的坐标映射模型以生成含噪声的仿真星图训练集与测试集.实验结果表明,MobileCiT对含不同噪声星图的识别准确率为99.850%,高于现有的基于轻量化网络MobileNet和MobileViT的星图识别算法,对位置噪声、星等噪声、假星和缺失星均具有良好的鲁棒性,能够在无需背景去噪、连通域检测、星点质心提取等预处理操作的情况下实现高精度的星图识别.MobileCiT在提升识别精度的同时具有较低的计算成本,计算量仅为基于MobileViT网络算法的1/3.在此基础上,将MobileCiT与基于子图同构的星图识别算法和基于模式识别的星图识别算法进行对比.在相同的视场范围与噪声条件下,MobileCiT依旧表现出了更高的识别准确率与更强的鲁棒性,这进一步验证了MobileCiT相对于传统星图识别算法的先进性.

融合注意力机制和多尺度特征的无人机图像分割方法

针对现有无人机遥感图像分割算法普遍存在的未充分利用位置信息、小目标分割不准确等问题,基于DeeplabV3+网络提出融合注意力机制和多尺度特征的无人机遥感图像语义分割方法。首先,在DeeplabV3+网络基础上,用经过预训练的MobileNetV2网络替代原模型中的Xception主干网络,减少模型参数量;其次,在空洞空间金字塔池化结构中加入坐标注意力细化模块以充分利用位置信息来增强深层特征,并通过多尺度特征融合模块处理骨干网络不同层次的信息,帮助模型更好地适应不同尺度的物体;最后,利用双三次插值上采样法替代双线性插值上采样法,便于模型对特征图进行上采样,在训练时用Dice损失和交叉熵损失之和作为模型的损失函数来预防无人机图像存在的类别不平衡问题。实验结果表明:改进后模型在Aeroscapes数据集上的平均交并比、类别平均像素准确率分别为67.23%、76.01%,与原模型相比分别提高了6.89%、6.59%;在WHDLD数据集上的平均交并比、类别平均像素准确率分别为66.09%、78.19%,与原模型相比分别提高了0.88%、2.04%。

融合注意力机制的蒙医药命名实体识别

目前蒙医药文本分布较为分散,缺乏系统化整理,构建蒙医药知识图谱成为解决这一问题的关键途径,其中命名实体识别(NER)技术发挥着关键作用。提出了一种基于BERT-BiGRU-CRF与注意力机制的NER模型,旨在解决蒙医药文本中实体识别问题,数据来源包括公开发布的蒙医药文本以及蒙医的著作,并进行校正和完善。实验结果表明,所提出的模型在蒙医药命名实体识别任务中的F1值达到87.33%。在F1值上,相比于BiLSTM-CRF、BERT-BiLSTM-CRF、BERT-BiGRU-CRF模型分别提升了4.97%、1.82%和1.77%,不仅提升了蒙医药领域中NER的应用效果,还为蒙医药知识图谱的构建和文化传承提供了重要的技术支持。

多分支结构和双池化注意力机制的RetinaNet行人检测

行人检测技术结合行人跟踪和行为分析等技术,可广泛应用在交通、安防和机器交互等与人们生活息息相关的领域,但行人的多尺度变化一直是行人检测的难点。针对传统RetinaNet算法在多尺度行人检测过程中存在的误检、漏检和检测精度低等缺陷,提出一种改进的RetinaNet算法来提升网络模型的检测能力。主要有以下两方面创新:首先,为了获取到更多的语义信息,采用多分支结构来扩展网络,以提取不同深度下不同感受野的特征;其次,为了使模型更关注行人特征的重要信息,在模型预测头部分嵌入双池化注意力机制,增强通道间特征信息的相关性,抑制不重要的信息,以提高模型的检测精度。在COCO等不同的数据集上进行实验,结果表明,与传统的RetinaNet模型相比,所提出的模型在各个评价指标上均有所提升,具有良好的性能,可以满足行人检测的需要。

基于双流自注意力机制的滑坡分类研究

滑坡是一种严重的地质灾害,严重威胁人们的生命和财产安全,因此快速、准确地实现滑坡检测至关重要。传统滑坡识别方法主要依赖实地调查和人工解析,耗时长且需大量的人力资源。基于此,文章提出了基于双流自注意力机制的滑坡分类方法。该方法使用卷积网络进行特征提取,结合自注意力机制对RGB影像、边缘检测图和数字高程模型(DEM)深度融合来有效捕捉数据中的局部特征和上下文信息,提升了模型在复杂地形条件下的适应性和识别精度。实验结果表明,与现有的流行方法相比,该方法的滑坡识别准确性提高了1%~4%,能更精确地定位滑坡区域。

融合交叉注意力机制的轻量化街景语义分割算法

在城市街道场景中进行语义分割对实现自动驾驶和智能交通系统等应用至关重要.然而,由于主流的语义分割模型通常参数较多且计算复杂,使得它们难以在移动端或嵌入式设备上高效部署以及对系统实现实时响应.为了解决这一问题,文中提出了一种融合交叉注意力机制的轻量化街景语义分割算法.首先,使用轻量级的MobileNetV3网络替代原模型中的特征提取主干网络,从而提升参数利用率并减少模型的总体参数量;其次,对空洞空间金字塔池化模块(ASPP)进行了改进,设计了一种轻量化的密集连接ASPP模块LD-ASPP,通过密集连接将多个卷积层串联,并使用深度可分离空洞卷积取代ASPP模块中的标准空洞卷积,从而降低计算量并提升训练效率.同时,加入了条带池化模块,以捕获更加丰富的上下文信息,从而增强模型在复杂场景中的表现能力;最后,融入了交叉注意力机制,有效捕捉像素与周围像素之间的关系以及通道间的依赖性,实现更加精准的语义分割.实验结果表明,该算法在Cityscapes城市街景数据集上的平均交并比(mIoU)达到了74.02%,模型参数量仅为2.18Mb;与使用MobileNetV2作为主干网络的DeepLabV3+模型相比,mIoU提升了3.11%,训练速度提升了17.92%,且模型参数量仅为原模型的42.6%.

集成深度强化学习与注意力机制的车间调度方法

柔性作业车间调度问题是制造业中一个典型的调度问题。在复杂多变的生产环境中,传统的调度方法难以同时保证生产效率和质量。文中提出了一种针对动态柔性作业车间调度问题的端到端深度强化学习方法。为了提高解的质量,构造了一个基于注意力机制的异构图神经网络作为决策模块,使强化学习代理可以在其解空间中搜索。利用近端策略优化算法对网络模型进行训练,训练后的模型可用于生成最优调度策略。通过3组著名的FJSP基准算例进行测试,实验结果表明,该方法在解的质量和运行时间上均优于调度规则和元启发式算法。

基于局部关系特征和注意力机制的交通事故预测方法

基于相机的事故预测方法主要是建立交通对象的全局关系,而缺乏对局部关系的考虑.为此,提出一种基于局部关系特征和注意力机制的预测模型,实现车载相机实时预测交通事故风险.该模型首先引入局部关系多图网络,捕捉车辆间的局部交互关系,解决交通对象的局部交互信息应用不充分的问题.其次利用动态空间注意力机制确定交通事故风险车辆.最后将门控循环网络和动态时间注意力机制联合,有效利用动态场景当前帧和历史帧间的时序信息.事故数据集的实验结果表明,该模型准确率达到73.78%,提前1.55s预测交通事故风险,同时单帧预测时间为1.65 ms,具有卓越的实时性.为交通事故风险预测提供一种有效的解决方案.

融合注意力机制和Bi-YOLO的变电站异物检测研究

由于变电站内设备悬挂异物的现象频发,为预防站内人员巡检不及时导致电力事故发生,在YOLOv5的基础上,提出融合注意力机制和Bi-YOLO的变电站异物检测研究。采用加权双向特征金字塔替代原有的特征金字塔网络,将坐标注意力模块嵌入C3结构,添加混合注意力模块,以提高变电站异物的特征提取能力和检测效率。实验结果显示,相较于YOLOv5算法,提出的检测算法多类别平均检测精度提高3.3%,mAP值达91.3%,满足实时性要求。

基于双子图和注意力机制的知识图谱补全方法

针对现有的知识图谱补全方法捕获知识图谱结构信息能力不足的问题,提出了一种基于双子图和注意力机制以获取全局结构信息完成知识图谱自动补全的模型。该模型首先分别构建以实体和关系为中心的双子图,来分别捕获实体邻域信息和关系结构的潜在有用信息,并将双子图形成的信息输入到编码器中以更好地更新实体和关系结构信息;然后,利用注意力机制自适应地学习更新后实体和关系之间的重要交互特征;最后,将包含全局结构信息的特征向量输入到解码器中,通过一个评分函数,对输入的特征边进行打分预测,最终使用预测结果来完成知识图谱补全任务。与基线方法的性能相比,该方法在FB15K-237和NELL995数据集上的MRR和hits@10评测指标分别取得了5.1、8.8和3.4、2.2百分点的显著提升,同时在WN18RR数据集上,这两个指标也分别提高了0.1和1.9百分点。实验结果表明,所建立模型采用的结构能有效捕获知识图谱全局结构信息,进而显著增强模型的表达能力和预测性能。

融合注意力机制的YOLOv8-TS交通标志检测网络

道路交通标志识别是自动驾驶、车联网的重要组成部分,为进一步提高交通标志检测的精度和速度,提出一种基于YOLOv8s改进的YOLOv8-TS道路交通标志检测网络。首先,对YOLOv8s进行了整体的轻量化设计,并设计了Conv-G7S和CSP-G7S模块,减少了网络的参数量;其次,设计了CSP-SwinTransformer模块,强化了模型利用窗口内的特征信息进行上下文感知和建模的能力;然后,在颈部网络融合了卷积注意力机制(CBAM),强化了模型对不同通道、空间权重信息的学习;最后,对损失函数进行了改进,提升了边界框回归性能。实验结果表明,在中国道路交通标志TT100K数据集上,精确率(Precision)、平均精度(mAP@0.5)分别提高了6.9%、3.7%,而改进后模型的参数量下降了75.4%,模型的大小仅为5.8 MB,平均精度(mAP@0.5)达到96.5%,检测速度由126.58 f/s提升至136.99 f/s。

融入注意力机制的水位检测算法

传统图像处理的水位检测算法易受环境因素的影响,因此提出一种融入注意力机制的水位检测算法。首先,利用融入CBAM注意力机制的YOLO v5目标检测模型获取尺身数字类别及其坐标信息;其次,通过融入ECA注意力机制的DeepLabv3+语义分割模型实现水尺和背景的分割;再次,使用边缘检测算法得出水位线信息;最后,根据尺身数字信息和水位线信息将像素值换算为真实水位值。实验结果表明,优化水位检测算法与人工读数误差在2 cm以内,满足水位检测标准要求。

基于双重注意力机制WOA-CNN-BiLSTM模型的变压器油温预测方法

针对当前变压器油温预测模型难以充分利用大量时间序列数据的问题,提出一种双重注意力优化WOACNN-BiLSTM的变压器油温预测模型。该模型以变压器历史油温数据作为输入,将输入数据通过滑窗法进行升维,通过将通道注意力机制(Channel Attention Mechanism,CAM)即挤压激励模块(Squeeze-Excitation-Networks,SENet)与卷积神经网络(Convolutional neural network,CNN)结合挖掘特征关系,并采用双向长短时记忆网络(Bidirectional Long Short-Term Memory,BiLSTM)进一步挖掘时序特征;然后加入时间注意力机制(Time Attention Mechanism,TAM)进行权重分配,将建立好的模型使用鲸鱼算法(Whale Optimization Algorithm,WOA)进行超参数寻优,实现变压器油温预测。最后使用实测数据进行算例分析,验证此方法优越性。

基于改进卷积注意力机制的触觉图像识别

为了改善传统轻量化网络对触觉图像全局特征提取能力差的问题,提出一种基于轻量化网络提高触觉图像感知分类的新算法,通过将卷积块注意力模块(CBAM)引入坐标注意力机制(CA)来增强特征信息表达能力.利用CA采取空间全局信息并嵌入通道注意中,使卷积网络能够在较全面的区域捕获注意力权重.结果表明:所提算法优于现有轻量化网络算法;该算法对GelSight数据集、多模态传感器数据集2种触觉图像进行分类识别测试,在分类表现中分辨正确率分别达到了88.2%和94.4%;相比于传统的CBAM注意力模型、自注意力模型(SENet)和仅有LeNet的神经网络,该算法对触觉图像的识别能力在GelSight数据集上分别提高了8.7%、8.7%和3.0%,在多模态传感器数据集上分别提高了13.3%、13.4%和4.8%.

基于多尺度卷积注意力机制的输电线路防振锤缺陷检测

作为输电线路中的重要金具部件,防振锤的缺陷将对输电线路构成严重威胁。针对由于防振锤缺陷样本数量稀少、背景复杂、区域形状尺寸不一造成的防振锤缺陷识别能力不足的问题,提出一种基于多尺度卷积注意力机制的防振锤缺陷检测方法。首先,通过统计不同缺陷的防振锤尺寸,设计适应不同类别的多尺度卷积注意力机制,使网络重点关注图像中的防振锤区域;其次,引入结构重参数化方法,以将网络中的多分支结构无损失地转换为单分支结构,在提高网络检测性能的同时维持检测速度在较高水平;最后,以渐进式特征金字塔网络结构(AFPN)为基础,融合更多的浅层网络,提高了网络检测防振锤小目标的能力。实际收集的防振锤缺陷数据集实验结果表明,设计的检测方法可显著提升防振锤缺陷检测的性能,检测精度mAP0.5达到了91.9%,在TITAN XP平台下检测速度达60.88帧/s,可为输电线路防振锤智能化巡检提供参考。

基于注意力机制LSTM的电离层TEC预测

电离层总电子含量(Total Electron Content,TEC)的监测与预报是空间环境研究的重要内容,对卫星通讯和导航定位等有重要意义.TEC值影响因素较多,很难确定精确物理模型来对其进行预测.本文设计了基于注意力机制的LSTM模型(Att-LSTM),采用过去24小时TEC观测数据对未来TEC进行预测.选择北半球东经100°上,每2.5°纬度选择一个位置,共计36个位置来验证本文提出模型的性能,并与主流的深度学习模型如DNN、RNN、LSTM进行对比实验.取得了如下成果:(1)在选定的36个地区未来2小时单点预测上,基于本文的Att-LSTM模型的TEC预测性能明显优于其他对比模型;(2)讨论了纬度对Att-LSTM预测未来2小时TEC值时性能的影响,发现在北纬0°到60°之间,Att-LSTM预测性能随着纬度的升高而略有降低,在北纬62.5°~87.5°之间,模型预测性能出现扰动,预测效果略差;(3)讨论了磁暴期和磁静期模型的预测性能,发现无论是磁暴期还是磁静期,本文模型预测性能均较好;(4)还讨论了对未来多时点预测效果,实验结果表明,本文所提出的模型对未来2、4个小时的预测拟合度R-Square均超过0.95,预测结果比较可靠,对未来6、8、10个小时预测拟合度最高为0.7934,预测拟合度R-Square下降迅速,预测结果不可靠.