基于SHAP重要性排序和时空双流的多风场超短期功率预测

针对多风场风功率预测中时空特征提取不充分的问题,提出一种基于空间、时间双流特征提取的功率预测方法。采用沙普利加性解释(SHAP)方法分析原始高维数值天气预报(NWP)中各变量的重要性,选择贡献度高的变量子集作为预测模型输入,降低模型复杂度。构建基于自适应动态邻接矩阵的改进图注意力网络(IGAT)提取多风场的动态空间特征;同时将多头注意力机制(MHA)与时间卷积网络(TCN)结合,加强关键时序特征的学习。使用前馈神经网络输出多风场功率预测结果。以西北某十风场的数据进行案例研究,结果表明所提模型的预测效果优于其他模型。

基于改进Yolov5s的增强现实文物识别方法

将增强现实技术应用于数字博物馆的文物展览,有助于拉近参观者与文物的距离,使展览更具趣味性。针对增强现实技术在文物展览应用场景中,增强现实设备采集的文物目标图像背景复杂、文物形状纹理丰富而导致的误检、识别准确率低的问题,提出一种基于改进的Yolov5s的文物识别方法。在Yolov5s网络结构中的骨干网络与颈部网络之间引入了CBAM注意力机制,并在骨干网络中的Bottleneck模块中,使用多头注意力机制替换普通卷积,有效捕获局部信息,降低了无用信息的干扰。为了提高识别网络对于目标文物的边界框定位精度,采用DIoU-NMS方法挑选最优的目标识别框作为最终的预测框。实验结果表明,该方法提高了文物的平均识别精度,比原模型更适用于AR应用文物的目标识别。

基于扩张卷积和Transformer的视听融合语音分离方法

为了提高语音分离的效果,除了利用混合的语音信号,还可以借助视觉信号作为辅助信息。这种融合了视觉与音频信号的多模态建模方式,已被证实可以有效地提高语音分离的性能,为语音分离任务提供了新的可能性。为了更好地捕捉视觉与音频特征中的长期依赖关系,并强化网络对输入上下文信息的理解,本文提出了一种基于一维扩张卷积与Transformer的时域视听融合语音分离模型。将基于频域的传统视听融合语音分离方法应用到时域中,避免了时频变换带来的信息损失和相位重构问题。所提网络架构包含四个模块:一个视觉特征提取网络,用于从视频帧中提取唇部嵌入特征;一个音频编码器,用于将混合语音转换为特征表示;一个多模态分离网络,主要由音频子网络、视频子网络,以及Transformer网络组成,用于利用视觉和音频特征进行语音分离;以及一个音频解码器,用于将分离后的特征还原为干净的语音。本文使用LRS2数据集生成的包含两个说话者混合语音的数据集。实验结果表明,所提出的网络在尺度不变信噪比改进(Scale-Invariant Signal-to-Noise Ratio Improvement,SISNRi)与信号失真比改进(Signal-to-Distortion Ratio Improvement,SDRi)这两种指标上分别达到14.0 dB与14.3 dB,较纯音频分离模型和普适的视听融合分离模型有明显的性能提升。

基于门控循环单元和Transformer的车辆轨迹预测方法

为增强自动驾驶车辆对动态环境的理解能力及其道路行驶安全性,提出基于门控循环单元(GRU)和Transformer的车辆轨迹预测模型STGTF,使用GRU提取车辆的历史轨迹特征,通过双层多头注意力(MHA)机制提取车辆的时空交互特征,生成预测轨迹。试验结果表明,预测结果的均方根误差(RMSE)平均降低7.3%,STGTF在短期预测和长期预测方面均有不同程度的提升,验证了模型的有效性。

基于增强多头注意力机制的Optuna-BiGRU测井岩性识别

测井岩性识别是油气勘探开发中至关重要的内容。针对现有算法模型在处理测井曲线数据时,无法有效捕获曲线内部深层关联和深度方向关系、拟合能力较弱、难以准确提取关键特征、噪声干扰以及模型超参数调优过程复杂困难等问题,提出了一种通过Optuna超参数优化双向门循环单元(Optuna-BiGRU)结合增强多头注意力机制(EMHA)的测井岩性识别模型——Optuna-BiGRU-EMHA模型。该模型引入残差机制和层归一化以改进多头注意力机制模块,并结合双向门循环单元(BiGRU)解决了处理测井数据时的问题,同时使用Optuna超参数优化框架和小波包自适应阈值方法分别解决了超参数调优和噪声干扰问题。首先通过交会图分析和敏感性箱线图分析选取自然伽马、深感应电阻率、中子-密度孔隙度、平均中子-密度孔隙度和岩性密度5个特征参数的测井数据,通过小波包自适应阈值方法对数据进行去噪,并将测井数据分割成数据块,然后利用Optuna框架优化BiGRU-EMHA模型超参数,最后通过实验对比K-近邻算法(KNN)、随机森林(RF)、极端梯度提升算法(XGBoost)、长短期记忆(LSTM)神经网络、BiGRU、双向长短期记忆(BiLSTM)神经网络、BiGRU-MHA、Optuna-BiGRU-EMHA等8种模型在测井岩性识别中的精度。结果表明:Optuna-BiGRU-EMHA模型识别准确率达到80%,相对于传统机器学习模型和深度学习模型,综合岩性识别准确率分别提高15.94%~23.14%和3.93%~15.94%,该模型为常规测井岩性识别提供了坚实的理论支持。

基于Transformer模型的车辆轨迹预测

准确预测车辆轨迹可以保障自动驾驶车辆行驶安全,针对已有方法对长序列轨迹建模预测能力有限的问题,本文提出一种基于Transformer网络的车辆轨迹预测模型。将车辆的运动数据与交互数据输入驾驶意图预测模块生成概率意图向量,通过Concatenate函数与轨迹信息拼接后输入轨迹预测编码器,利用多头注意力机制充分提取轨迹特征,经解码器得到未来时刻的车辆轨迹分布。在车辆轨迹真实数据集NGSIM上进行验证,结果表明:在2 s预判时间下,驾驶意图预测模块准确率可达到85%以上;在4 s的预测时域下,轨迹预测模型相较于已有模型,其RMSE降低均达到10%以上。本文提出方法为自动驾驶车辆准确预测轨迹提供技术支持。

双向多尺度特征融合的高效遥感图像车辆检测

针对遥感图像中车辆检测面临的背景复杂、多尺度差异和小目标难以检测等挑战,提出了一种基于双向多尺度特征融合的检测方法GEM_YOLO。该方法包括三个主要部分:设计了全局高效注意力模块作为特征提取器,实现轻量化和高效率的特征提取,以解决复杂背景下的目标检测问题;提出了双向多尺度特征融合网络作为特征融合器,采用自顶向下和自底向上的特征融合策略,有效促进不同层次特征之间的信息交互;应用基于注意力的动态检测头作为预测器,增强了对不同尺度、空间位置和任务的感知,进一步提升了目标检测的精度和鲁棒性。在公开数据集DIOR和DOTA上进行相关实验,该方法的平均精度均值达到92.4%和81.4%,显著优于其他主流检测方法,同时具有更少的参数量和计算量,为遥感图像检测领域中的车辆检测提供了一种高效解决方案。

融合多个性化桥和自监督学习的跨域推荐算法

针对跨域推荐系统中目标域中项目交互较少的用户,提出一种融合多个性化桥和自监督学习的跨域推荐算法(MS-PTUPCDR)。首先,在目标域加入变分二部图编码器,使用变分推理框架生成潜在变量,目标域用户表示聚合其同构邻居信息。其次,将用户单一偏好桥扩展为用户多个性化偏好桥,将用户在多源域可转移的用户因子转移到目标域,在目标域加入多头注意力机制融合分别来自不同源域转换的用户潜在因子作为自监督学习的辅助任务。最后,在目标域中将聚合用户邻居因子和融合后的用户多源域转移用户因子进行自监督学习。在目标域通过用户自监督学习后的用户因子和目标域项目因子点积进行目标域项目评分预测。算法在Amazon和MovieLens两个数据集上进行实验,结果表明算法在MAE和RMSE两个评价指标上优于对比基线算法,在两个数据集上与最优对比基线算法相比,MAE平均提升1.96%,RMSE平均提升1.92%,验证了算法的有效性。

改进残差网络甜瓜叶片病害的识别研究

针对甜瓜叶片不同程度的病害识别研究较少,人工检测实时性差且存在识别准确率较低等问题,提出了一种基于改进残差网络模型的甜瓜叶片病害识别方法。将传统的ResNet50模型作为骨干网络,将ReLU激活函数替换为ELU激活函数;将ResNet50的模型的第一层卷积中的7×7卷积核替换成Incption结构,在全连接层之后加入Dropout层,增强模型的表达能力并缓解过拟合问题;引入多头自注意力机制(MHSA),提高模型的泛化能力。进行数据预处理,将训练集与测试集的比例划分为7∶3,采用数据增强的方式对小样本数据集进行扩充。实验结果表明:改进的残差网络模型准确率与原模型相比提高了1.03个百分点,识别准确率达到98.72%且模型参数量为19.3MB。与其他网络模型相比准确率大幅提升,可以为甜瓜叶片病害的高效识别和及时预防治理提供参考。

消费者直播购物评价特征识别及情感分类研究

通过Word2vec预训练模型构建词向量、采用Bi-GRU模型获取上下文的深层次特征信息、利用多头自注意力机制优化隐层权重信息、采用全连接层输出特征及其情感分类结果,融合多头自注意力机制与Bi-GRU的神经网络模型,探索消费者直播购物评价特征的识别与情感分类方法,揭示消费者与带货主播之间的情感关联和消费者直播购物体验。

基于特征增强和语义相关性匹配的图像文本检索方法

为实现图像文本检索中图像与文本的精确语义连接,提出一种基于特征增强和语义相关性匹配(FESCM)的图像文本检索方法。首先,通过特征增强表示模块,引入多头自注意力机制增强图像区域特征和文本单词特征,以减少冗余信息对图像区域和文本单词对齐的干扰;其次,通过语义相关性匹配模块,不仅利用局部匹配捕获局部显著对象之间的对应相关性,还把图像背景信息融入图像全局特征,利用全局匹配实现精确的全局语义相关性;最后,通过局部匹配分数和全局匹配分数获取图像和文本的最终匹配分数。实验结果表明,基于FESCM的图像文本检索方法在Flickr8k和Flickr30k基准数据集上的召回率总值比扩展的视觉语义嵌入方法分别提升了5.7和7.5个百分点,在MS-COCO数据集比双流层次相似度推理方法提升了3.7个百分点。因此该方法可以有效提高图像文本检索的准确度,实现图像与文本的语义连接。

改进YOLOX-s的密集垃圾检测方法

针对密集堆放的多种类垃圾检测存在识别率低、定位不够准确和待测目标被误检、漏检问题,提出了一种融合多头自注意力机制改进YOLOX-s的垃圾检测方法。在特征提取网络嵌入SwinTransformer模块,引入基于滑窗操作的多头自注意力机制,使得网络兼顾全局特征信息和重点特征信息,减少误检现象;在预测输出网络中使用可变形卷积,对初始预测框进行精细化处理,提高定位精度;在EIoU损失的基础上引入加权系数,提出加权IoU-EIoU损失,自适应调整训练时不同阶段不同损失的关注程度,进一步加快训练网络的收敛速度。在公开204类垃圾检测数据集中进行测试,结果表明,所提改进算法的平均精度均值分别可达80.5%和92.5%,优于当前流行目标检测算法,且检测速度快,满足实时性需求。

基于时空特征自适应融合网络的流量分类方法

针对当前网络流量瞬时涌现导致网络安全事故骤增、网络管理负担加重等问题,基于深度学习技术提出了ResNet和一维VisionTransformer并行的网络结构对网络流量进行识别并分类。其中ResNet可以提取到流量数据在空间上深层次的特征,能够保证流量识别的准确率;一维VisionTransformer可以提取到更具代表性的时序特征。利用注意力机制将两种特征进行自适应融合得到更全面的特征表示,以提高网络识别流量的能力。在ISCX VPNnonVPN数据集上进行实验表明:所提方法在流量的应用程序分类实验中的准确率达到了99.5%,相较于单独的ResNet和一维VisionTransformer以及经典的一维CNN和CNN+长短时记忆网络分别提高了0.9%、3.6%、6.6%和3.3%。在USTC-TFC2016数据集上,所提方法在能够轻松识别流量是否为恶意流量的基础上,实现了对13种应用程序的分类,且平均分类准确率达到了98.92%,证明了其具有识别恶意流量并完成细粒度分类任务的能力。

多头注意力机制的图同构网络智能合约源码漏洞检测

针对智能合约源码转化为字节码后部分语法、语义丢失,且现有漏洞检测方法精度低、误报率高,特别是对重入漏洞和时间戳漏洞的检测能力有限等问题,提出一种多头注意力机制的图同构网络智能合约源码漏洞检测方法。使用智能合约源码,结合重入漏洞和时间戳漏洞特点构建图结构并将其规范化;将规范化后的图结构数据投入图同构网络进行迭代训练,利用该网络强大的节点表示和图表示能力进行漏洞检测;在图同构网络的基础上增加多头注意力机制,进一步增强图同构网络的节点表示能力。实验结果显示该方法对重入漏洞和时间戳漏洞检测准确率达到93.08%和92.30%,相较于普通图同构网络方法分别提升1.44和2.00个百分点。证明该方法对相关漏洞的检测能力要优于其他检测工具。

基于RoBERTa多特征融合的棉花病虫害命名实体识别

针对棉花病虫害文本语料数据匮乏且缺少中文命名实体识别语料库,棉花病虫害实体内容复杂、类型多样且分布不均等问题,构建了包含11种类别的棉花病虫害中文实体识别语料库CDIPNER,提出了一种基于RoBERTa多特征融合的命名实体识别模型。该模型采用掩码学习能力更强的RoBERTa预训练模型进行字符级嵌入向量转换,通过BiLSTM和IDCNN模型联合抽取特征向量,分别捕捉文本的时序和空间特征,使用多头自注意力机制将抽取的特征向量进行融合,最后利用CRF算法生成预测序列。结果表明,该模型对于棉花病虫害文本中命名实体的识别精确率为96.60%,召回率为95.76%,F1值为96.18%;在ResumeNER等公开数据集上也有较好的效果。表明该模型能有效地识别棉花病虫害命名实体且具有一定的泛化能力。

多头自注意力机制的Faster R-CNN目标检测算法

文中提出一种融合多头注意力机制、ROIAlign和Soft-NMS的FasterR-CNN目标检测算法,旨在解决原始Faster R-CNN目标检测网络中存在的检测精度低、漏检、误检的问题。首先,为了提高Faster R-CNN的感知能力,提取特征图中的重要特征并降低对无关特征的提取,在网络中嵌入注意力机制;接着,针对共享全连接层的降维操作导致的一些区域的细节信息被忽略,造成局部信息的丢失,采用一维卷积代替共享全连接层实现权重计算的任务,以捕捉更广泛的空间信息;然后为了提供更丰富的特征表达能力,在注意力机制中引入多头机制分别对特征的不同部分进行重要性的加权;为了减少在特征提取时原图信息的丢失,使用ROI Align替换ROI Pooling算法;最后,在算法后处理中引入Soft-NMS替换传统非极大抑制(NMS)算法以减少漏检和误检情况。实验证明,改进后的Faster R-CNN目标检测网络对感兴趣目标的定位能力得到提高,漏检和误检情况减少,平均检测精度得到显著提升。

多传感器融合和MHA-LSTM的电机轴承剩余寿命预测

轴承作为电机的核心部件,主要起到支撑引导轴、减小设备摩擦、连接不同设备等作用,其剩余寿命预测对系统健康管理起着十分重要的作用。针对单一传感器信号通常难以全面描述系统的潜在退化机制,论文提出一种基于多头注意力机制和长短时记忆神经网络的电机轴承剩余寿命预测模型。首先,基于马氏距离确定轴承性能退化起始点,将滚动轴承全寿命周期分为正常阶段与退化阶段;其次,使用自编码器自动提取振动信号特征,并将其与电机电流、轴承温度融合,构成多源信息特征矩阵;然后基于多头注意力机制和长短时记忆网络模型动态选择相关度较高的特征,提高寿命预测的准确性。最后,采用实验数据进行验证,结果表明所提出的模型具有更高的准确性。

基于跨模态语义信息增强的多模态情感分析

随着社交网络的发展,人类通过不同的方式表达自己的情感,包括文本、视觉和语音,即多模态。针对以往的多模态情感分析方法未能有效地获取多模态情感特征表示,以及没有充分考虑在多模态特征融合过程中冗余信息对实验的影响,提出了一种基于跨模态语义信息增强的多模态情感分析模型。该模型采用BiLSTM网络挖掘各单模态内部存在的上下文信息。通过跨模态信息交互机制对多种模态间的信息交互进行建模,得到文本对语音、视觉,语音对文本、视觉,视觉对文本、语音六种信息交互特征,将目标模态相同的信息交互特征进行拼接,得到信息增强后的单模态特征向量,有效地获取模态间共享和补充的深度语义特征。另外,使用多头自注意力机制分别计算原始单模态特征向量和信息增强后的单模态特征向量间存在的语义相关性,提高识别关键情感特征的能力,降低冗余信息对情感分析的负面干扰。在公共数据集CMU-MOSI和CMU-MOSEI的实验结果表明,所提出的模型既能增强情感特征表示,也能有效降低冗余信息的干扰,在多模态情感分类准确率和泛化能力上的表现优于相关工作。

基于融合序列的远控木马流量检测模型

针对现有远控木马流量检测方法泛化能力较弱、表征能力有限和预警滞后等问题,提出了一种基于融合序列的远控木马流量检测模型。通过深入分析正常应用网络流量与远控木马流量在包长序列、包负载长度序列和包时间间隔序列方面的差异,将流量表征为融合序列。将融合序列输入Transformer模型,利用多头注意力机制与残差连接挖掘融合序列内在联系,学习木马通信行为模式,有效地提升了对远控木马流量的检测能力与模型的泛化能力。所提模型仅需提取网络会话的前20个数据包进行检测,就能够在木马入侵早期做出及时预警。对比实验结果表明,模型不仅在已知数据中具有优异的检测效果,在未知流量测试集上同样表现出色,相比当前已有的深度学习模型,各项检测指标有较大提升,在远控木马流量检测领域具备实际应用价值。

多样性引导的深度多视图聚类算法

多视图聚类旨在从不同视图的多样性信息中,学习到更加全面和准确的共识表示,以提高模型的聚类性能.目前大部分多视图聚类算法采用希尔伯特-施密特独立性准则(HSIC)或自适应加权方法从全局考虑各视图的多样性,忽略了各视图样本之间的局部多样性信息学习.针对上述问题,提出了多样性引导的深度多视图聚类算法.首先,提出了融合多头自注意力机制的软聚类模块,多头自注意力机制用来学习全局多样性,软聚类模糊C均值算法用来学习局部多样性;其次,在深度图自编码器网络结构中引入软聚类模块,以达到多样性信息引导潜在表示生成的目的;然后,将得到的各视图潜在表示进行加权融合得到共识表示,并采用谱聚类算法对共识表示进行聚类;最后,在3个常用数据集上进行了对比实验和消融实验.实验结果表明,提出的聚类算法具有良好的聚类效果,以及提出的多样性信息学习模块可以有效提高算法聚类性能.