基于小波变换和CNN-Transformer模型的测井储层流体识别

针对具有复杂储集空间和极强的非均质性的低孔低渗储层,常规测井响应特征不够明显,使用传统解释手段难以有效识别储层流体的问题,提出了一种基于小波变换和CNN-Transformer混合模型的储层流体识别方法。首先,使用小波变换将测井信号从时域扩展到时频域,并生成时频谱图以增强信号特征,然后使用滑动时窗沿着测井曲线深度方向滑动采样,获取代表解释深度处地层信息的频谱特征图,最后,通过训练CNN-transformer模型深度挖掘特征图信息,实现储层流体识别。混合模型在利用储层对应深度处测井数据的同时,又兼顾测井曲线随深度的变化趋势和地层前后信息的关联性,挖掘时频谱图的局部细节和全局特征表示,自动识别流体类型。将模型应用于大港油田22口实测测井资料中,并与CNN和BiLSTM等多个模型的流体识别效果进行对比分析,基于小波变换和CNN-Transformer模型识别效果明显优于其他方法,在测试集上识别准确率达到了92.7%。研究结果表明该方法可以作为低孔渗油藏常规测井资料识别储层流体的有效手段,为流体评价提供了新思路。

CNN-Transformer特征融合多目标跟踪算法

在卷积神经网络(CNN)中,卷积运算能高效地提取目标的局部特征,却难以捕获全局表示;而在视觉Transformer中,注意力机制可以捕获长距离的特征依赖,但会忽略局部特征细节。针对以上问题,提出一种基于CNN-Transformer双分支主干网络进行特征提取和融合的多目标跟踪算法CTMOT(CNN-transformer multi-object tracking)。使用基于CNN和Transformer双分支并行的主干网络分别提取图像的局部和全局特征。使用双向桥接模块(two-way braidge module,TBM)对两种特征进行充分融合。将融合后的特征输入两组并行的解码器进行处理。将解码器输出的检测框和跟踪框进行匹配,完成多目标跟踪任务。在多目标跟踪数据集MOT17、MOT20、KITTI以及UADETRAC上进行评估,CTMOT算法的MOTP和IDs指标在四个数据集上均达到了SOTA效果,MOTA指标分别达到了76.4%、66.3%、92.36%和88.57%,在MOT数据集上与SOTA方法效果相当,在KITTI数据集上达到SOTA效果。由于同时完成目标检测和关联,能够端到端进行目标跟踪,跟踪速度可达35 FPS,表明CTMOT算法在跟踪的实时性和准确性上达到了较好的平衡,具有较大潜力。

CNN-Transformer结合对比学习的高光谱与LiDAR数据协同分类

针对高光谱图像(hyperspectral images,HSI)与LiDAR数据多模态分类任务中的跨模态信息表达和特征对齐等问题,提出一种基于对比学习CNN-Transformer高光谱和LiDAR数据协同分类网络(Contrastive Learning based CNNTransformer Network,CLCT-Net)。CLCT-Net通过由ConvNeXt V2 Block构成的共有特征提取模块,获得不同模态间的共性特征,解决异构传感器数据之间语义对齐的问题。构建了包含空间-通道分支和光谱上下文分支的双分支HSI编码器,以及结合频域自注意力机制的LiDAR编码器,以获取更丰富的特征表示。利用集成对比学习进行分类,进一步提升多模态数据协同分类的精度。在Houston 2013和Trento数据集上的实验结果表明,相较于其他高光谱图像和Li‐DAR数据分类模型,本文所提模型获得了更高的地物分类精度,分别达到了92.01%和98.90%,实现了跨模态数据特征的深度挖掘和协同提取。

基于Swin-Transformer的黑色素瘤图像病灶分割研究

黑色素瘤图像病灶分割的主流模型大多基于卷积神经网络(CNN)或Vision Transformer(ViT)网络,但是CNN模型受限于感受野大小,无法获取全局上下文信息,而ViT模型只能提取固定分辨率的特征,无法提取不同粒度的特征。为解决该问题,建立一种基于Swin-Transformer的融合双分支的混合模型SwinTransFuse。在编码阶段,首先利用Noise Reduction图像降噪模块去除图像中的毛发等噪声,然后采用CNN和Swin-Transformer构成的双分支特征提取模块来提取图像的局部细粒度信息和全局上下文信息,并对来自Swin-Transformer分支的全局上下文信息使用SE模块进行通道注意力操作以增强全局特征的提取,对来自CNN分支的局部细粒度信息使用卷积块注意力机制模块(CBAM)进行空间注意力操作以增强局部细粒度特征的提取,接下来利用Hadamard积运算对两个分支输出的特征进行特征交互以实现特征的融合,最后将SE模块输出的特征、CBAM模块输出的特征和特征融合后的特征进行拼接以实现多层次特征融合,并通过一个残差块输出交互后的特征。在解码阶段,将特征输入到上采样模块得到图像最终的分割结果。实验结果表明,该模型在ISIC2017和ISIC2018皮肤病数据集上的平均交并比分别为78.72%和78.56%,优于同类型的其他医学分割模型,具有更高的实用价值。

基于IWOA-Transformer的磨煤机故障预警

提出了一种基于改进鲸鱼算法优化Transformer网络超参数(IWOA-Transformer)的故障预警方法。该方法利用非线性收敛系数和高斯变异对鲸鱼算法(WOA)进行改进,以提高WOA的收敛速度和避免其陷入局部最优;再采用改进鲸鱼算法(IWOA)优化Transformer的超参数,建立磨煤机故障预警模型;然后,通过预测值和实际值的相似度函数确定自适应阈值,结合专家系统判断故障类型并提出解决方案,实现磨煤机故障预警;最后,以某350 MW热电机组中速磨煤机为例进行故障预警试验。结果表明:所提IWOA-Transformer模型可显著提高预警速度和准确率,具有工程实用价值。

基于遥感多参数和CNN-Transformer的冬小麦单产估测

为了提高冬小麦单产估测精度,改善估产模型存在的高产低估和低产高估等现象,以陕西省关中平原为研究区域,选取旬尺度条件植被温度指数(VTCI)、叶面积指数(LAI)和光合有效辐射吸收比率(FPAR)为遥感特征参数,结合卷积神经网络(CNN)局部特征提取能力和基于自注意力机制的Transformer网络的全局信息提取能力,构建CNN-Transformer深度学习模型,用于估测关中平原冬小麦产量。与Transformer模型(R^(2)为0.64,RMSE为465.40 kg/hm^(2),MAPE为8.04%)相比,CNN-Transformer模型具有更高的冬小麦单产估测精度(R^(2)为0.70,RMSE为420.39 kg/hm^(2),MAPE为7.65%),能够从遥感多参数中提取更多与产量相关的信息,且对于Transformer模型存在的高产低估和低产高估现象均有所改善。基于5折交叉验证法和留一法进一步验证了CNN-Transformer模型的鲁棒性和泛化能力。此外,基于CNN-Transformer模型捕获冬小麦生长过程的累积效应,分析逐步累积旬尺度输入参数对产量估测的影响,评估模型对于冬小麦不同生长阶段的累积过程的表征能力。结果表明,模型能有效捕捉冬小麦生长的关键时期,3月下旬至5月上旬是冬小麦生长的关键时期。

LNG-Transformer:基于多尺度信息交互的图像分类网络

鉴于Transformer的Self-Attention机制具有优秀的表征能力,许多研究者提出了基于Self-Attention机制的图像处理模型,并取得了巨大成功。然而,基于Self-Attention的传统图像分类网络无法兼顾全局信息和计算复杂度,限制了Self-Attention的广泛应用。文中提出了一种有效的、可扩展的注意力模块Local Neighbor Global Self-Attention(LNG-SA),该模块在任意时期都能进行局部信息、邻居信息和全局信息的交互。通过重复级联LNG-SA模块,设计了一个全新的网络,称为LNG-Transformer。该网络整体采用层次化结构,具有优秀的灵活性,其计算复杂度与图像分辨率呈线性关系。LNG-SA模块的特性使得LNG-Transformer即使在早期的高分辨率阶段,也可以进行局部信息、邻居信息和全局信息的交互,从而带来更高的效率、更强的学习能力。实验结果表明,LNG-Transformer在图像分类任务中具有良好的性能。

基于MsTCN-Transformer模型的轴承剩余使用寿命预测研究

剩余使用寿命(remaining useful life, RUL)预测是PHM的核心问题之一,复杂的运行工况往往导致设备部件经历不同的故障退化过程,给RUL准确预测带来了巨大挑战。为此,提出了一种多尺度时间卷积网络(multi-scale temporal convolutional network, MsTCN)与Transformer(MsTCN-Transformer)融合模型用于变工况下滚动轴承RUL预测。该方法设计了一种新的多尺度膨胀因果卷积单元(multi-scale dilated causal convolution unit, MsDCCU),能够自适应地挖掘滚动轴承全寿命信号中固有的时序特征信息;然后构建了基于自注意力机制的Transformer网络模型,在克服预测序列记忆力退化的基础上,准确学习时序特征与轴承RUL之间的映射关系。此外,通过对轴承不同故障退化阶段所提取的时序特征可视化分析,验证了所提方法在变工况下所提取的时序特征泛化性较好。多种工况条件下滚动轴承RUL预测试验表明,所提方法能够较为准确地实现变工况下轴承的RUL预测,相比当前多种方法RUL预测结果准确性更高。

基于CNN-Transformer的锂离子电池健康状态估计

目的健康状态是评估锂离子电池状态的关键参数,对锂离子电池的安全使用有着十分重要的意义,为了获得准确可靠的健康状态估计结果,建立基于卷积神经网络和Transformer的锂离子电池健康状态估计方法,利用不同模型的数据挖掘特性,将健康指标的深层信息和随循环周期增加的时序信息并行提取。方法从锂离子电池放电过程中的部分电压和温度曲线中提取3个与健康状态相关性较强的健康指标作为模型输入,利用卷积神经网络强大的特征提取能力挖掘健康指标的局部特征,利用Transformer的顺序处理能力挖掘健康指标的时序特征,将健康指标的局部特征和时序特征进行特征融合,通过卷积和全局平均池化层输出健康状态估计值。结果本研究使用MIT数据集进行实验验证,并与卷积神经网络和长短时记忆神经网络进行对比分析,所提出的方法的均方根误差和平均绝对误差是最低的,为0.11和0.08,最小相对误差为0.61%。结论所提出的CNN-Transformer健康状态估计采用不同模型挖掘健康指标不同的特征信息,能够充分利用锂离子电池放电数据,且具有良好的估计效果。

基于改进Swin-Transformer的柑橘病叶分类模型

针对柑橘病害人工检测效率低、成本高、准确度低等问题,结合人工智能技术对柑橘病叶进行分类识别。首先,建立模拟复杂环境下的柑橘病叶数据集。其次,提出一种改进的Swin-Trasnformer柑橘病叶分类模型,包含局部感知通道增强注意力模块(LPCE),以提升模型的感受野和特征表达能力,通过通道之间的相关性进行加权,使模型更容易提取关键特征。试验证明本文模型的分类识别准确率达到98.52%,精确率、召回率和F 1-score分别达到98.17%、98.24%、98.28%,均超过基线模型。该模型为柑橘病害的检测提供技术支撑。

DRT Net:面向特征增强的双残差Res-Transformer肺炎识别模型

针对肺部X射线图像的病灶区域较小、形状复杂,与正常组织间的边界模糊,使得肺炎图像中的病灶特征提取不充分的问题,提出了一个面向特征增强的双残差Res-Transformer肺炎识别模型,设计3种不同的特征增强策略对模型特征提取能力进行增强。设计了组注意力双残差模块(GADRM),采用双残差结构进行高效的特征融合,将双残差结构与通道混洗、通道注意力、空间注意力结合,增强模型对于病灶区域特征的提取能力;在网络的高层采用全局局部特征提取模块(GLFEM),结合CNN和Transformer的优势使网络充分提取图像的全局和局部特征,获得高层语义信息的全局特征,进一步增强网络的语义特征提取能力;设计了跨层双注意力特征融合模块(CDAFFM),融合浅层网络的空间信息以及深层网络的通道信息,对网络提取到的跨层特征进行增强。为了验证本文模型的有效性,分别在COVID-19 CHEST X-RAY数据集上进行消融实验和对比实验。实验结果表明,本文所提出网络的准确率、精确率、召回率,F1值和AUC值分别为98.41%,94.42%,94.20%,94.26%和99.65%。DRT Net能够帮助放射科医生使用胸部X光片对肺炎进行诊断,具有重要的临床作用。

基于电子舌和电子鼻结合CNN-Transformer模型的绿茶种类识别

[目的]实现绿茶种类的快速识别。[方法]提出一种基于电子舌和电子鼻结合CNN-Transformer组合模型实现绿茶种类辨识的快速检测方法。分别使用电子舌、电子鼻对5种不同种类绿茶采集味觉、嗅觉的指纹信息,利用短时傅里叶变换(short-time fourier transform,STFT)将一维电子舌和电子鼻信号转换为二维时频图,充分揭示信号能量在时频域的分布特性;提出一种CNN-Transformer组合模型实现电子舌和电子鼻的信息融合和模式识别。该模型引入选择性核卷积和归一化注意力设计卷积模块来替换传统的CNN卷积层,以实现对信号时频图的局部特征动态提取;采用Transformer编码器中的多头自注意力机制提取电子舌和电子鼻特征的全局时序信息,并实现其特征的加权融合;最后,通过全连接层进行分类识别。[结果]基于电子舌和电子鼻的信息融合方法能够有效提取绿茶样本的味觉和嗅觉信号深层特征,并为模型提供更丰富的融合特征表征,以实现对不同绿茶种类的高准确识别,其测试集准确率、精确率、召回率和F 1-Score分别达到99.00%,99.05%,99.00%,99.00%。[结论]试验方法具有成本低、快速、高效等特点。

基于Swin-Transformer与生成对抗网络的地震随机噪声压制方法

目前深度学习类地震数据去噪方法大多基于卷积神经网络,而此类方法受限于卷积核的局部操作,缺少对地震数据全局特征的分析,因而降低了去噪效果。另外,以L 1,L 2损失函数为指标的网络模型容易出现过度平滑效应,产生虚假同相轴以及虚高的峰值信噪比(PSNR)与结构相似性(SSIM)值。为此,提出一种基于Swin-Transformer(Swin-T)和生成对抗网络的去噪方法(ST-GAN)。该方法以Swin-Transformer作为生成对抗网络中的生成网络对地震数据去噪,判别网络基于卷积神经网络。Transformer的自注意力机制是全局操作,可以有效提取地震数据的全局特征,并能与卷积神经网络的局部操作互补,提升网络模型的特征提取能力。而对抗损失则提升了网络模型的细节恢复能力,有效避免因过度平滑效应产生的同相轴假象。将该方法应用于地震数据去噪,并与现有去噪方法进行对比分析,实验结果表明,该方法具有更加优异的特征提取能力,能在有效压制随机噪声的同时,恢复和保留更多的细节信息,提高了地震信号的信噪比。

融合残差块与Swin-Transformer机制的刀具磨损监测方法

为进一步提高切削加工过程刀具磨损值监测的精度,提出一种融合残差块与Swin-Transformer模型的刀具磨损监测模型。首先,采用分组卷积残差块提取信号的特征;然后,利用Swin-Transformer模型中的分块滑动窗口自注意力机制对提取的特征进行平移融合;最后,通过回归层实现刀具磨损值监测。试验结果表明,融合一层残差块与一层stage机制的Swin-Transformer模型可以有效融合刀具磨损状态监测信号的全局信息,相比其他Swin-Transformer模型,不仅模型结构简单,而且具有更高的监测精度,利用PHM2010数据集验证的MSE、MAE和R2分别达到4.471 9、1.467 5和0.995 8。

M^(3)Res-Transformer:新冠肺炎胸部X-ray图像识别模型

新冠肺炎(COVID-19)自爆发以来严重影响人类生命健康,近年来残差神经网络广泛应用于COVID-19识别任务中,辅助医生快速地诊断COVID-19患者,但是COVID-19图像病变区域形状复杂、大小不一,与周围组织的边界模糊,导致网络难以提取有效特征.本文针对上述问题,提出一种M^(3)Res-Transformer的新冠肺炎胸部X-ray图像识别模型,采用Res-Transformer作为模型的主干网络,结合ResNet和ViT,有效地整合局部病变特征和全局特征;设计混合残差注意力模块(mixed residual attention Module,mraM),同时考虑通道和空间位置的相互依赖性,增强网络的特征表达能力;为了增大感受野,提取多尺度特征,通过叠加具有不同扩张率的扩张卷积构造多尺度扩张残差模块(multiscale dilated residual Module,mdrM),根据不同层次特征尺度的差异,使用3个逐渐收缩尺度的mdrM进行多尺度特征提取;提出上下文交叉感知模块(contextual cross-awareness Module,ccaM),使用深层特征中的语义信息来引导浅层特征,然后将浅层特征中的空间信息嵌入深层特征中,采用交叉加权注意力机制高效聚合深层和浅层特征,获得更丰富的上下文信息.为了验证本文所提模型的有效性,在新冠肺炎胸部X-ray图像数据集上进行实验,与先进的CNN分类模型、融合不同注意力机制的ResNet50模型、基于Transformer的分类模型对比以及消融实验.结果表明,本文所提模型的Acc、Pre、Rec、F1-Score与Spe指标分别为96.33%、96.36%、96.33%、96.35%与96.26%,在COVID-19胸部X-ray图像识别任务中有效提升了识别精度,并通过可视化方法对其进行进一步验证,为COVID-19的辅助诊断提供重要的参考价值.

基于CNN-Transformer网络融合模型的动态肌肉疲劳状态识别研究

为了解决现有的肌肉疲劳状态分类较少以及识别准确率不高的问题,提出一种基于表面肌电信号的CNN-Transformer肌肉疲劳识别模型,实现了动态肌肉疲劳的准确分类.该模型将传统的卷积神经网络与Transformer编码器模块相结合,相比单一卷积神经网络模型有更好的全局信息捕捉能力,对运动性肌肉疲劳识别具有更好的分类精度.首先,对15名健康受试者进行肘关节屈伸运动疲劳实验并基于疲劳程度划分了四种状态;其次,将获取的表面肌电信号数据进行预处理,并提取近似熵和排列熵两个非线性特征作为机器学习的特征输入;最后,利用原始表面肌电信号数据构建CNN-Transformer识别模型,与卷积神经网络、Transformer、随机森林模型进行比较.结果表明,在识别肌肉疲劳状态准确率方面CNN-Transformer模型比卷积神经网络、Transformer和随机森林模型分别高出2.89%、5.48%、7.24%,可见该模型具有良好的分类效果.

Swin-Transformer故障信息挖掘的海底观测网故障定位方法

海底观测网长期受海洋环境与人为因素影响,易使光电复合缆绝缘破损与海水接触形成电学故障点。如何准确地定位电学故障点,对提高海底观测网输电与信息传输的可靠性至关重要。首先根据海底观测网输电结构建立海底观测网输电模型,推导与模拟电学故障点传播至观测点的暂态电流,然后由连续小波变换提取暂态电流与故障点对应的内在关联特征量,最后通过Swin-Transformer神经网络挖掘内在关联特征量与故障距离的匹配关系来定位电学故障点。研究结果表明,在内在关联特征量样本测试集条件下,光电复合缆≤160 km的电学故障点定位误差小于400 m,可为长距离光电复合缆的海底观测网电学故障点定位提供参考。

基于CNN-Transformer混合构架的轻量图像超分辨率方法

针对基于混合构架的图像超分模型通常需要较高计算成本的问题,提出了一种基于CNN-Transformer混合构架的轻量图像超分网络STSR(Swin-Transformer-based Single Image Super-Resolution)。首先,提出了一种并行特征提取的特征增强模块(Feature Enhancement Block, FEB),由卷积神经网络(Convolutional Neural Network, CNN)和轻量型Transformer网络并行地对输入图像进行特征提取,再将提取到的特征进行特征融合。其次,设计了一种动态调整模块(Dynamic Adjustment, DA),使得网络能根据输入图像来动态调整网络的输出,减少网络对无关信息的依赖。最后,采用基准数据集来测试网络的性能,实验结果表明STSR在降低模型参数量的前提下仍然保持较好的重建效果。

基于CNN-Transformer的欺骗语音检测

语音合成和转换技术的不断更迭对声纹识别系统产生重大威胁。针对现有语音欺骗检测方法中难以适应多种欺骗类型,对未知欺骗攻击检测能力不足的问题,提出了一种结合卷积神经网络(Convolutional Neural Network,CNN)与Transformer的欺骗语音检测模型。设计基于坐标注意力(Coordinate Attention,CA)嵌入的SE-ResNet18的位置感知特征序列提取网络,将语音信号局部时频表示映射为高维特征序列并引入二维位置编码(two-Dimensional Position Encoding,2D-PE)保留特征之间的相对位置关系;提出多尺度自注意力机制从多个尺度建模特征序列之间的长期依赖关系,解决Transformer难以捕捉局部依赖的问题;引入特征序列池化(Sequence Pooling,SeqPool)提取话语级特征,保留Transformer层输出帧级特征序列之间的相关性信息。在ASVspoof2019大赛官方逻辑访问(Logic Access,LA)数据集的实验结果表明,提出的方法相对于当前先进的欺骗语音检测系统,等错误率(Equal Error Rate,EER)平均降低12.83%,串联检测成本函数(tandem Detection Cost Function,t-DCF)平均降低7.81%。

基于LSTM-Transformer的城市轨道交通短时客流预测

准确预测城市轨道交通短时客流量的变化,有助于运营部门做出决策,并帮助轨道交通集团提高服务水平和实现智慧化运营。然而,客流数据的动态性和随机性使短时客流预测变得困难,因此,文章提出了一种组合预测模型,将Transformer模型中的位置编码(Positional Encoding)层与长短期记忆(Long Short-Term Memory,LSTM)神经网络相结合,构建了LSTM-Transformer预测模型。随后以青岛市的106个站点的进站客流数据为研究对象,并使用聚类算法对站点进行聚类分析。在10分钟的时间粒度下,利用前四周的客流数据作为训练数据,对未来一天的客流数据进行预测研究。同时,将差分自回归移动平均模型(Auto-Regressive Integrated Moving Average,ARIMA)、LSTM、GA-SLSTM和Transformer作为对照模型进行验证。通过多组实验证明了文章提出的LSTM-Transformer模型相较于对照模型组具有更好的预测精度和实用性。