GhostConv轻量级网络设计及故障诊断研究

提出一种GhostConv轻量级网络模型并将其用于故障诊断。GhostConv利用常规卷积生成一小部分特征图,然后在生成的特征图上进行多次特征提取来生成其余特征图,最大程度地节约了常规卷积中生成冗余特征图的成本,减少了模型参数,保证了模型的性能。采用连续小波变换对振动信号进行时频变换生成二维时频图,之后利用设计的GhostConv搭建轻量级网络模型进行故障诊断。采用凯斯西储大学轴承数据集进行验证,并与其他卷积结构网络模型进行参数量、计算量以及识别准确率的对比。实验结果表明,与其他模型相比,所使用的网络模型在参数量和计算量较少的条件下依旧有较高的识别精度,且具有较好的鲁棒性和泛化能力,具有一定的工程应用价值。

基于格拉姆角场与深度卷积生成对抗网络的行星齿轮箱故障诊断

针对行星齿轮箱故障诊断中样本分布不均衡所引起的模型泛化能力差及诊断精度低等问题,采用格拉姆角场图像编码技术和深度卷积生成对抗网络相结合进行数据增强,融合AlexNet卷积神经网络进行故障诊断。将采集到的一维振动信号转化为格拉姆角场图,按比例划分训练集与测试集,将训练集样本与随机向量输入到深度卷积生成对抗网络模型中,交替训练生成器与判别器,达到纳什平衡,生成与原始样本类似的生成样本,从而实现故障样本的增广。用原始样本与生成的增广样本训练卷积神经网络分类模型,完成行星齿轮箱的故障识别。实验结果表明,所提方法能够有效提升样本不均衡条件下的行星齿轮箱故障诊断精度,使之达到99.15%,且能使收敛速度更快。

基于卷积神经网络的预制叠合板多目标智能化检测方法

在生产过程中,预制构件尺寸不合格问题将导致其在施工现场无法顺利安装,从而影响工期。为推进预制构件智能化生产的进程,以预制叠合板为例,基于卷积神经网络研究生产过程中的智能检测方法,在生产流水线上设计并安装图像采集系统,建立预制叠合板尺寸检测数据集。通过YOLOv5算法实现对混凝土底板、预埋PVC线盒及外伸钢筋的识别,并以固定磁盒作为基准参照物进行尺寸检测误差分析,实现混凝土底板尺寸、预埋PVC线盒坐标的检测,在降低训练数据集参数规模的工况下保持较高的识别精度。结果表明:该方法可以有效检测预制叠合板的底板数量和尺寸、预埋PVC线盒数量和坐标,并实现弯折方向不合格的外伸钢筋检测,并能降低人工成本,提高检测精度,加快检测速度,提高预制叠合板的出厂质量。

结合算子选择的卷积神经网络显存优化算法

针对卷积神经网络训练中自动算子选择算法在较大的显存压力下性能下降的问题,将卸载、重计算与卷积算子选择统一建模,提出一种智能算子选择算法。该算法权衡卸载和重计算引入的时间开销与更快的卷积算子节省的时间,寻找卸载、重计算和卷积算子选择的调度,解决了自动算子选择算法性能下降的问题.实验结果表明,该智能算子选择算法比重计算-自动算子选择算法缩短了13.53%训练时间,比已有的卸载/重计算-自动算子选择算法缩短了4.36%的训练时间.

基于卷积神经网络的采摘机械臂无碰撞运动规划研究

介绍了卷积神经网络的基本结构及其工作原理,基于DH参数法建立了采摘机械臂运动模型,并设计了一套采摘机械臂无碰撞运动规划算法,旨在实现对采摘机械臂的精确控制。MatLab仿真试验表明:采摘机械臂在系统的驱动控制下,能够准确从起点移动到目标点,轨迹比较圆滑,且能以最优的圆弧路径避开障碍物,优化效果明显,能够满足采摘机器人作业需求,证实了该算法的稳定性和可靠性。

全尺度密集卷积U型网络的视网膜血管分割算法

针对视网膜图像中血管尺度跨度大、细小血管与背景高度相似导致误分割和未分割等问题,提出一种全尺度密集卷积U型网络的视网膜血管分割方法。为提取更复杂的特征信息,构建级联卷积融合密集块(cascade convolutional fusion dense blocks, CCF-DB)作为U型网络的编解码器用以提取视网膜血管的特征信息;在网络最底端嵌入混合注意力级联卷积密集块(mixed attention cascaded convolutional dense block, MACC-DB),进一步提升感受野,获取更高维的语义特征信息;在模型的解码部分采用全尺度的跳跃连接,捕获不同尺度下的血管特征信息,提升模型的分割精度。实验结果表明,在DRIVE数据集上,相比于U-Net、U-Net3+、SA-Unet、FR-Unet等算法,此算法的AUC值达到了98.26%,准确率为95.82%;在CHASE-DB1数据集上,此算法的AUC值达98.84%,准确率达96.66%。采用此算法进行视网膜血管分割,分割的精度和鲁棒性均有不同程度的提升,对细小血管分割达到了优良的效果。

联合收割机裂纹转子与滚动轴承故障诊断系统研究--基于卷积神经网络

首先,介绍了传统神经网络,在其基础上引出了改进的卷积神经网络;然后,搭建了转子和滚动轴承的动力学模型,对转子和轴承的裂纹模型进行分析研究;最后,实现了联合收割机裂纹转子与滚动轴承故障诊断系统。实验结果表明:基于卷积神经网络的诊断模型达到稳定识别精度的迭代次数更少,且识别精度更高,效果更好,证明了系统的可行性和可靠性。

深度复数轴向自注意力卷积循环网络的语音增强

单通道语音增强任务中相位估计不准确会导致增强语音的质量较差,针对这一问题,提出了一种基于深度复数轴向自注意力卷积循环网络(deep complex axial self-attention convolutional recurrent network,DCACRN)的语音增强方法,在复数域同时实现了语音幅度信息和相位信息的增强.首先使用基于复数卷积网络的编码器从输入语音信号中提取复数表示的特征,并引入卷积跳连模块用以将特征映射到高维空间进行特征融合,加强信息间的交互和梯度的流动.然后设计了基于轴向自注意力机制的编码器-解码器结构,利用轴向自注意力机制来增强模型的时序建模能力和特征提取能力.最后通过解码器实现对语音信号的重构,同时利用混合损失函数优化网络模型,提升增强语音信号的质量.实验在公开数据集Valentini和DNS Challenge上进行,结果表明所提方法相对于其他模型在客观语音质量评估(perceptual evaluation of speech quality,PESQ)和短时客观可懂度(short-time objective intelligibility,STOI)两项指标上均有提升,在非混响数据集中,PESQ比DCTCRN(deep cosine transform convolutional recurrent network)提高了12.8%,比DCCRN(deep complex convolutional recurrent network)提高了3.9%,验证了该网络模型在语音增强任务中的有效性.

基于Depth-wise卷积和视觉Transformer的图像分类模型

图像分类作为一种常见的视觉识别任务,有着广阔的应用场景。在处理图像分类问题时,传统的方法通常使用卷积神经网络,然而,卷积网络的感受野有限,难以建模图像的全局关系表示,导致分类精度低,难以处理复杂多样的图像数据。为了对全局关系进行建模,一些研究者将Transformer应用于图像分类任务,但为了满足Transformer的序列化和并行化要求,需要将图像分割成大小相等、互不重叠的图像块,破坏了相邻图像数据块之间的局部信息。此外,由于Transformer具有较少的先验知识,模型往往需要在大规模数据集上进行预训练,因此计算复杂度较高。为了同时建模图像相邻块之间的局部信息并充分利用图像的全局信息,提出了一种基于Depth-wise卷积的视觉Transformer(Efficient Pyramid Vision Transformer,EPVT)模型。EPVT模型可以实现以较低的计算成本提取相邻图像块之间的局部和全局信息。EPVT模型主要包含3个关键组件:局部感知模块(Local Perceptron Module,LPM)、空间信息融合模块(Spatial Information Fusion,SIF)和“+卷积前馈神经网络(Convolution Feed-forward Network,CFFN)。LPM模块用于捕获图像的局部相关性;SIF模块用于融合相邻图像块之间的局部信息,并利用不同图像块之间的远距离依赖关系,提升模型的特征表达能力,使模型学习到输出特征在不同维度下的语义信息;CFFN模块用于编码位置信息和重塑张量。在图像分类数据集ImageNet-1K上,所提模型优于现有的同等规模的视觉Transformer分类模型,取得了82.6%的分类准确度,证明了该模型在大规模数据集上具有竞争力。

基于卷积神经网络与Transformer的电能质量扰动分类方法

复杂电能质量扰动(power quality disturbances, PQD)的智能分类对于智能电网发展具有重要意义。扰动特征的提取与定位、模式识别与分类是电能质量扰动分类方法研究的难点。采用深度学习算法,将具有关注全局信息的Transformer与善于提取局部特征的卷积神经网络相融合,提出一种基于卷积神经网络(convolutional neural network, CNN)与Transformer的电能质量扰动分类方法,即CTranCBA。这种双深度学习模型分类方法主要是通过一维卷积神经网络提取电能质量扰动信号特征,利用Transformer自注意力机制引导模型关注序列中不同位置间的依赖关系,实现对扰动信号局部特征与全局特征的互补,克服了因感受野的限制而带来的识别不清、分类不准等问题。使用23种不同电能质量扰动信号,将CTranCBA与Deep-CNN、CNN-LSTM、CNN-CBAM方法进行比较。结果表明:该方法在分类准确率和抗噪性方面表现优异,可为电能质量扰动智能分类提供一种新的方法。

线卷积网络在二维线检测和三维线框重建中的应用

本文提出了一个线卷积网络,可以从图像中检测线段.通过预测每条线段的中心位置、长度和角度,该网络能够以端到端的方式检测线段.此外,根据线中心检测的特点,本文设计了一维旋转卷积模块,并通过分析,证明其满足等变性质.在实现上,本文采用改进的数据增强和非极大值抑制方法,有效的提高了线检测的性能.通过大量消融实验以及对比实验,本文提出的线卷积网络相比于当前最优算法HAWP,在精度上高出3个百分点,达到了当前最优.最后,将该方法应用于单张图三维线框重建任务,从可视化结果上看,明显优于之前的方法.

基于混合分组扩张卷积的玉米植株图像深度估计

【目的】研究面向玉米田间场景的图像深度估计方法,解决深度估计模型因缺少有效光度损失度量而易产生的精度不足问题,为田间智能农业机械视觉系统设计及导航避障等提供技术支持。【方法】应用双目相机作为视觉传感器,提出一种基于混合分组扩张卷积的无监督场景深度估计模型。设计一种混合分组扩张卷积结构及对应的自注意力机制,由此构建反向残差模块和深度估计骨干网络;并将光照不敏感的图像梯度和Gabor纹理特征引入视图表观差异度量,构建模型优化目标。以田间玉米植株图像深度估计为例,开展模型的训练和测试试验。【结果】与固定扩张因子相比,采用混合分组扩张卷积使田间玉米植株深度估计平均相对误差降低了63.9%,平均绝对误差和均方根误差则分别降低32.3%和10.2%,模型精度显著提高;图像梯度、Gabor纹理特征和自注意力机制的引入,使田间玉米植株深度估计平均绝对误差和均方根误差进一步降低3.2%和4.6%。增加浅层编码器的网络宽度和深度可显著提高模型深度估计精度,但该处理对深层编码器的作用不明显。该研究设计的自注意力机制对编码器浅层反向残差模块中不同扩张因子的卷积分组体现出选择性,说明该机制具有自主调节感受野的能力。与Monodepth2相比,该研究模型田间玉米植株深度估计的平均相对误差降低48.2%,平均绝对误差降低17.1%;在20 m采样范围内,估计深度的平均绝对误差小于16 cm,计算速度为14.3帧/s。【结论】基于混合分组扩张卷积的图像深度估计模型优于现有方法,有效提升了深度估计的精度,能够满足田间玉米植株图像的深度估计要求。

基于卷积神经网络的岩渣分类算法及其FPGA加速

全断面岩石掘进机在道路掘进过程中,刀盘挤压切削岩体容易产生刀盘磨损及损坏,从而造成经济损失,因此需要检测刀盘磨损的理论和技术来指导施工。岩渣是掘进过程的直接产物,携带丰富的信息,能够反映当前的施工状况,因此可以通过岩渣识别利用这些信息间接实现对刀盘的监测。提出了一种基于卷积神经网络的岩渣识别算法,在岩渣数据集上实现了96.5%的分类准确率。随后为了便于FPGA硬件部署,提出一种网络压缩方法,将网络规模压缩到原始网络的2.28%,同时分类准确率相比原网络仅下降了0.9%。最后使用OpenCL技术在Intel Arria 10 GX1150平台上实现了算法部署,达到了224.54 GOP/s的吞吐率以及11.23 GOP/s/W的能效比。

混合卷积神经网络用于高光谱小麦品种鉴别

不同品种的小麦满足了市场的不同需求,同时也会带来小麦品种混杂的风险。为了提高小麦品种的纯度进而提高选种、育种、加工等环节的经济价值,小麦种子的鉴别起到关键作用。传统的小麦品种纯度理化分析鉴别方法,鉴定时间长且破坏种子,已不能满足现代农业的迫切需要。高光谱成像作为近年来发展迅速的一种快速、高效、无损的新型鉴别技术,在种子品种鉴别领域取得了显著成效。然而,已有的大多数高光谱分类方法仅利用光谱信息,没有充分考虑空间信息,分类效果较差。为了解决上述问题,利用高光谱成像设备采集8个品种的小麦种子正背面的高光谱图像,基于这些高光谱数据集,提出一种基于注意力机制的混合卷积神经网络的高光谱小麦品种鉴别方法,主要利用三维卷积和二维卷积的互补优势特性提取小麦的有价值特征,进而提高小麦品种的鉴别效果。具体而言,首先提取小麦品种的感兴趣区域,并利用多元散射校正方法削弱由于散射水平差异带来的同一品种的光谱差异。同时,利用主成分分析方法减少三维数据的无用光谱波段,进而保留并压缩对鉴别小麦品种有价值的特征。随后,利用三维卷积获取空间维度和不同光谱间的特征信息,二维卷积获取空间信息和图像的自身固有的特征信息,并在二维卷积模型中引入注意力机制进一步增强图像的特征信息的提取。最后在全连接层实现同一区域不同小麦品种的鉴别。实验表明,所提出的方法比其他方法具有较好的分类性能,分类准确率达97.92%。此外,所提出的方法对小样本数据也具有较好的分类性能。总的来说,提出的方法对于高光谱小麦种子鉴别具有较好的有效性和鲁棒性,为小麦种子的在线鉴别提供了一种新的方法。

基于门控卷积生成对抗网络的西汉漆箱纹饰图案数字化修复研究

中国历史上漆器以其精美的纹饰技法闻名于世,针对古代漆器表面破损严重、纹饰信息大面积缺失的彩绘漆箱修复难题,提出了一种门控卷积生成对抗网络(GC-GAN)的古代漆箱表面图案修复方法.该方法采用门控卷积结构改进生成对抗网络模型,以提升模型对于图像中有效像素的学习能力并解决不规则大面积图像区域的高分辨率修复问题.在此基础上,首先对漆箱图案中的畸变、破损和缺失部分进行掩膜处理,然后使用GC-GAN生成掩膜区域的图案.针对漆箱纹饰图案样本数量少的问题,借助迁移学习思想,将模型在CelebA、SVHN等多种公共数据集上学习到的知识迁移到漆箱纹饰上.最终实现了“西安凤栖原西汉家族墓地”M1墓室中出土的大型木胎彩绘漆箱表面纹饰的数字化虚拟修复.

基于多尺度注意力机制的实例分割卷积神经网络

在Mask R-CNN实例分割模型的基础上提出一种新的深度学习方法MixedMask。该方法提出并应用两种有效的策略:(1)使用混合尺度的卷积核,提高网络对分辨率较低实例的提取能力;(2)在压缩激励网络的基础上进行改进,解决原网络中降低维度导致的通道信息丢失问题。在气球数据集和xBD数据集上进行测试,该算法分别达到了83.46%和58.92%的AP(IoU=50),相比Mask R-CNN模型,分别提升了1.3%和5.9%。

基于卷积神经网络与可视图像的类滑动放电模式识别

为了提高机器学习算法对类滑动放电模式识别的准确率,提出了一种基于卷积神经网络(convolutional neuralnetworks,CNN)与可视图像识别电晕放电、弥散放电和类滑动放电等模式的方法。通过选取气体体积流量0~16 L/min、电极间隙2~10 mm、脉冲频率0.5~3 kHz等不同条件下的类滑动放电图像构建图像库,搭建CNN模型并优化影响CNN识别性能的超参数,包括网络层数、全连接层(full connected layer,FC)神经元数、卷积核尺寸以及激活函数类型,最后比较了CNN与决策树(decision tree,DT)算法和随机森林(random decision forests,RF)算法的识别效果。结果表明,CNN识别准确率为100%,高于传统机器学习方法。此外,本文还给出了放电模式及条件参数,通过基于反向传播神经网络(back propagation neural networks,BPNN)的聚类分析算法识别弥散放电和类滑动放电,并且准确率为100%。

多尺度卷积结合Transformer的抑郁脑电分类研究

在通过深度学习模型进行抑郁症类脑电信号分析时,针对单一尺度的卷积存在特征提取不充分的问题和卷积神经网络在感知脑电信号全局依赖性方面的局限性,分别设计了多尺度动态卷积网络模块和门控Transformer编码器模块,并与时间卷积网络相结合,提出了混合网络模型(MGTTCNet)进行抑郁症患者和健康对照组的脑电信号分类。该模型首先通过多尺度动态卷积从空间域和频率域捕捉脑电信号的多尺度时频信息。其次通过门控Transformer编码器学习脑电信号中的全局依赖关系,其利用多头注意力机制有效增强网络表达相关脑电信号特征的能力。之后利用时间卷积网络提取脑电信号可用的时间特征,最后将提取的抽象特征输入到分类模块进行分类。在公开数据集MODMA上用留出法和十折交叉验证法对提出模型进行实验验证,分别取得了约98.51%和98.53%的分类准确率,相较于基线单尺度模型EEGNet,分类准确率分别提升了约1.89%和1.93%,F1值分别提升了约2.05%和2.08%,kappa系数值分别提高了约0.038 1和0.038 5;同时消融实验验证了文中设计的各个模块的有效性。

空频域结合的多尺度扩张卷积注意力数字水印

目的 将深度学习应用于数字水印,在隐藏信息的同时,不断提高图像的不可见性和鲁棒性,提出一种结合空间域和频率域的多尺度扩张卷积注意力数字水印算法(SF-ACA)。方法 SF-ACA算法的网络框架包含由ACA和SFE构成的生成器、解码器2个部分组成。其中,ACA网络中的MCA模块将3个不同扩张率的扩张卷积对载体图像以多尺度融合的方式进行特征提取,使载体图像能更有效地隐藏水印信息;SFE结合快速傅里叶卷积块,在空域和频域中通过不同大小的感受野捕获互补信息,更精准地获取水印的特征信息,增强了秘密信息的不可见性和鲁棒性。结果 本文提出的水印方法在隐藏与载体图像尺寸相等的三通道彩色图像时,PSNR值为38.81 dB,较UDH方法的PSNR值提高了7.78%。水印图像的隐藏容量是4096比特,该算法与UDH方法在Dropout、Gaussian噪声、JPEG攻击下,提取精度分别提升了5.38%、10.5%、1.65%,满足不可见性要求的同时实现了强鲁棒性。结论 本文方法在隐藏容量较大时,不可见性和鲁棒性都达到了较好的性能。

基于全卷积网络的复杂背景红外弱小目标检测研究

针对复杂背景红外弱小目标检测过程中存在的检测误差率高,检测时间过长等问题,提出基于全卷积网络的复杂背景红外弱小目标检测方法。分析复杂背景红外弱小目标检测的研究进展,找出不同方法的缺陷,采集红外图像,提取目标检测特征,并采用全卷积网络设计弱小目标检测的分类器,实现复杂背景红外弱小目标检测。实验结果表明,该方法的复杂背景红外弱小目标检测精度超过97%,具有较高的实际应用价值。