边缘信息增强的显著性目标检测网络

针对显著性目标检测任务中识别结果边缘模糊的问题,提出了一种能够充分利用边缘信息增强边缘像素置信度的新模型。该网络主要有两个创新点:设计三重注意力模块,利用预测图的特点直接生成前景、背景和边缘注意力,并且生成注意力权重的过程不增加任何参数;设计边缘预测模块,在分辨率较高的网络浅层进行有监督的边缘预测,并与网络深层的显著图预测融合,细化了边缘。在6种常用公开数据集上用定性和定量的方法评估了该模型,并且与其他模型进行充分对比,证明设计的新模型能够取得最优的效果。此外,该模型参数量为30.28 M,可以在GTX 1080 Ti显卡上达到31帧·s^(-1)的预测速度。

多区域注意力的细粒度图像分类网络

目前细粒度图像分类的难点在于如何精准定位图像中高度可辨的局部区域以及其他辅助判别特征。提出一种多区域注意力的细粒度图像分类网络来解决这个问题。首先使用Inception-V3对图像特征进行提取,通过重复使用注意力擦除的方法使模型关注次要特征;然后通过背景去除以及上采样的方法获取图像更精准的局部图像,对提取到的局部特征进行位置统计,并以矩形框的方式获取图像整体,减少细节信息丢失;最后对局部与整体图像进行更加细致的学习。此外,设计联合损失函数,通过动态平衡难易样本和缩小类内差距的方法改善模型的识别效果。实验结果表明,该方法在公开的细粒度图像数据集CUB-200-2011、Stanford-Cars和FGVC-Aircraft上的准确率分别达到89.2%、94.8%、94.0%,相较于对比方法性能更优。

融合卷积注意力和Transformer架构的行人重识别方法

行人重识别技术是智能安防系统中的重要方法之一,为构建一个适用各种复杂场景的行人重识别模型,基于现有的卷积神经网络和Transformer模型,提出一种融合卷积注意力和Transformer(FCAT)架构的方法,以增强Transformer对局部细节信息的关注。所提方法主要将卷积空间注意力和通道注意力嵌入Transformer架构中,分别加强对图像中重要区域的关注和对重要通道特征的关注,以进一步提高Transformer架构对局部细节特征的提取能力。在3个公开行人重识别数据集上的对比消融实验证明,所提方法在非遮挡数据集上取得了与现有方法相当的结果,在遮挡数据集上的性能得到显著提升。所提方法更加轻量化,在不增加额外计算量和模型参数的情况下,推理速度得到了提升。

基于相关函数和卷积神经网络的结构损伤识别

为了改善基于振动信号的结构损伤识别效果,提出一种基于相关函数和卷积神经网络相结合的结构损伤识别方法。以一铁路钢梁桥结构为例,首先通过对结构的振动响应进行自相关运算来提高振动信号的信噪比,再使用自相关样本作为卷积神经网络(convolutional neural network,CNN)的输入可以显著提高其识别精度,且当振动信号中的噪声水平越高时,自相关样本作为CNN输入的识别精度的提升效果越明显,且自相关运算具有比快速傅里叶变换(fast Fourier transform,FFT)更强的抗噪性。使用互相关函数对结构上布置的多传感器的数据进行融合,再将融合后的信号作为CNN的输入,互相关在对2个传感器数据特征有效融合的前提下可以成倍地削减数据集的维度,减少网络运算的参数量,从而减少用时提高训练效率,且互相关样本作为网络输入同样具有较高的识别精度和较强的抗噪性。

基于混合注意力机制的管道漏磁缺陷分类实验

该文将管道漏磁缺陷分类任务设计成应用型教学实验。该实验使用迁移学习的方法,调用预训练模型ResNet50,并插入主流的注意力机制(SE、CA、ECA、CBAM)进行对比分析。同时,利用Grad-CAM++可解释算法对模型内部的识别逻辑进行可视化,以便帮助学生更好地理解模型。实验结果显示,插入注意力机制的最优模型准确率达99.7%,能够有效识别管道中的正常情况和分类缺陷情况。该实验依托高性能计算机硬件和最新的Pytorch2.0软件包搭建了深度学习平台,有助于培养学生的创新意识和科研能力,也是对多学科交叉融合人才培养模式的探索和实践。

深度卷积网络在航空高光谱岩性识别中的应用——以塔木素铀矿床北部地区为例

岩矿信息识别是高光谱遥感在地质勘探领域的主要应用方向。传统高光谱遥感方法尽管在矿物识别中取得了良好效果,但对于岩性识别存在瓶颈。深度学习是当前人工智能领域的研究热点,卷积神经网络是适用于图像识别的重要网络架构。以巴音戈壁盆地西部塔木素铀矿床北部区域为试验区,以SASI航空高光谱影像为数据源,将深度卷积神经网络引入航空高光谱遥感岩性识别,测试和评估其应用效果。基于预处理后的SASI航空高光谱影像,以试验区地质图及野外调查为参考,制作了8类样本,包括:印支期花岗岩、华力西晚期花岗岩、华力西晚期花岗闪长岩、华力西中期石英闪长岩、石炭系碎屑岩、中下侏罗统火山凝灰岩、第四系沉积物和绢云母化蚀变岩。构建了基于光谱特征的一维卷积神经网络、基于图-谱联合特征的一维+二维卷积神经网络和三维卷积神经网络3种模型结构,分别进行模型训练、测试和试验区岩性分类应用。模型测试结果表明:一维卷积神经网络、一维+二维卷积神经网络和三维卷积神经网络的总体精度分别为82.13%、86.46%和90.90%。通过评价分析三种卷积神经网络模型的岩性分类识别结果,三维卷积神经网络的识别结果与真实参考最为接近,对试验区各类岩性的区分识别效果最优,一维+二维卷积神经网络的识别效果次之,表明利用卷积神经网络引入高光谱图像空间信息,进行图-谱特征的联合挖掘,有利于提高影像的识别精度和实际应用效果。同时,一维卷积神经网络和一维+二维卷积神经网络的识别结果因航空高光谱影像拼接后的条带效应,影响了它们的实际应用效果,而三维卷积神经网络较好地克服了这种影响,表明其对于大面积航空影像处理具有相对较好的应用前景。

基于机器深度学习的小麦播种机控制系统研究

针对我国小麦播种机自动控制系统的可靠性及灵敏度不高的问题,基于机器深度学习对小麦播种机的控制系统进行了设计和改进。小麦播种机的主要组成包括控制系统、排种系统、监控系统、电力系统、机架和驾驶室、覆土镇压和排肥装置。为了使播种机的控制系统能有效进行图像检测识别,提升播种机的控制精度,采用机器深度学习中的卷积神经网络算法对控制系统进行设计,并采用迁移学习的方式对模型进行训练和检测。为了验证播种机控制系统的性能,对其进行播种精度控制和播种性能测试试验,结果表明:播种机的精度和性能均符合播种机的设计要求。

基于M-Unet的混凝土裂缝实时分割算法

针对主流深度学习裂缝分割算法消耗大量计算资源、传统图像处理方法检测精度低、丢失裂缝特征等问题,为了实现对混凝土裂缝的实时检测和在像素级水平上分割裂缝,提出一种基于轻量级卷积神经络M-Unet的裂缝语义分割模型,首先对MobileNet_V2轻量网络进行改进,修剪其网络结构并优化激活函数,再用改进的MobileNet_V2替换U-Net参数量巨大的编码器部分,以实现模型的轻量化并提升裂缝的分割效果。构建包含5160张裂缝图像的SegCracks数据集对提出方法进行验证,试验结果表明:优化后的M-Unet裂缝分割效果优于U-Net、FCN8和SegNet等主流分割网络和传统图像处理技术,获得的IoU_Score为96.10%,F1_Score为97.99%。与改进前UNet相比,M-Unet权重文件大小减少了7%,迭代一轮时间和预测时间分别缩短了63.3%和68.6%,IoU_Score和F1_Score分别提升了5.79%和3.14%,并且在不同开源数据集上的交叉验证效果良好。表明提出的网络具有精度高、鲁棒性好和泛化能力强等优点。

基于改进二进制粒子群算法优化DBN的轴承故障诊断

针对滚动轴承故障振动信号非平稳性的特点,对二进制粒子群优化算法(binary particles swarm optimization,BPSO)和深度信念网络(deep belief network,DBN)进行研究,提出一种基于局部均值分解(local mean decomposition,LMD)和IBPSO-DBN的轴承故障诊断方法。提出用加权惯性权重改进BPSO迭代过程中的固定权重,再用改进BPSO优化DBN的隐含层神经元个数和学习率。该方法先对信号进行LMD,提取出各PF分量的散布熵和时域指标,并构建特征矩阵,然后把特征矩阵输入改进BPSO-DBN模型中训练,实现滚动轴承故障诊断和分类。采用试验轴承数据做验证并与其他诊断方法对比,结果表明,基于LMD和BPSO-DBN的滚动轴承故障诊断方法具有较好的故障识别率。

轴承变工况故障的域自适应迁移深度学习诊断

为了实现变设备、变工况条件下的轴承故障精确识别,提出了基于域自适应迁移深度卷积神经网络的诊断方法。对于具有不同分布特征(即不同域)的训练集和测试集,在深度卷积神经网络中构造了故障特征提取模块、域识别模块、标签分类模块,以特征提取模块与域识别模块对抗训练的方式实现域自适应迁移能力,使深度卷积神经网络能够有效提取不同域的共同特征参数。使用凯斯西储大学和智能维护系统中心数据设计了4组迁移实验,传统深度卷积神经网络的识别精度均值为64.5%,域自适应迁移卷积神经网络的识别精度均值为94.9%,充分说明了域自适应迁移深度卷积神经网络能够有效识别变设备、变工况条件下的轴承故障。

融合多小波分解的深度卷积神经网络轴承故障诊断方法

针对卷积神经网络及其与信号降噪预处理集成方法面临高噪声环境和低质量数据挑战时难以有效地提取信号有用特征的问题,提出了一种融合Geronimo-Hardin-Massopust多小波分解的深度卷积神经网络模型(GHMMD-DCNN)。该模型思想是将多小波包分解与卷积神经网络深度融合,即设计多个一级多小波分解层以提取信号的低频分量和高频分量,再将多个一级多小波分解层与卷积层交替联接,使模型能够多尺度地提取并学习信号有用的时频域信息,信号分解和特征学习交替执行,进而实现强噪声鲁棒特征提取。在不同工况下的航空高速轴承振动数据上进行测试,结果表明:所提模型训练时能够快速达到稳定收敛,并且识别准确率均能达到99.9%以上;提出的方法在强噪声干扰下的故障辨识准确度和识别稳定性均优于对比方法,验证了其优秀的抗噪声干扰能力;在少训练样本测试中,提出的方法在单类训练样本数量为60时的平均诊断准确率高达91.19%,相比于其他方法最低提升了13.19%,验证了GHMMD-DCNN模型具有更优的低样本泛化能力。

神经架构搜索综述

近几年,深度学习因具有强大的表征能力,已经在许多领域中取得了突破性的进展,而神经网络的架构对它的性能至关重要。然而,高性能的神经网络架构设计严重依赖研究人员的先验知识和经验,神经网络参数量庞大,难以设计最优的神经网络架构,因此自动神经架构搜索(NAS)获得了极大的关注。NAS是一种使用机器学习的方法,可以在不需要大量人力的情况下,自动搜索最优网络架构的技术,是未来神经网络设计的重要手段之一。NAS本质上是一个搜索优化问题,通过对搜索空间、搜索策略和性能评估策略的设计,自动搜索最优的网络结构。从搜索空间、搜索策略和性能评估策略这3个方面详细且全面地分析、比较和总结目前NAS的研究进展,方便读者快速了解神经架构搜索的发展过程和各项技术的优缺点,并提出NAS未来可能的研究发展方向。

时频域多尺度交叉注意力融合的时间序列分类方法

针对时间序列子序列间的潜在信息交互不足导致分类准确率低的问题,提出时频域多尺度交叉注意力融合的时间序列分类方法TFFormer(Time-Frequency Transformer)。首先,将原始时间序列的时频域谱分别划分为等长子序列,经线性投影后加入位置信息解决时间序列的点值耦合问题;其次,通过改进的多头自注意力(IMHA)模块使模型关注更重要的序列特征,解决长时间序列的前后依赖问题;最后,构造多尺度时频域交叉注意力(CMA)模块增强时间序列在时域和频域之间的信息交互,使模型进一步挖掘序列的频域信息。实验结果表明,在Trace、StarLightCurves和UWaveGestureLibraryAll数据集上,相较于全卷积网络(FCN),所提方法的分类准确率分别提高了0.3、0.9和1.4个百分点,验证了通过增强时间序列时域和频域间的信息交互,可以提高模型收敛速度和分类精度。

典型神经网络串联型电弧故障检测及选线方法研究

为解决传统特征分析加机器学习的电弧故障检测方法的准确率和实时性受到特征参数选取的主观性及特征分析过程的影响问题,搭建了三相多负载并联的串联型电弧故障实验系统,对不同支路、不同相发生电弧故障时的干路电流信号时间序列进行分析。将电流信号进行分类、分段、标准化处理并作为检测模型样本;对深度卷积神经网络模型、长短期记忆网络模型、普通神经网络模型进行架构及训练;通过差分处理对网络模型在线分类结果进行优化分析;以准确度和损失函数值、在线测试速度、优化后多分类识别准确率为评价指标,对比分析了3种模型故障检测及选线效果。研究结果表明:基于深度卷积神经网络的串联型电弧故障检测及选线模型对电机类负载故障检测及选线准确率可达96.77%,对变频器类负载故障检测及选线准确率可到98%,准确率高于近几年其他三相回路电弧故障检测模型。

基于深度卷积神经网络的频高图特征提取研究

本文提出了一种利用深度卷积神经网络的频高图特征提取方法,在频高图不同层回波信息标记的基础上,构建包含降采样部分和上采样部分的频高图回波识别网络模型,实现了频高图不同回波信息自动识别.利用试验获取的频高图数据,通过人工对频高图中电离层不同层的回波信息分别标记,生成网络模型样本数据集.以随机方式,选取样本数据集80%的数据作为训练数据,其余数据作为测试数据.经网络模型训练和测试,结果显示网络模型能够自动有效地识别测试频高图中不同层的回波信息.在此基础上,结合数字图像处理中的腐蚀算法和连通域思想,针对性地设计滤波器,滤除已识别回波信息中的噪声、干扰、多跳回波,能够实现测试频高图特征参数的有效提取.并且通过与传统方法比较,该方法特征提取精度整体上优于传统方法,可为频高图特征的自动、精确提取提供一种新的技术方法.

GCN引导模型视点的光学遥感道路提取网络

在光学遥感图像中,道路易受遮挡物、铺装材料以及周围环境等多重因素的影响,导致其特征模糊不清。然而,现有道路提取方法即使增强其特征感知能力,仍在特征模糊区域存在大量误判。为解决上述问题,本文提出基于GCN引导模型视点的道路提取网络(RGGVNet)。RGGVNet采用编解码结构,并设计基于GCN的视点引导模块(GVPG)在编解码器的连接处反复引导模型视点,从而增强对特征模糊区域的关注。GVPG利用GCN信息传播过程具有平均特征权重的特性,将特征图中不同区域道路显著性水平作为拉普拉斯矩阵,参与到GCN信息传播从而实现引导模型视点。同时,提出密集引导视点策略(DGVS),采用密集连接的方式将编码器、GVPG和解码器相互连接,确保有效引导模型视点的同时缓解优化困难。在解码阶段设计多分辨率特征融合(MRFF)模块,最小化不同尺度道路特征在特征融合和上采样过程中的信息偏移和损失。在两个公开遥感道路数据集中,本文方法IoU分别达到65.84%和69.36%,F1-score分别达到79.40%和81.90%。从定量和定性两方面实验结果可以看出,本文所提方法性能优于其他主流方法。

一种结合神经网络和敏感位置语义的轨迹隐私保护方法

目前,现有的轨迹隐私保护工作大多数考虑的是敏感位置或敏感区域,未能考虑到敏感位置语义且未能精准的描述出位置语义的敏感程度.针对此问题,本文提出了一个TP-SLS(A trajectory privacy protection method combining neural networks and sensitive location semantics)方法.首先,提出了敏感度感知算法,用于量化位置语义敏感度,实现“原子化”保护.其次,为了构建用户的敏感移动场景,建立了一个包含时空信息和位置语义敏感度的四元组并使用差分隐私进行干扰.同时,使用深度神经网络预测轨迹.最后,由于预测的轨迹存在废数据,提出了基于强化学习的优化轨迹算法,用于提高数据质量,完成轨迹数据发布.实验结果表明,TP-SLS方法在隐私保护强度和数据可用性两个方面优于现有的方案.

基于深度卷积神经网络的电力系统故障预测

通过对深度卷积神经网络的深入研究,提出基于深度卷积神经网络的电力系统故障预测方法,保障系统安全运行。采用广域测量系统测量每个支路与节点,将获得的功率与关键特征值分别作为深度卷积神经网络模型输入、输出,训练这2个数据,并使用深度卷积神经网络AlexNet分析输入数据与输出数据的映射关系,建立基于深度卷积神经网络的电力系统故障预测模型,通过特征值分组、振荡模式筛选、数据预处理、模型训练和模型评估,实现电力系统运行状态评估,完成电力系统故障预测。实验结果说明:该方法的关键特征值计算结果与实际结果基本一致,可靠性高;使用正则化可提升模型泛化效果,防止模型过拟合;与其余方法的准确率和误报率指标相比,所提方法的准确率高达99.52%,误报率为1.16%,综合评价指标较高,评估效果优势显著。

基于机器学习的语音增强技术

主要研究基于机器学习的语音增强技术,以提升语音信号的质量。首先,介绍基于机器学习的语音增强系统框架。其次,详细探讨谱减法与深度神经网络(Deep Neural Network,DNN)相结合的语音增强方法的数学原理。最后,采用NOISEX-92数据集测试与评估提出的方法。实验结果表明,基于谱减法与DNN的语音增强方法在提升信噪比和语音清晰度方面取得显著的效果,能够有效提升语音通信质量。

基于点云反射特性的前方道路附着系数估计方法研究

路面附着系数是影响自动驾驶系统决策控制策略的重要因素。为实现对道路附着系数前瞻性的高精度感知,本文基于车载激光雷达设计了一种新的路面附着系数估计方法。首先采集了干燥柏油路面、混凝土路面、湿滑柏油路面、结冰路面和积雪路面构建道路数据集;基于使用布料模拟滤波和RANSAC算法进行了道路点云提取、基于高斯滤波去除反射率异常噪点;根据点云反射率随距离和入射角变化的规律将路面划分为不同区域分别提取特征;基于深度神经网络构建了道路识别模型,并基于采集数据集进行了训练,最后基于路面材质和峰值附着系数的统计经验确定了前方道路的附着系数。测试结果表明,本文提出的算法道路类型辨识精度超过99.3%,算法平均运行周期55ms,可实现实时高精度的路面峰值附着系数估计。