端到端增强卷积网络的视频人脸表情识别研究

视频人脸表情识别在无人驾驶、智慧医疗等多领域都有广泛应用。针对视频单帧特征提取存在信息损失的问题,提出单帧增强卷积网络,该网络采用浅层特征与深层特征融合实现特征增强,其中浅层特征为CNN中间层外延卷积模块实现浅层特征提取,深层特征为CNN网络最后一层融合空洞卷积和基于通道间注意力机制,实现特征通道重定位和强弱信息结合。又由于视频相邻帧存在相关性,提出多帧增强卷积网络,其采用帧间注意力机制,根据视频帧之间的相关性给视频帧打分从而得到视频的关键帧,继而实现多帧特征增强。最后对设计的模型在AFEW数据集、CK+数据集、SFEW数据集、FER数据集上进行验证,其中AFEW数据集上对视频表情识别的准确率从40.00%提升到45.19%,F1分数从0.31提升到0.3937。该网络模型不仅能应用于静态图像,而且能应用于动态视频,同时也能提高表情识别准确率,降低误差,从而提升识别效率。

基于特征融合的注意力增强卷积神经网络的航空发动机滚动轴承故障诊断方法

针对现有基于深度卷积神经网络的故障诊断方法只考虑对信息局部特征的提取、忽视全局信息的不足,将可以把握全局信息的注意力机制融入卷积层,使得注意力机制参数和卷积层参数参与网络的训练,提出一种注意力增强卷积神经网络的机械故障诊断方法。通过经验模态分解、变分模态分解和小波包分解的方法提取滚动轴承振动信号的高维特征模量;将特征模量组成多通道样本输入到注意力增强卷积神经网络中进行训练,利用网络对特征模量自适应地融合和选择,从而挖掘特征模量的隐式特征;使用Softmax分类器进行分类识别;通过训练好的网络对高转速下的滚动轴承进行故障诊断;利用不同信噪比的信号对所提方法进行测试,以验证网络的泛化能力和故障诊断效果。实验结果表明:该方法能准确、有效地对航空发动机滚动轴承不同故障的损伤程度进行分类识别。

通道注意力联合增强卷积U型网络的图像分割

为提升小目标图像分割性能,提出一种通道注意力联合增强卷积的改进U-Net网络。该网络以增强卷积模块丰富目标特征信息提取,结合通道注意力加强网络对目标特征的专注学习,从而更有效捕捉小目标对象的深层次特征。NIH数据集上的实验结果表明,提出网络在保证计算效率的同时,有效提升了Dice系数、召回率和精确率,能够更好地用于小目标图像分割。

增强区域全卷积网络下的炸点检测方法研究

野外大视场环境下的炸点检测常采用图像帧间差分的方法,但由于弹体落地后炸点分布的情况复杂,对密集炸点的检测成为了难点问题.针对该问题,将炸点图像经过整理、分类,构建了炸点检测的专用数据集.在此基础上,对R-FCN模型的特征提取网络、区域推荐网络、位置敏感池化层和分类回归层进行了分析与改进,提出了增强区域全卷积网络用于单帧目标检测,并针对现在盲目多次尝试取最优训练结果的训练方法,提出了一种基于剪枝的网络模型训练方法.在野外大视场炸点图像专用数据集上进行了对照实验,最终平均检测率为83.73%,检测率明显提高.在Pascal VOC数据集上与其他常用算法进行了对比实验,结果表明了该算法的有效性.

一种基于增强卷积神经网络的病理图像诊断算法

自动病理图像诊断是医学图像分析的一个重要课题,实现精确诊断的前提是提取健康与患病组织的形态特征。本文以深度神经网络为工具,提出一种增强卷积网络模型,通过训练一对互补的卷积神经网络,以优化病理图像诊断准确率。由于病理图像获取成本较高,为降低因训练样本数量有限造成的过拟合风险,算法首先训练基本网络,来估计病理图像中各局部组织患病的概率,之后训练另一异构网络,对基本网络的判决结果进行修正。实验在宾夕法尼亚州立大学动物诊断实验室提供的肾、肺、脾组织数据集与淋巴结癌症转移检测数据集上展开,实验结果表明所设计模型在不同器官的病理图像上均表现出较高的诊断准确率。

基于残差网络和深度可分离卷积增强自注意力机制的窃电识别

窃电行为严重危害着电力设备和人身安全,并造成重大经济损失.对窃电行为实现准确识别是供电企业降损增效的一项重要工作.在残差网络(residual network, ResNet)结构的基础上,将二维卷积神经网络与深度可分离卷积增强的自注意力(depthwise separable convolution enhanced self attention,DSCAttention)机制相结合并构建模型,用于提升窃电用户的正确分类.此外,由于窃电数据常存在缺失值、异常值和正负样本不平衡的问题,故采用补零法、分位数变换和分层拆分法对以上问题分别处理.在真实窃电数据集上进行了大量实验,实验结果表明,所提模型的AUC指标达到了91.92%, MAP@100指标达到了98.58%, MAP@200指标达到了96.77%.与其他窃电分类模型相比,所提模型在窃电分类任务上亦有很好的表现,可以在窃电智能化识别中推广使用.

带状地磁图匹配特征的小波与卷积算法增强处理

针对条带状区域地磁空间特征变化平缓,在环境噪声扰动下会降低地磁定位匹配概率的问题,在二维小波增强模型的基础上,通过优化低频特征的调节系数和阈值函数,构建了地磁图小波增强算法模型。选取不同适配性的条带地磁图,开展了地磁匹配特征增强试验,研究了地磁图的小波算法与卷积算法增强有效性。试验结果表明,改进的Sobel算子和Laplace算子卷积后可以增强地磁特征,但处理后地磁图存在一定程度的畸变。小波阈值增强处理能够有效增强区域地磁特征,提升地磁图区域适配性指标。在适配性较弱样本区域,小波增强后匹配概率提升到了90%,验证了小波阈值增强算法对提升地磁图适配性的有效性。

一种用于时空图像融合的增强深卷积模型

研究一种基于增强深卷积模型的时空图像融合算法。设置在多个视频探头和激光点云探头的数据支持下,使用四个增强卷积神经网络模块进行数据预处理,并将预处理数据使用多列神经网络整理,直接控制两侧履带和探头云台。当该神经网络训练时间超过150h时,机器人视觉自主驱动的行走运行效率达到工业化运行要求。

基于迭代增强变分模态提取的滚动轴承复合故障诊断

针对变分模态提取对多分量复合故障提取能力不足,且存在中心频率和平衡因子两个超参数优化等问题,提出了一种迭代增强变分模态提取(iterative enhanced variational mode extraction,IEVME)的滚动轴承复合故障诊断新方法。首先,提出引入中心频率趋势收敛现象优化VME的初始中心频率,使其能自适应寻找合适的初始中心频率进行提取并加入新的收敛准则对信号进行迭代提取的迭代变分模态提取方法(iterative variational mode extraction,IVME);然后,通过优化IVME的平衡因子得到多个分量信号,再利用图拉普拉斯能量指数选取最优分量进行重构;接着,为全面提取复合故障信号中的主要周期,提出了结合加强运算减去运算的增强最小噪声幅值解卷积(enhanced minimum noise amplitude deconvolution,EMNAD)方法,以降低噪声并增强相对较弱的周期信号;最后,通过融合平方包络谱实现对滚动轴承的复合故障诊断。将所提方法应用到滚动轴承复合故障诊断中,通过仿真和实例信号验证所提IEVME方法的有效性和鲁棒性,并将所提方法与现有多种方法进行对比,结果表明所提IEVME方法准确性更高,效果更优。

红外弱光下多特征融合与注意力增强铁路异物检测

针对红外弱光环境下铁路异物检测时存在目标特征提取不充分、检测精度及实时性低的问题,在CenterNet目标检测模型的基础上,提出了一种红外弱光下多特征融合与注意力增强的无锚框异物检测深度学习模型。在红外目标多尺度特征提取的基础上,引入自适应特征融合(ASFF)模块,充分利用目标高层语义与底层细粒度特征信息,提升红外目标特征提取能力。通过提出的空洞卷积增强注意力模块(Dilated-CBAM)进行关键特征提取,扩大注意力模块感受野范围,克服了原始CenterNet卷积块感受野映射区域变窄、无法检测弱小目标的问题,提升了无锚框网络的检测精度。使用Smooth L1损失函数进行训练,克服了L1损失函数在网络训练过程收敛速度慢及训练不稳定解的问题。通过铁路红外数据集及现场实验测试,结果表明:所提方法较原始CenterNet模型平均检测精度提高了8.03%,检测框置信度提升了31.23%,平均检测速率是Faster R-CNN模型的9.6倍,所提方法在红外弱光环境下能够更加快速准确地检测出铁路异物,主客观评价均优于对比方法。

基于ARIMA-TCN混合模型的高速铁路时间同步方法

列控系统作为高速铁路的核心系统,保持其系统的时间同步对于行车安全至关重要。针对现有时间同步方法易受时变上下行传输时延、随机时钟跳变等影响,导致主从时钟偏移估计不准确的问题,提出一种基于差分自回归移动平均-时域卷积神经网络(ARIMA-TCN)混合模型的高速铁路时间同步方法。首先,根据上下行链路传输速率的不对称比,建立高速铁路时钟的数学理论和实际观测模型。然后,使用拉依达准则识别处理跳变异常值,完成实际时间序列的预处理。再次,使用ARIMA模型平滑时间序列中不确定时延带来的噪声抖动,获得平稳的时间序列。最后,通过提出的注意力增强TCN模型进行预测补偿,完成时钟偏移的补偿校正。通过实验仿真,得到基站区间内位置、基站间距以及车速对高速铁路时间同步的影响性分析。实验结果表明:与对比方法相比,所提方法补偿后的均方根误差较最小二乘法减少了75%、较最大似然估计方法误差减少了44.4%,较BP神经网络方法误差减少了16.7%,验证所提方法具有更低的同步误差和更高的同步精度。

基于CB-Attention的JavaScript恶意混淆代码检测方法

当今JavaScript代码混淆方法日益多样,现有检测方法在对混淆代检测时会出现漏报和误报的情况,为解决该问题,提出一种基于CB-Attention的JavaScript恶意代码检测方法。由SDPCNN模型和BiLSTM+Attention模型构成,SDPCNN对短距离间的语义特征信息进行提取,BiLSTM+Attention获取JavaScript代码中长距离间的语义信息特征。为验证所提方法的有效性,将该方法与其它方法进行对比,对比结果表明,该方法具有较好的检测效果,F1-Score可达98.78%。

基于改进的辛周期模态分解的滚动轴承复合故障诊断方法

辛周期模态分解(symplectic period mode decomposition, SPMD)方法可以准确地提取周期脉冲分量,是一种有效的滚动轴承单一故障诊断方法。但在滚动轴承出现复合故障时,尤其是强背景噪声下,周期脉冲信号往往较微弱,使得SPMD难以提取出不同周期的脉冲分量,进而限制了其在复合故障诊断中的应用。对此,提出了改进的辛周期模态分解(improved symplectic period mode decomposition, ISPMD)方法。该方法首先采用求差增强技术和最小噪声幅值反卷积相结合的方法对信号进行降噪,增强周期脉冲,以准确估计故障周期;然后构造对应的周期截断矩阵,并通过辛几何相似变换和周期冲击强度获得辛几何周期分量;最后对残差信号采用迭代分解,进而得到不同周期的辛几何周期分量。试验结果表明,ISPMD能准确提取出周期脉冲分量,是一种有效的滚动轴承复合故障诊断方法。

用于智能电网电价预测的深度学习模型

针对机器学习方法在大型数据集上电价预测准确性低等问题,本文提出一种基于大数据时间序列的深度学习电价预测模型,用于智能电网的电价预测.该模型首先将收集到的数据进行预处理规范化,采用ReliefF算法和互信息(Mutual Information,MI)的混合模块进行特征选择,其次将改进后的特征赋予核主成分分析(Kernel Principal Component Analysis,KPCA)进行特征提取,最后采用增强卷积神经网络(Enhanced Convolution Neural Network,ECNN)对电价进行有效的预测.实验结果表明:与现有的基准方案相比,本文所提出的模型能够更好地预测智能电网电价,有助于智能电网更好地运行和规划发电.

基于改进深度置信网络的木板表面缺陷检测模型

为了提高木板表面缺陷检测精度,采用连续型深度置信网络(DBN)建立木板表面缺陷检测模型。首先,对待检测的木板图片进行关键特征提取,并建立DBN检测模型。然后,将木板图片特征输入DBN的多个受限玻尔兹曼机(RBM)层进行深度训练,从而利用DBN的深度优势来获得木板表面缺陷检测结果。最后,引入人工蜂群(ABC)算法对DBN的权重参数进行优化从而缩短训练时间。实例测试实验结果表明:选择学习速率为0.075时,ABC-DBN算法在划痕、刮痕、裂缝、崩缺4类样本集中的均方根误差(RMSE)均值性能更优。采用卷积神经网络(CNN)、快速区域卷积神经网络(Faster R-CNN)、自适应增强卷积神经网络(AdaBoost-CNN)和ABC-DBN算法分别进行检测准确率对比实验。结果显示,ABC-DBN算法检测准确率RMSE为5.067×10^(-2),是最优结果,Adaboost-CNN算法次之,CNN算法最差。

基于深度学习模型的图像识别应用研究

传统的图像识别主要是基于浅层神经网络,主要包括人工神经网络和支持向量机,然而这些浅层神经网络的特征提取能力有限。本文提出的增强卷积神经网络,通过将批量归一化层添加到卷积神经网络中既可以加快模型的运行效率、消除过拟合情况,还可提高识别准确率。本文实验基于MNIST数据集,大量的实验充分验证所提深度模型的识别能力。

基于AE-CNN的手势识别算法的探讨及实现

近年,深度学习的发展使得手势识别卷积神经网络取得了突破性进展,但现有基于卷积神经网络的手势识别方法仍存在收敛速度慢、识别率低等问题,因此手势识别很难取得较好成果。通过对CNN训练过程中误差产生的原因及其反馈模型的分析,提出了一种自适应增强卷积神经网络(Adaptively Enhanced Convolution Neural Network,AE-CNN)的识别算法。结果表明,文中算法不仅实现了分类特征的自适应增强,同时也提高了收敛速度和识别率。

基于GST-ECNN的运动想象脑电信号识别方法

在对脑电信号的解码研究中,存在着现有时频分析方法对高频信号处理能力有限,多通道信号信息冗余,常用卷积神经网络分类器ReLU激活函数受学习速率的影响较大,对不同层采用相同的正则化很难获得满意结果等问题。为此,提出了一种基于广义S变换特征提取和增强卷积神经网络分类相结合的方法,同时提出一种结合Relief算法和向前选择搜索策略的包裹式方法进行通道选择。结果表明,提出的方法利用较少的信号通道,具有更强的特征提取和分类的能力,在第Ⅳ届BCI的数据集I上取得最高98.44±1.5%的分类准确率,高于其他现有算法。该方法良好的分类性能不仅减少了计算消耗,也有效提高了分类准确率,对脑电信号特征提取和分类具有一定的参考意义。

基于增强迁移卷积神经网络的机械智能故障诊断

现有的基于深度迁移学习的智能诊断方法通常对源域和目标域特征对齐来减少两者分布差异,没有考虑源域类别决策边界对目标域特征匹配的影响,针对此不足,提出了一种增强迁移卷积神经网络(Enhanced transfer convolutional neural network,ETCNN)来改进机械设备在变工况下的诊断精度和泛化能力。为充分利用标签信息和提取高维特征,构建卷积神经网络和两个独立的分类器对源域数据分别训练,用于检测远离决策边界的目标域样本。为有效减少不同决策边界处样本的误匹配,进一步构建分类损失函数和分类器判别损失函数,并引入对抗训练策略,最大两个分类器的分类差异,同时最小化源域与目标域特征分布差异,实现目标域样本与源域样本自适应匹配,从而有效改进故障的分类性能。在滚动轴承数据集上对所提方法进行充分评估,并与其他三种深度迁移学习方法:域适配网络(Domain adaptive network,DAN),多层域适配网络(Multi-layer DAN,MLDAN),以及深度对抗卷积神经网络(Deep adversarial convolutional neural network,DACNN)进行充分比较,结果表明,所提方法不仅具有良好的分类能力和泛化能力,同时明显优于其他方法。

基于多尺度自适应特征聚合网络的ECT图像重建

针对深层卷积神经网络在电容层析成像图像重建过程中存在电容特征提取尺度单一、中间层特征利用率不高等问题,提出了一种多尺度自适应特征聚合网络模型。首先,利用堆叠的增强型选择核卷积模块设计了一种特征增强模块(FEM),并通过串联多个FEM自适应地提取电容向量多个尺度的特征信息,极大地减少了使用普通卷积所带来的伪影现象;其次,引入了一种特征聚合机制,采用长短残差连接加强了远近特征信息的相关性,解决了网络中间层特征利用不充分的问题。实验结果表明,与传统算法及卷积神经网络算法相比,所提方法在主观视觉效果和客观评价指标上都具有更好的性能,图像相关系数最高达到0.9629,图像相对误差降低至0.0530。