改进GAN结合SDAE的传动系统主轴承故障诊断

针对传动系统主轴承故障诊断准确率低的问题,结合辅助分类器生成对抗网络(ACGAN)与堆叠降噪自编码器(SDAE),提出一种ACGAN-SDAE的故障诊断方法。通过ACGAN生成高质量的新样本,以扩充传动系统主轴承故障样本量的大小,并利用SDAE从含噪样本中提取鲁棒性特征,提高了故障诊断的准确率。仿真结果表明,ACGAN-SDAE故障诊断方法可有效诊断不同故障样本量下的传动系统主轴承故障,具有良好的域自适应性和抗噪性能,平均故障诊断准确率达到90%以上,相较于SDAE、SVM、MLP常用故障诊断方法,具有一定的优越性。

基于MHA与SDAE的Tor网站指纹识别模型

为解决Tor网站指纹识别技术在开放世界准确率低及概念漂移问题,文章提出一种基于MHA与SDAE的网站指纹识别模型一MHA-SDAE-GRU。首先将网站流量处理成序列格式;然后利用多头自注意力机制捕获输入数据的关键信息,并用堆叠降噪自编码器学习流量中的深层特征,增强模型的鲁棒性,通过GRU学习序列的前后关系;最后用Softmax函数输出结果。实验结果表明,MHA-SDAE-GRU模型在封闭世界的准确率高于CUMUL等算法,在开放世界的准确率和鲁棒性均优于CNN等算法,在概念漂移实验中对新数据的适应性优于CNN等算法。MHA-SDAE-GRU模型在网站指纹识别上具有优秀的表现。

基于SDAE和GRUNN的行星齿轮故障识别

针对噪声环境和时变转速工况下行星齿轮故障识别率低的问题,提出一种基于堆叠消噪自动编码器(SDAE)和门控循环单元神经网络(GRUNN)的行星齿轮故障识别方法。构建基于SDAE和GRUNN的混合模型,处理前后关联的时序数据,自动地从含噪样本中提取鲁棒故障特征;将行星齿轮故障诊断的训练样本看作该混合模型的输入数据,采用Adam优化算法和dropout技术训练该混合模型,实现多参数的优化,防止过拟合现象的发生;根据训练后的混合模型,利用softmax分类器识别待诊样本中行星齿轮的状态。通过行星齿轮的故障识别实验验证该方法的有效性,实验结果表明该方法具有较强的抗噪能力和时变转速适应能力。

结合SDAE网络和ODB学习策略的多目标视觉跟踪

针对目标视觉跟踪过程发生的目标漂移和错误匹配问题,提出一种基于SDAE(stacked DAE,堆叠去噪自编码器)网络和在线Deep Boost学习(Online Deep Boost,ODB)策略的多目标视觉跟踪算法.该方法首先在SDAE网络上通过ODB方法学习目标的局部-全局特征.然后根据特征权重结合粒子滤波器和soft-max分类器跟踪目标并对其分类,得到目标最相似的状态值.最后引入时间信息得到目标外观的动态持续时间,在线更新模型以适应目标的外观变化.实验表明,该算法能够有效适应目标外观变化,解决目标漂移现象,多目标准确率MOTP达到97.61%,较同类算法提高2.89%,其鲁棒性、稳定性也有所提高.

基于SDAE-BP的联合收割机作业故障监测

为了解决联合收割机作业故障的非线性特征信号难以提取的问题,该研究提出了一种基于堆叠去噪自动编码器(Stack Denoising Auto Encoder,SDAE)和BP神经网络(Back Propagation,BP)融合的联合收割机作业故障监测及诊断的方法(SDAE-BP)。以转速传感器采集联合收割机脱粒滚筒转速、籽粒搅龙转速、喂入搅龙转速、杂余搅龙转速、风机转速、输送链耙转速、割刀频率以及逐稿器振动频率,并将采集的数据集作为系统的输入。利用SDAE提取输入信号的深层次特征,并由BP神经网络辨识收割机作业状态,实现联合收割机故障监测。在SDAE-BP模型训练过程中,去噪自动编码器(Denoising Auto Encode,DAE)依次经带有不同分布中心噪声的原始数据进行训练,然后将其堆叠,并通过误差反向传播算法对模型参数进行优化,以提升模型识别故障性能和泛化能力。试验结果表明,对于2018年联合收割机田间试验数据,模型的故障诊断准确率达到99.00%,与SDAE和BP神经网络相比,分别提高了1.5和4.5个百分点。将SDAE-BP故障诊断模型用2019年的试验数据进行更新,并用2018年和2019年试验数据进行测试,结果表明,更新后的模型对2018年试验数据的故障识别准确率为99.25%,对2019年试验数据的故障识别准确率为98.74%,更新后模型在2019试验数据集上的故障识别准确率较未更新模型提高了6.52个百分点。该文所建模型能够准确识别联合收割机的故障类型,且具有较好的鲁棒性,对旋转型机械故障监测及预警具有参考价值。

结合信任机制与SDAE改进的CF算法研究

为了解决推荐系统中用户评分矩阵稀疏与项目之间没有共同用户评分无法计算相似性的问题,提出结合信任机制与SDAE改进的CF算法。首先,根据信任的性质,扩充用户间的信任关系,将信任度融合到传统的推荐算法中;然后,将融合信任机制的协同过滤算法预测评分与改进的SDAE预测评分相结合,并将其作为改进算法的最终预测评分,产生Top⁃N推荐列表。在MovieLens_100k和MovieLens_1M上的实验结果表明,该算法在预测准确度上有一定程度的提高,从而可以对用户进行更精准的推荐。

面向不平衡数据和特征冗余的网络入侵检测

为了解决传统方法因数据不平衡及特征冗余而导致检测准确率不高的问题,提出了一种结合SMOTE(synthetic minority over-sampling technique)算法采样的SDAE-LSTM(stacked deep auto-encoder-long short term memory)入侵检测模型。首先,针对数据不平衡问题,采用SMOTE算法在少数类样本点之间随机插入样本增加其数量,达到类间平衡的目的。其次,针对特征冗余问题,利用堆叠式深度自编码器(stacked deep auto-encoder,SDAE)进行降维,实现数据的深度特征提取。最后,基于长短期记忆(long short term memory,LSTM)神经网络,精准捕获网络入侵特征,准确地实现入侵检测。通过在UNSW-NB15数据集上的大量实验,有效证明了本文模型与其他模型相比有着更好的入侵检测效果。

基于SDAE编码器和梯度提升树的网络入侵检测方法

随着网络应用技术的飞速发展,网络安全隐患与日俱增,大规模的网络攻击事件时常发生,对网络安全技术的发展提出了更高的要求。针对现有网络入侵检测方法在处理高维度的海量非线性数据时存在的检测性能低、误检率高等问题,提出了一种基于栈式去噪自动10编码器(Stack Denoising Auto-Encoder,SDAE)和梯度提升树(Gradient Boosting Decision Tree,GBDT)的组合式入侵检测模型(SDAE-GBDT),利用SDAE编码器提取网络流量数据的深层特征,结合GBDT的良好分类性能实现高准确率的入侵检测。

基于堆叠式降噪自动编码器和深度神经网络的风电调频逐步惯性智能控制

风电调频的逐步惯性控制(SIC)策略在负荷波动后提供一个阶跃式功率增发,能够有效阻止系统频率下降,保障电网频率安全.但在其功率恢复阶段,容易出现二次频率跌落现象,需优化SIC以获得更好的调频效果.传统方法存在计算维度高和耗时较长的弊端,难以满足不同场景下快速提供最优控制效果的需求.为实现负荷扰动事件下风电调频的最优逐步惯性快速控制,引入深度学习算法,提出一种基于堆叠式降噪自动编码器(SDAE)和深度神经网络(DNN)的风电调频逐步惯性智能控制方法.首先,使用麻雀搜索算法获得最优参数,使用SDAE高效提取数据特征;随后,基于DNN对数据特征进行学习,并引入加速自适应矩估计优化网络参数,提升网络全局最优参数;最后,应用SDAE-DNN联合方法实现扰动事件后风电调频的逐步惯性在线控制.在IEEE 30节点测试系统中分别对单台风力机和风电场进行仿真分析,与传统方法、浅层反向传播神经网络及原始DNN所得结果对比发现,所提网络结构具有更优的预测精度和泛化能力,该方法能够实现良好的逐步惯性调频效果.

基于数据增强与流数据处理的Tor流量分析模型

Tor流量分析技术为打击利用Tor匿名通信工具从事的暗网犯罪活动提供了技术支撑,但目前存在数据难于收集、数据集不平衡、模型抗概念漂移能力差等问题。提出一种结合堆叠去噪自编码器和在线序列极限学习机的Tor流量分析模型。对原始Tor PACP包进行分割、去噪处理并提取特征序列。在此基础上,将一维序列转化为可视化灰度图并输入改进多尺寸深度卷积生成对抗网络,生成Tor流量样本以平衡数据集,利用堆叠降噪自动编码器进行序列降维并将特征输入在线序列极限学习机实现Tor匿名流量的在线流识别。实验结果表明,改进多尺寸深度卷积生成对抗网络可用于提升数据集质量并提高模型识别率约2.8个百分点,结合在线序列极限学习机和堆叠去噪自编码器的流量分析模型准确率可达95.7%,识别效率较传统卷积神经网络和长短期记忆网络模型有较大提升。

基于深度稀疏降噪自编码网络的局部放电模式识别

由于变电站现场局部放电检测易于受到各类干扰的影响,造成检测数据中存在噪声,使数据中信号特征不明显,因此传统的基于统计特征的模式识别方法在应对现场检测数据时识别率较低。提出了一种基于深度稀疏降噪自编码器网络的模式识别方法。对试验检测出的典型特征图谱,利用深度稀疏降噪自编码器进行主动染噪学习训练,最后得到可以有效去噪的深度特征提取模型,并利用Softmax分类器输出识别结果。利用在变电站现场实测数据对方法进行验证,并与传统的识别方法进行对比,证明方法对含有噪声的局部放电信号有更好的识别效果。

基于栈式去噪自编码器的遥感图像分类

针对传统遥感图像分类方法难以取得更高精度的问题,提出一种根据深度学习思想的基于栈式去噪自编码器的遥感图象分类方法。首先,将多个去噪自编码器栈式叠加构成深度网络模型,用无监督的layer-wise方法由下至上训练每一层网络并在训练数据中加入噪声以得到更为稳健的特征表达;然后,通过反向传播(BP)神经网络对特征进行有监督学习并利用误差反向传播对整个网络参数进行进一步优化得到最终的模型;最后,利用国产高分一号遥感数据进行实验验证。基于栈式去噪自编码器的遥感图像分类方法的总体分类精度和kappa精度分别达到95.7%和95.5%,均高于传统的支持向量机(SVM)和BP神经网络的分类精度。实验结果表明,所提出的方法能有效提高遥感图像的分类精度。

基于贝叶斯优化的SWDAE-LSTM滚动轴承早期故障预测方法研究

针对滚动轴承的早期故障特征较弱,在强噪声背景下难以有效提取以致生命周期很难准确预测的问题,提出了一种基于贝叶斯优化(BO)的滑动窗堆叠去噪自编码器(SWDAE)和长短期记忆(LSTM)网络的早期故障预测模型。使用滑动窗算法保留具有非线性特征和时序特征的历史正常数据,输入到模型中进行训练,使模型学习滚动轴承的正常运行状态趋势。将滚动轴承运行的数据输入到训练好的SWDAE-LSTM模型中进行实时在线监控,利用模型的预测值与真实值的残差检测滚动轴承早期故障。针对模型超参数组合选择困难的问题,使用贝叶斯优化算法对模型的超参数进行调优。最后,使用美国辛辛那提大学智能维护中心(IMSCenter)的轴承全生命周期数据以及机械故障综合模拟实验装置获取的数据进行仿真实验验证。结果表明,使用贝叶斯优化算法进行智能调参的模型和基于时域指标的方法对比,可以更早的有效检测出滚动轴承的早期故障并具有很强的鲁棒性。与其余深度学习方法比较,其模型的诊断准确率高于其他方法,进一步证明了其有效性和可靠性。

基于深度学习的概率能量流快速计算方法

考虑新能源日益增长的不确定性,概率能量流在电–气综合能源系统分析中起到关键性作用。概率能量流计算需要求解大量高维非线性方程组。高计算代价和求解时间已成为概率能量流实际工程应用的瓶颈所在。为此,该文提出了利用深度神经网络求解该问题的新方法。该方法借助堆栈降噪自动编码器(stacked denoising auto-encoders,SDAE)的深层堆栈结构以及编码解码过程,建立了基于SDAE的能量流模型,可有效挖掘非线性能量流方程的高阶特征。结合能量流输入输出性质不同、变化范围不一等数值特点,在SDAE模型中引入了修正线性单元(rectifiedlinearunit,ReLU)激活函数与离差标准化方法,可有效提高训练精度与速度。结合蒙特卡洛法抽样出待解样本,使用训练后的SDAE能量流模型,通过数据映射得到抽样样本的能量流结果,在不增加硬件成本的前提下求解概率能量流,求解时间和精度符合在线应用要求。最后,在IEEE14-NGS10电–气综合能源系统中验证了所提方法的有效性。

基于稀疏降噪自编码器的深度置信网络

传统的深度置信网络(DBN)采用随机初始化受限玻尔兹曼机(RBM)的权值和偏置的方法初始化网络。虽然这在一定程度上克服了由BP算法带来的易陷入局部最优和训练时间长的问题,但随机初始化仍然会导致网络重构和原始输入的较大差别,这使得网络无论在准确率还是学习效率上都无法得到进一步提升。针对以上问题,提出一种基于稀疏降噪自编码器(SDAE)的深度网络模型,其核心是稀疏降噪自编码器对数据的特征提取。首先,训练稀疏降噪自编码;然后,用训练后得到的权值和偏置来初始化深度置信网络;最后,训练深度置信网络。在Poker Hand纸牌游戏数据集和MNIST、USPS手写数据集上测试模型性能,在Poker Hand数据集下,方法的误差率比传统的深度置信网络降低46.4%,准确率和召回率依次提升15.56%和14.12%。实验结果表明,所提方法能有效地改善模型性能。

基于深度学习的盲文识别方法

提出一种基于深度学习的盲文点字识别方法,利用深度模型——堆叠去噪自动编码器(Stack Denoising Auto Encoder,SDAE)解决盲文识别中特征的自动提取与降维等问题。在构建深度模型过程中,采用非监督贪婪逐层训练算法(Greedy Layer-Wise Unsupervised Learning Algorithm)初始化网络权重,使用反向传播算法优化网络参数。利用SDAE自动学习盲文点字图片特征,使用Softmax分类器进行识别。实验结果表明,本文所提方法较之传统方法,可以有效解决样本特征的自动学习与特征降维等问题,操作更为简易,并能获得满意的识别结果。

融合评分和社会化标签的两阶段深度推荐方法

当前融合评分和标签的推荐方法对两种数据的挖掘程度有限,且大多数局限在提取浅层的线性特征层面。深度学习技术被成功应用于推荐方法,然而数据的稀疏性导致学习的潜在特征效果不好,因此,提出一种融合评分和社会化标签的两阶段深度推荐方法。首先,利用堆叠降噪自编码器分别从评分和社会化标签中提取用户、项目的潜在特征;其次,将学习的潜在特征进行拼接作为用户、项目完整的潜在特征,并与原始评分相结合构建监督学习数据集;最后,将构建的数据集作为BP神经网络的输入以训练评分预测模型。为降低训练误差,通过联合训练的方式进行参数学习。基于MovieLens、Last.FM数据集的实验表明,该方法与几种基准方法相比有更好的推荐性能。

基于无监督栈式降噪自编码网络的显著性检测算法

针对现有的显著性检测算法检测目标类型单一、通用性差的问题,提出一种基于无监督栈式降噪自编码网络的显著性检测算法.该算法利用无监督栈式降噪自编码网络(Stacked Denoising Auto Encoder,SDAE)在多个尺度对原始图像进行稀疏重构,将原始图像与SDAE网络重构图像之间的差作为显著图,二值化后的显著图作为显著性目标检测结果.在SDAE网络训练过程中,将原始图像作为原始数据,网络重构的图像作为观察数据.为了提升网络训练效率,首先利用无监督逐层贪婪方法训练同结构的深度信念网络(Deep Belief Network,DBN),将训练得到的DBN网络参数设为SDAE网络的初始参数,再计算原始数据与观察数据之间的互信息作为网络收敛代价,利用反向传播进行网络参数微调.实验表明,该网络模型可以完成多类型目标的显著性检测,具有通用性好,准确度高等优点.

多深度学习模型决策融合的齿轮箱故障诊断分类方法

针对齿轮故障诊断中单一传感器采集信息不完全、容错性不佳及一种神经网络模型具有局限性,传统信号处理技术提取特征困难等问题,提出了多深度学习模型决策融合的齿轮箱故障诊断分类方法,构建了基于卷积神经网络(convolutional neural networks,CNN)和改进堆叠降噪自动编码器(stacked denoising autoencoders,SDAE)的混合网络模型,根据改进的Dempster-Shafer(D-S)证据理论实现决策级融合诊断。以时频信号作为CNN的输入,以频域信号作为SDAE的输入,采用Adam优化算法和dropout、批量归一化技术训练该混合模型。实验结果表明:利用该融合方法对齿轮进行故障诊断相比单个的网络模型CNN和SDAE诊断正确率有所提高,为齿轮故障智能诊断分类提供了新路径。