基于堆叠稀疏去噪自动编码网络与多隐层反向传播神经网络的铣刀磨损预测模型

刀具磨损状态是机械加工过程中需考虑的重要因素之一。针对铣刀磨损的在线预测问题,建立了一种基于深度学习的铣刀磨损预测模型。首先,将采集到的铣刀切削时的振动信号进行小波去噪后,利用快速傅里叶变换和小波包分解等技术提取时域、频域及时频域上的特征参数,并根据相关性分析从中筛选出合格的特征参数合并为特征向量,以此作为堆叠稀疏去噪自动编码网络(SSDAE)的含噪样本。其次,利用特征后处理的方式对已经筛选出的特征参数进行单调不递减及平滑处理,并将其作为SSDAE的无噪样本来训练该网络。然后,将经过SSDAE降维后的特征向量作为多隐层反向传播神经网络(BPNN)的输入,以这些特征对应的实际铣刀的磨损量作为标签对该网络进行拟合训练。最后,对训练好的模型进行实验验证,通过测试数据集和人为加入噪声的测试数据集的对比,结果显示所提模型不仅具有较高的预测精度,还具有较高的鲁棒性。

基于改进堆叠自动编码机的垃圾邮件分类

针对堆叠自动编码机（SA）容易产生过拟合而降低垃圾邮件分类精度的问题,提出了一种基于动态dropout的改进堆叠自动编码机方法。首先分析了垃圾邮件分类问题的特殊性,将dropout算法引入到堆叠自动编码机算法中;同时,根据传统dropout算法容易使部分节点长期处于熄火状态的缺陷,提出了一种动态dropout改进算法,使用动态函数将传统静态熄火率修改为随着迭代次数逐渐减小的动态熄火率;最后,利用动态dropout算法改进堆叠自动编码机的预训练模型。仿真结果表明,相比支持向量机（SVM）和反向传播（BP）神经网络,改进的堆叠自动编码机平均准确率达到了97.66%,各个数据集上马修斯系数都大于89%;与传统堆叠自动编码机相比,改进的堆叠自动编码机的马修斯系数在Error1-6数据集上分别提高了3.27%、1.68%、2.16%、1.51%、1.58%、1.07%。实验结果表明,基于动态dropout算法的改进堆叠自动编码机具有更高的分类精度和更好的稳定性。

基于堆叠降噪自编码机的广告博文识别方法

在针对广告博文进行识别过程中,首先构建文本特征向量和人工定义的特征向量,使用堆叠降噪自编码机对这两种特征向量进行处理,获得处理后的两种特征向量,然后将得到的这两种特征向量进行组合得到第三种特征向量.最后将这三种特征向量用于最大熵分类模型的训练,依据实验结果找出分类效果最好的模型,使用该模型对博文进行处理过滤掉其中的广告博文,实验证明得到的最大熵分类模型的P、R、F可达到65.58%、87.9%、75.12%,能有效识别绝大多数的广告博文.

堆叠去噪自编码器在垃圾邮件过滤中的应用

针对垃圾邮件数量日益攀升的问题,提出了将堆叠去噪自编码器应用到垃圾邮件分类中。首先,在无标签数据集上,使用无监督学习方法最小化重构误差,对堆叠去噪自编码器进行贪心逐层预训练,从而获得原始数据更加抽象和健壮的特征表示;然后,在堆叠去噪自编码器的最上层添加一个分类器后,在有标签数据集上,利用有监督学习方法最小化分类误差,对预训练获得的网络参数进行微调,获得最优化的模型;最后,利用训练完成的堆叠去噪编码器在6个不同的公开数据集上进行测试。将准确率、召回率、更具有平衡性的马修斯相关系数作为实验性能评价标准,实验结果表明,相比支持向量机算法、贝叶斯方法和深度置信网络的分类效果,基于堆叠去噪自编码器的垃圾邮件分类器的准确率都高于95%,马修斯相关系数都大于0.88,在应用中具有更高的准确率和更好的健壮性。

堆叠稀疏降噪自编码的脑电信号识别

该文以深度学习中的自动编码机为基础,对原始输入向量加入噪声处理,隐含层加入稀疏限制,再将单一的网络结构堆叠成深层神经网络,提出改进算法——堆叠稀疏降噪自动编码机。通过在两个不同数据集(实验室采集数据集和2005年BCI竞赛数据集IVa)进行对比实验,结果表明该算法在运动想象脑电信号的特征提取上具有更强的学习能力和鲁棒性。

基于改进堆叠稀疏降噪自编码器的轴承故障诊断

为提高堆叠稀疏降噪自编码器的性能,解决其计算复杂度高、收敛速度慢等问题,提出了一种基于堆叠边缘化稀疏降噪自编码器的滚动轴承故障诊断方法。首先,对稀疏降噪自编码器的损失函数进行边缘化处理,并结合逐层贪婪训练策略构建出SMSDAE网络;然后,将SMSDAE网络与Softmax分类器结合,得到SMSDAE-Softmax特征提取模型;最后,将提取到的特征输入到SVM多分类器中完成对滚动轴承的智能故障诊断。QPZZ-Ⅱ旋转机械故障模拟试验平台所得故障信号的处理结果表明,该方法的平均故障诊断率达到了99.9%,相对于其他方法具备更快的收敛速度,更好的诊断效果,以及更强的鲁棒性。另外,采用美国西储大学轴承数据中心10种轴承故障信号进行分析,结果证明了该方法在面对不同类型轴承以及多种故障信号时具备良好的诊断性能,有一定的普适性。

基于堆叠降噪自编码器的配电数据清洗方法

准确高效的异常数据识别与缺失数据恢复是电力网络稳定运行的基础。提出了一种配网网络状态监测异常数据清洗方法。首先,利用堆叠降噪自编码器(SDAE)学习正常数据和异常数据特征,去除噪声后获取损失函数曲线。然后,采用Bootstrap方法估计置信区间,设置异常数据识别门限,通过多分类支持向量机完成异常类型识别。最后,针对缺失数据,设计了Pearson相关系数进行插补恢复。实验结果表明,该方法能够有效识别配电网络异常数据类型,且缺失数据恢复性能优于现有方法。

基于免疫堆叠降噪自编码机网络的运动想象脑电信号识别

针对运动想象(MI)脑电信号识别精度低的实际问题,提出一种结合免疫优化算法和决策机制的堆叠降噪自编码机网络(ISDAE).ISDAE模型通过多层DAE对MI脑电信号分层提取最优特征向量,再通过最后一层神经网络(NN)对所得特征向量进行识别;同时,添加决策机制,并结合免疫优化算法对模型进行参数寻优,最终得到识别准确率更高的ISDAE脑电信号识别模型.实验结果表明,所提出的ISDAE模型对粗糙的脑电数据具有强大的特征学习能力和较高的MI脑电信号识别率,可为MI脑电信号的识别提供一种有效的方法.

航空发动机排气温度基线建模新方法研究

为实现航空发动机气路性能诊断与预测,提出一种基于堆叠降噪自编码器(Stacked denoising auto encoder,SDAE)和支持向量回归(Support vector regression,SVR)相结合的航空发动机排气温度(Exhaust gas temperature,EGT)基线建模方法。以CFM56-7B发动机实际采集的飞行数据作为原始数据样本,利用SDAE进行数据特征提取和降噪处理后,将提取到的非线性特征作为SVR网络的输入,建立排气温度基线模型。利用同型号的另一台发动机航后数据对所建立的排气温度基线模型进行验证,并与基于单一网络的基线模型进行对比。结果表明,基于SDAE-SVR融合模型的基线建模方法具有更强的鲁棒性和更高的预测精度。

基于数据增强与流数据处理的Tor流量分析模型

Tor流量分析技术为打击利用Tor匿名通信工具从事的暗网犯罪活动提供了技术支撑,但目前存在数据难于收集、数据集不平衡、模型抗概念漂移能力差等问题。提出一种结合堆叠去噪自编码器和在线序列极限学习机的Tor流量分析模型。对原始Tor PACP包进行分割、去噪处理并提取特征序列。在此基础上,将一维序列转化为可视化灰度图并输入改进多尺寸深度卷积生成对抗网络,生成Tor流量样本以平衡数据集,利用堆叠降噪自动编码器进行序列降维并将特征输入在线序列极限学习机实现Tor匿名流量的在线流识别。实验结果表明,改进多尺寸深度卷积生成对抗网络可用于提升数据集质量并提高模型识别率约2.8个百分点,结合在线序列极限学习机和堆叠去噪自编码器的流量分析模型准确率可达95.7%,识别效率较传统卷积神经网络和长短期记忆网络模型有较大提升。

一种基于两阶段深度学习的集成推荐模型

近年来,深度学习技术被广泛应用于推荐系统领域并获得了很大的成功,然而深度学习模型的输入质量对学习结果具有很大影响,稀疏的输入特征向量不仅会增加后续模型训练的难度,而且容易导致学习结果落入局部最优.提出一个基于两阶段深度学习的集成推荐模型:首先,利用具有封闭式参数计算能力的边缘化堆叠去噪自动编码机进行用户和项目高层抽象特征的提取;然后,将得到的用户抽象特征和项目抽象特征进行连接并作为深度神经网络模型的输入向量,通过联合训练的方式进行参数学习和模型优化.此外,为了对低阶特征交互进行建模,推荐模型中还集成了基于原始特征向量的逻辑回归模型.在通用数据集上的大量对比实验研究表明:与当前流行的深度学习推荐方法相比,该方法在推荐精度和召回率方面都有所改善,甚至是在数据稀疏和冷启动的环境下.

基于深度学习的Wi-Fi与iBeacon融合的室内定位方法

针对传统室内定位指纹法存在定位精度低、容易受到环境影响的问题,提出了一种基于深度学习的Wi-Fi与iBeacon融合的室内定位方法。离线阶段在参考点处采集各个AP和iBeacon的信号强度,使用这些信号强度数据对堆叠自动编码机进行训练并从大量带有噪声的信号强度样本中提取特征,构建位置指纹数据库;在线定位阶段,使用堆叠自动编码机获得待测点信号强度特征并与位置指纹数据库中信号强度特征进行匹配,通过近邻算法估计待测点位置。实验结果表明,基于堆叠自动编码机的室内定位算法具有更高的定位精度。

多类运动想象脑电信号的两级特征提取方法

共同空间模式(Common spatial pattern,CSP)是运动想象脑机接口(Brain-computer interface,BCI)中常用的特征提取方法,但对多类任务的分类正确率却明显低于两类任务.通过引入堆叠降噪自动编码器(Stacked denoising autoencoders,SDA),提出了一种多类运动想象脑电信号(Electroencephalogram,EEG)的两级特征提取方法.首先利用一对多CSP(One versus rest CSP,OVR-CSP)将脑电信号变换到使信号方差区别最大的低维空间,然后通过SDA网络提取其中可以更好表达类别属性的高层抽象特征,最后使用Softmax分类器进行分类.在对BCI竞赛IV中Data-sets 2a的4类运动想象任务进行的分类实验中,平均Kappa系数达到0.69,表明了所提出的特征提取方法的有效性和鲁棒性.

基于SDAE与RELM的EEG情感识别方法

针对情感识别中堆叠式自动编码器存在反向传播方法收敛速度慢和容易陷入局部最优的问题,提出一种基于堆叠式降噪自动编码器(SDAE)和正则化极限学习机(RELM)的情感状态识别方法。从脑电信号的时域、频域和时频域中提取表征情感状态的初始特征,使用SDAE进行无监督特征学习,提取初始特征的高层抽象表示。在网络的回归层,使用RELM进行情感分类。在DEAP数据集上的实验结果表明,与SDAE以及DT、KNN等传统基于机器学习的方法相比,该方法在实时性、准确性和泛化性能等方面均有明显提升。

PCA-SAE的齿轮箱故障诊断方法研究

针对因长时间的信号采集使得振动信号面临数据量大的问题。传统的信号分析方法,已无法解决大数据情况下故障的特征提取与分类,同时采集到的数据样本具有多维度多样本的情况,导致训练网络时在前期导入数据阶段耗费大量时间与硬件的内存,并且会导致网络训练中产生过拟合现象,影响分类准确率。针对以上问题本文提出基于主成分分析与堆叠自动编码机相结合的齿轮故障诊断研究,以实现对齿轮振动信号快速准确的特征提取与分类。首先对原始信号进行主成分析,得到各主成分贡献率,其次,选取主成分贡献率高的前几列作为深度学习网络输入样本。最后深度学习网络即堆叠自动编码机网络对训练数据集进行学习提取数据中的特征并应用测试数据集部分进行分类并计算分类的准确率。最终,实验中将所提深度学习方法与传统的特征提取方法和分类方法进行比较最终识别精度进行比较。实验结果表明本文所提方法最终可以达到98.6%的准确率,实现端到端的故障诊断方法,可以很好的应用于故障诊断领域。

基于集成SDAE和EEG的跨被试认知工作负荷识别

基于脑电信号评估人机系统中操作员认知工作负荷状态,可以有效阻止操作员工作性能下降。文中提出一种跨被试认知工作负荷分类器E-SDAE,以适应被试间脑电特征分布的变化。该算法包括高水平个性化特征抽象和决策融合两个模块。特征滤波器利用基学习器SDAE来抽象一组被试的脑电特征。监督分类器利用超限学习机的随机性来融合经Q-statistics处理后得到的滤波脑电抽象。任务1和任务2分别取得0.6353和0.6747的分类率,并且显著优于一些传统的认知工作负荷评估器。时间复杂度计算结果表明,E-SDAE的计算负荷对于高维脑电特征是可接受的。

基于SDAE-PSOSVM的航空变压整流器故障诊断方法研究

针对不同故障模式下航空变压整流器二极管故障特征相似程度高导致不易区分的问题,提出一种基于堆叠降噪自动编码器(stacked denoising auto encoder,SDAE)与粒子群优化支持向量机(partical swarm optimization support vector machine,PSOSVM)相结合的故障诊断方法.首先搭建航空变压整流器仿真模型,通过对不同故障模式进行仿真,获取故障数据;然后运用SDAE方法对高维故障信号进行故障特征提取,建立故障特征集;最后采用PSOSVM方法进行故障诊断,并且与常用的故障诊断方法进行对比分析.诊断结果表明SDAE-PSOSVM故障诊断方法准确性达到96%,可以对高维故障数据信号进行特征提取,提高不同故障模式之间的区分度.

基于JPEG2000压缩域的油库检测

油库检测是遥感图像目标检测领域的一个研究热点.针对目前遥感图像通常以JPEG2000压缩格式储存的现状,提出基于JPEG2000的光学遥感图像油库检测算法.在不经过全部解压的数据中,直接提取小波系数进行目标的检测.根据小波系数的不同特性,针对低频子带,采用Hough变换提取油库的圆形形状特征;针对高频子带,利用堆叠降噪自编码器进行特征提取和描述.最后利用支持向量机进行特征融合和目标检测.实验结果表明,本算法能够准确快速地检测遥感图像中的油库目标,具有较高的检测率和较快的处理速度.

基于ELMD能量熵与PSO-SAE的齿轮故障诊断研究

齿轮发生不同的故障会导致不同频带内的信号能量值发生改变,因此可通过计算不同振动信号的能量熵判断齿轮是否发生故障,而针对复杂多变的工况和噪声的干扰而导致的齿轮振动信号的非线性、非平稳性且由于数据量大等问题。传统的信号分析方法,已无法表征丰富,海量的信号信息与复杂的多元非线性信号关系。故本文提出基于ELMD能量熵与PSO-SAE的齿轮故障诊断研究。该研究首先对原始信号进行ELMD分解,得到若干个乘积函数(PF);其次,对ELMD分解结果的前7个PF进行求取能量熵作为特征样本。最后进入一个经粒子群优化后的深度学习网络即堆叠自动编码机网络(PSO-SAE)对特征样本分类。实验中,将PSO-SAE与两类常用支持向量机分别进行识别精度与运行时间的对比。实验结果证明,所提研究方案可很好地应用在齿轮故障诊断研究中。

基于SDAE-SVR的东星斑养殖溶解氧预测研究

溶解氧作为水产养殖水质数据中极为重要的一个参数,其值的预测研究对东星斑养殖过程中的水质监控分析和预警起到了很大的决策作用。基于当前溶解氧预测研究现状,结合福建某东星斑养殖池内的水质数据,针对溶解氧的预测进行了研究,提出了基于堆叠去噪自动编码器(Stacked Denoising Auto-Encoder,SDAE)和支持向量回归机(Support Vector Regression,SVR)相结合的溶解氧预测模型。实验证明,SDAE-SVR模型和SVR相比,提高了预测精度,证明了所提出模型的有效性。