基于改进变分模态分解和优化堆叠降噪自编码器的轴承故障诊断

针对滚动轴承在噪声干扰下故障特征难以提取的问题,提出一种改进变分模态分解(VMD)和复合缩放排列熵(CZPE)的特征提取新方法,并利用优化堆叠降噪自编码器(SDAE)进行故障分类。首先,提出由“余弦相似度—峭度—包络熵”新综合评价指标自适应优化分解参数的改进VMD方法,并通过该指标筛选分解后的本征模态函数(IMF)分量;然后,为提取更全面的故障特征,引入新的复合缩放排列熵对各有效IMF的故障特征进行量化;最后,提出一种基于鼠群优化算法(RSO)与麻雀搜索算法(SSA)的混合算法优化SDAE网络超参数,将故障特征输入优化后SDAE网络中得到分类结果。采用美国CWRU轴承数据集进行验证,实验结果表明该方法能全面稳定地提取背景噪声下的故障特征,且与其他方法相比具有更好的抗噪性能和更高的故障诊断准确率。

基于改进堆叠降噪自编码器的连铸机扇形段故障特征提取

为了提取连铸机扇形段在正常浇铸状态下的故障特征,设计一种利用鲸鱼优化算法(WOA)改进的堆叠降噪自编码器(SDAE)网络模型,命名为WOA-SDAE,并应用于扇形段拉矫力信号特征学习和故障分类。首先,从完整的浇铸周期中获取正常浇铸状态下的数据,对低频的拉矫力信号进行时域特征提取,将一维拉矫力信号转换为多维时域特征信号,并建立评价体系以寻找最优时域参数;其次,运用堆叠降噪自编码器与softmax分类器组成网络模型对故障信号进行分类,采用鲸鱼优化算法确定SDAE模型中隐含层层数与节点数。通过实际生产过程中的连铸机扇形段拉矫力信号来验证所提方法的可行性。试验结果表明,WOA-SDAE可有效提取扇形段的故障特征,在测试集上的识别准确率达到92.23%。

基于降噪自编码器的侧信道攻击预处理方法

侧信道分析在硬件安全评估中起着至关重要的作用,而降噪预处理可以去除数据曲线包含的部分噪声,提高攻击成功率.然而,当数据中噪声繁杂且期望预处理前后数据规模不减少时,常规的降噪方式效果较差甚至无效.本文基于卷积神经网络设计了一种优化的降噪自编码器.首先,对第一轮加密的字节代换操作具有相同输出的数据曲线做均值滤波处理,并根据字节代换的输出构造对应的自编码器模型标签,最大化地提取出纯净数据.其次,在计算标签与预测值的损失函数中添加L2正则化惩罚项,防止过拟合以及加速训练.本文对公开的DPAContestV2、DPAContestV4.1和ASCAD数据集进行降噪预处理及侧信道攻击.实验结果表明,处理后的数据相比原始数据信噪比分别提高3.53、3.14、3.86倍,皮尔逊相关系数分别提高1.94、1.37、1.04倍.在攻击阶段,不进行降噪预处理时V2、V4.1、ASCAD数据集分别需要1175、4、191条测试轨迹破译密钥.而使用本文方法降噪后成功攻击所需轨迹数量分别降低为440、1、41条.因此,本文的降噪自编码器网络可以大幅度降低信号中包含的噪声,并显著提高了攻击性能.

优化堆叠降噪自编码器用于调度操作票自动校验

为实现核电厂变电站电力调度操作票的自动智能校验,提出了一种基于优化堆叠降噪自编码器(OSDAE)操作票自动校验方法。该方法在对操作票文本进行向量化的基础上,利用优化过的堆叠降噪自编码器实现操作票文本的语义辨析与正误自动化校验。实验结果表明,所提方法的操作票校验评估综合指标可达94.88%,是几种方法中最高的,具有一定的优势。

基于改进降噪自编码器的馈线终端失效率预测

配电网中馈线终端设备由于运行环境恶劣,往往面临意外失效问题。本文针对海量馈线终端装置的失效率预测问题,使用堆叠降噪自编码器实现基于馈线终端的各个关键元件的失效率预测;采用基于Dropout的模型正则化方法防止自编码器训练过程中出现过拟合现象,同时采用Adadelta算法对堆叠自编码器进行优化,在保证预测准确率的同时提高学习速率,实现馈线终端故障失效率的高效准确预测;最后基于馈线终端装置现场数据进行仿真验证。仿真结果验证了本文方法对失效率预测的准确性和泛化能力。

一种降噪自编码器的复杂网络链路预测算法

链路预测是根据复杂网络中已有的拓扑信息预测网络中两个不相邻的节点间产生连接的可能性,是复杂网络领域中的重要研究方向,具有重要的研究价值.在理论层面上,提升链路预测算法的性能有利于更合理的挖掘和分析网络的演化机制;在应用层面上,提升链路预测算法的性能有助于补全网络拓扑的缺失信息,从而便于优化后续网络拓扑相关的算法,例如图表示学习和个性化推荐等.该领域尽管近些年已经取得了较多的研究成果,但依然存在不少缺陷.例如,作为主流的基于节点相似性的链路预测算法存在高度退化的问题,即对于大多数不相邻的节点对均输出相同的预测值;其次,由于不同的复杂网络在网络结构、节点度数、连边数量以及联通性上各有差异,然而当前的算法通常仅考虑网络的某种结构特征,因此只对于特定的网络类型预测效果较好,可扩展性较差.鉴于此,本文利用深度学习理论善于挖掘各种高维数据的重要特征,将无监督训练方法引入到复杂网络的链路预测中,提出一种基于降噪自编码器的复杂网络链路预测算法.该算法通过神经网络结构与损失函数的构造,首先使其具有数据降噪恢复的能力,然后将完整的训练集数据输入到模型中,即可实现预测复杂网络演化机制的目的.具体地,将加入噪声的邻接矩阵以列向量的方式逐条输入到神经网络结构中,然后运用该降噪自编码器模型确保输出向量与未加噪声的数据相近.经过反复训练,本模型中神经网络的结构和参数会不断调节,使其逐渐具备从低维数据中恢复高维信息的目的,进而达到预测复杂网络演化结构的效果.同时,该算法不仅能够从残缺数据中学习出有用的预测信息,而且能够降低复杂网络结构的差异性对算法的影响.通过在7种不同类型网络中的对比实验,分析结果表明本算法与其他经典的链路预测算法相比在Precision和AUC两个评价指标上均排名第一,并且在训练集所占比例的鲁棒性上也体现出优势.

基于卷积降噪自编码器和Softmax回归的微地震定位方法

本文提出了一种基于卷积降噪自编码器和Softmax回归的微地震定位方法.该方法首先将微地震数据输入到卷积降噪自编码器中进行随机噪声压制,利用卷积降噪自编码器的编码器提取微地震数据的鲁棒性特征.然后根据震源的地理位置,对每个微地震数据生成多个独立的位置标签.使用带有震源位置标签的微地震特征训练多输出的Softmax分类器模型,同时预测一个输入微地震数据的多个位置标签,进而获得精确的震源位置.合成地震记录的实验结果表明,该方法能够准确快速地定位低信噪比的微地震事件.

基于改进降噪自编码器和多元时序聚类的海上风电功率预测

针对海上数值天气预报(NWP)精度低、气象因素复杂等特点,提出一种基于改进的双向降噪自编码器(BDAE)和多元时序聚类的短期海上风电功率预测方法。首先,利用Toeplitz矩阵逆协方差聚类(TICC)进行风况相似性分类,即根据30、70、100 m海上NWP风速进行多元序列实时分割与聚类;然后,针对不同风况类型分别建立可提取过去、未来双向有效信息的改进BDAE修正模型,以修正轮毂高度风速的预测误差;最后,基于修正后的轮毂高度风速以及其余NWP数据,利用TICC算法划分气象相似类型,并在此基础上建立对应的海上风电功率预测模型。采用国内某海上风电场数据进行实验验证,结果表明所提方法能提高海上风电功率预测精度,具有一定工程实用价值。

降噪自编码器用于频谱感知对抗防御模型

基于深度学习的频谱感知模型虽检测性能优异,但普遍具有脆弱性,容易受到频谱对抗攻击的干扰。为了防御这种攻击,提出使用降噪自编码器过滤对抗信号,并在此基础上提出了一种结合降噪自编码器和防御蒸馏的联合防御方法。利用对抗信号和干净信号预训练得到降噪自编码器,频谱信号经降噪自编码器过滤后用于训练感知分类器,在测试阶段,联合使用降噪自编码器和分类器。同时,为进一步缓解扰动对模型性能的影响,在分类器训练阶段,利用蒸馏算法平滑训练网络,提高模型泛化能力。实验结果表明,对于可以降低深度学习频谱感知模型检测概率的频谱对抗攻击,所提出的基于降噪自编码器的防御方法仍然能够拥有较高的检测概率和较低的攻击成功率。

基于堆叠降噪自编码器的跨项目软件缺陷数量预测方法

在软件缺陷预测技术应用中,需要预测的项目可能是一个全新的项目,或者需要预测的项目历史数据较为不足。一种解决方法是利用已有数据充足的项目(源项目)构建模型完成对新项目(目标项目)的预测,主要利用传统机器学习方法对源项目与目标项目进行特征迁移学习完成缺陷预测,但不同项目之间的数据存在较大的分布差异,同时传统机器方法学习到的特征表示能力很弱且缺陷预测性能较差。针对此问题,从深度学习出发提出一种基于堆叠降噪自编码器的跨项目缺陷预测方法,该方法结合堆叠降噪自编码器和最大均值差异距离,能够有效地提取源项目与目标项目可迁移的深层次特征表示,基于该特征可以训练出有效的缺陷数量预测模型。实验结果表明,在Relink数据集和AEEEM数据集上与经典的跨项目缺陷预测方法Burak过滤法、Peters过滤法、TCA以及TCA+进行比较,该方法在大多数情况下可取得最好的预测结果。

基于降噪自编码器和弹性网络的入侵检测模型

入侵检测建模中,数据损坏或不完整、训练过程中存在的数据过拟合问题,以及对未知攻击流量缺少判断依据等因素,将影响模型训练效果。针对以上问题,本文提出一种基于降噪自编码器和弹性网络的入侵检测模型。该模型利用降噪自编码器降低输入数据损坏及不完整对模型训练的影响,使用弹性网络解决数据过拟合问题,对未知攻击流量采用损失值作为判断依据。实验结果表明,本文构建的入侵模型与传统机器学习算法及深度学习算法相比具有更高的准确性,检测效果更好。

基于降噪自编码器的水声信号增强研究

针对主动声呐中回波信号特征提取困难的问题,提出了一种利用降噪自编码器与卷积降噪自编码器相结合的自编码器算法。首先利用降噪自编码器在信号整体上的降噪优势,对含噪信号进行预处理;然后结合卷积降噪自编码器对信号局部特征的优化,对信号进行局部降噪,从而实现信号增强。所提算法直接以接收信号的时域波形作为特征输入,保留了信号的幅度与相位特征。实验结果表明,所提算法不仅有效降低了信号中的噪声分量,而且在时域和频域上均达到了较好的恢复效果。

栈式降噪自编码器的标签协同过滤推荐算法

协同过滤推荐和基于内容的推荐是目前应用于推荐系统中的两种主流手段.传统的协同过滤模型存在着矩阵稀疏问题,基于内容的推荐又不能自动抽取深层特征,且两种推荐手段很难直接融合在一起,无法共同提升推荐系统的性能表现.充分利用了深度学习模型能够深度挖掘内容隐藏信息的特性,将栈式降噪自编码器(SDAE)运用于基于内容的推荐模型中,并将其与基于标签的协同过滤算法结合在一起,提出DLCF(Deep Learning for Collaborative Filtering)算法.经过真实数据集的验证,DLCF算法能够很大程度上克服矩阵稀疏问题,在性能上优于传统推荐算法.

基于降噪自编码器、奇异谱分析和长短期记忆神经网络的空间电力负荷态势感知

精准的空间电力负荷态势感知结果是配电网精益化规划的基础。随着配电网中可采集负荷数据深度和广度的增加,如何运用这些数据实现对空间电力负荷精准的态势感知具有重要意义。该文提出一种基于降噪自编码器、奇异谱分析和长短期记忆神经网络(denoising autoencoder,singular spectrum analysis and long-short term memory neural networks,DAE-SSA-LSTM)的空间电力负荷态势感知方法。首先在态势觉察阶段,使用降噪自编码器对每个Ⅰ类元胞负荷实测数据分别进行编码提取各自的主要负荷变化特征,并根据该特征进行重构历史元胞负荷数据以降低由于测量、通信等原因造成的噪声干扰;然后在态势理解阶段中运用奇异谱分析方法对态势觉察后的元胞负荷数据进行分解得出周期性较强的低频分量序列和随机性较强的高频分量序列;最后在态势预测阶段采用不同的长短期记忆神经网络模型分别对低频分量和高频分量进行预测,并将两预测结果进行叠加得出目标年的Ⅰ类元胞负荷预测值,在此基础上运用空间电力负荷网格化技术求得基于Ⅱ类元胞的空间电力负荷预测值。实例分析结果表明,该方法相比于其他4种空间电力负荷态势感知方法,具有更高的预测精度。

基于稀疏降噪自编码器的深度置信网络

传统的深度置信网络(DBN)采用随机初始化受限玻尔兹曼机(RBM)的权值和偏置的方法初始化网络。虽然这在一定程度上克服了由BP算法带来的易陷入局部最优和训练时间长的问题,但随机初始化仍然会导致网络重构和原始输入的较大差别,这使得网络无论在准确率还是学习效率上都无法得到进一步提升。针对以上问题,提出一种基于稀疏降噪自编码器(SDAE)的深度网络模型,其核心是稀疏降噪自编码器对数据的特征提取。首先,训练稀疏降噪自编码;然后,用训练后得到的权值和偏置来初始化深度置信网络;最后,训练深度置信网络。在Poker Hand纸牌游戏数据集和MNIST、USPS手写数据集上测试模型性能,在Poker Hand数据集下,方法的误差率比传统的深度置信网络降低46.4%,准确率和召回率依次提升15.56%和14.12%。实验结果表明,所提方法能有效地改善模型性能。

基于栈式降噪自编码器的协同过滤算法

针对协同过滤推荐准确性的现状进行了研究,提出一种基于栈式降噪自编码器的协同过滤算法。栈式降噪自编码器是一种典型的深度学习网络模型,具有强大的特征提取能力。用户对项目的评分作为输入,训练网络,学习出项目的隐含特征编码,用PCA对项目属性降维并计算属性相似性,结合隐性编码计算的相似性作为最终结果,根据最终的项目相似性产生top-N推荐列表。Movie Lens数据集的实验表明,该算法能够有效提升推荐结果的召回率,一定程度上解决了评分矩阵稀疏与项目之间没有共同用户评分就不能计算相似性的问题。

稀疏降噪自编码器在IR-BCI的应用研究

针对脑-机接口的特征提取问题,提出了一种基于非监督学习的稀疏降噪自编码器,对刺激诱发的脑电信号进行自主学习,构建原始数据的深层特征表达。该编码器引用稀疏自编码神经网络,通过加入噪声,增强其学习的泛化能力,增加了神经网络的鲁棒性。首先对多导联信号进行重新拼接,输入稀疏降噪自编码器,得到原始数据的稀疏特征表达;然后,采用支持向量机将学习到的特征进行分类;最后,同直接使用最优单通道相对比。实验结果为:稀疏降噪自编码器的分类准确率要优于单通道,表明该方法能够更好地学习到特征,并提高了"模拟阅读"脑-机接口的识别正确率,为脑-机接口系统的特征提取和分类提供了新思路。

基于多重降噪自编码器模型的top-N 推荐算法

针对传统降噪自编码器(DAE)中加噪操作的随机性影响预测精度的问题,以及数据矩阵忽视用户具体评分信息的问题,提出了一种结合用户评分的多重降噪自编码器(MDAE)。首先,在输入矩阵中引入具体评分信息,增加输入矩阵信息量;其次,为了在获得鲁棒性数据的前提下减轻加噪操作对预测精度的影响,构建了MDAE模型,将经过不同层次降噪得到的预测矩阵结合非降噪预测矩阵得出最终的预测结果;最后,将模型与其他模型在不同数据集上作实验对比。实验结果表明,结合用户具体评分的MDAE模型可以获得更优质的推荐结果。

面向受损网络嵌入的深度降噪自编码器模型

针对现有结构深度网络嵌入模型在处理受损网络时,得到网络表示不能很好反映网络本质特征的局限,以及传统无监督降噪自编码器单层模型结构无法处理高度非线性复杂网络的问题,提出了结构深度降噪网络嵌入模型.通过引入掩盖噪声将受损网络邻接矩阵中的部分单元置零,以此作为模型输入,使用拉普拉斯特征映射处理相邻顶点,捕获网络的一阶相似度;将多个降噪自编码器堆叠得到深度降噪自编码器,利用深度降噪自编码器的多个非线性函数将输入数据映射到潜在空间并得到重构矩阵,最小化重构误差,以此来捕获网络的二阶相似度;联合优化一阶、二阶相似度来保持网络的局部和全局特征.在社交网络和语言网络上进行训练和测试,采用precision@k和MAP来评估模型性能.实验结果表明:相较于现有的网络嵌入模型,该模型实现了更优的网络重构与链路预测性能.

降噪自编码器在机械设备故障预警中的应用

针对目前复杂机械设备大多采用单特征值门限报警法,无法实现提前预警的现状,提出一种基于降噪自编码器(denoising autoencoder,DAE)的特征自学习方法,将高维监测数据编码成低维特征,作为设备运行状态的特征表示,通过度量待测样本编码特征与基准的距离实现故障预警。实验结果表明,本文方法能够区分正常样本特征与任意故障样本特征,并能降低变工况及环境噪声干扰的影响;工程应用案例表明,本文方法能够发现设备故障发生前的微弱征兆,实现提前预警。