基于堆叠式降噪自动编码器和深度神经网络的风电调频逐步惯性智能控制

风电调频的逐步惯性控制(SIC)策略在负荷波动后提供一个阶跃式功率增发,能够有效阻止系统频率下降,保障电网频率安全.但在其功率恢复阶段,容易出现二次频率跌落现象,需优化SIC以获得更好的调频效果.传统方法存在计算维度高和耗时较长的弊端,难以满足不同场景下快速提供最优控制效果的需求.为实现负荷扰动事件下风电调频的最优逐步惯性快速控制,引入深度学习算法,提出一种基于堆叠式降噪自动编码器(SDAE)和深度神经网络(DNN)的风电调频逐步惯性智能控制方法.首先,使用麻雀搜索算法获得最优参数,使用SDAE高效提取数据特征;随后,基于DNN对数据特征进行学习,并引入加速自适应矩估计优化网络参数,提升网络全局最优参数;最后,应用SDAE-DNN联合方法实现扰动事件后风电调频的逐步惯性在线控制.在IEEE 30节点测试系统中分别对单台风力机和风电场进行仿真分析,与传统方法、浅层反向传播神经网络及原始DNN所得结果对比发现,所提网络结构具有更优的预测精度和泛化能力,该方法能够实现良好的逐步惯性调频效果.

面向图像去噪的深度双层群稀疏编码网络

当前基于深度学习的图像去噪方法主要是利用深度神经网络将噪声图像直接映射到干净图像,忽略了图像去噪任务知识。针对该问题,提出了一种基于双层群稀疏编码的深度图像去噪网络。为了充分利用图像中相似结构以及对相似块之间的特异性有效表示,提出了双层群稀疏编码图像去噪模型,并表示成l_(2,1)-l_(1)范数优化问题。利用算法展开技术将所提去噪模型的优化解转化成“端到端”的深度神经网络。为了进一步提高网络训练的稳定性,所提去噪网络中引入一种改进的残差连接。在BSD68、Set12、CBSD68、Kodak24和Urban100等常用数据集上的实验结果表明,所提算法在主观视觉质量和客观评价指标上优于一些主流的去噪方法。特别地,针对噪声等级为75,所提算法在CBSD68数据集上比经典的DnCNN算法平均PSNR指标提高了1.3 dB。

融合改进自编码器和残差网络的入侵检测模型

互联网中存在大量隐私数据,因此防止网络入侵成为保护网络安全的关键问题。为提高网络入侵检测的准确率并解决其收敛慢问题,设计一种改进的堆叠自动编码器和残差网络(ISAE-ResNet)入侵检测模型。融合栈式自编码器和残差网络,首先将预处理后的数据输入到改进的栈式自编码器中,该栈式自编码器由2个副编码器和1个主编码器组成,数据经过副编码器和主编码器训练后重构出新的特征来防止过拟合问题;然后将解码层的权重捆绑到编码层进行优化,使模型参数减半来进行降维,提高模型的收敛速度;最后将处理过的数据输入到改进的残差网络中,并基于改进的ResNet网络设计一种加入软阈值函数的残差模块,通过降低数据中的噪声来提高模型准确率。在CIC-IDS-2017数据集上的实验结果表明,该模型准确率为98.67%,真正例率为95.93%,误报率为0.37%,损失函数值快速收敛至0.042,在准确率、真正例率、误报率和收敛速度方面均超过对比入侵检测模型,具有较高的有效性和可行性。

栈式稀疏加噪自编码深度神经网络的滚动轴承损伤程度诊断

针对滚动轴承损伤程度的特征自学习提取与智能诊断问题,提出栈式稀疏加噪自编码深度神经网络的滚动轴承损伤程度诊断方法。滚动轴承损伤特征受到工况、环境噪声等干扰,浅层自编码网络对损伤特征的自学习、提取能力不足。为此,论文将稀疏项限制和加噪编码融入自编码网络,同时将自编码网络堆栈并添加分类层,构建出栈式稀疏加噪自编码深度神经网络,进行轴承损伤特征非监督自动提取与损伤程度智能诊断。稀疏项限制和深度神经网络的构建提高了特征学习能力,加噪编码的融入改善了网络的鲁棒性。所构建深度神经网络通过多层无监督逐层自学习和有监督微调,完成损伤特征自动提取与表达,并实现了损伤程度智能诊断。不同工况下轴承损伤程度诊断的实验验证证明了所提方法的可行性和有效性。

基于深度SSDAE网络的刀具磨损状态识别

针对刀具磨损状态识别过程中采集数据量大、干扰信号复杂且需人为选择特征参数的问题,为提高刀具磨损状态识别模型的鲁棒性与泛化性,提出了一种数据驱动下深度堆叠稀疏降噪自编码(stacking sparse denoising auto-encoder,简称SSDAE)网络的刀具磨损状态识别方法,实现隐藏在数据中深层次的数据特征自动挖掘。首先,将原始振动信号分解为一系列固有模态分量(intrinsic mode function,简称IMF),并采用皮尔逊相关系数法选取了最优固有模态来组合一个新的信号;其次,采用SSDAE网络自适应提取特征后对刀具磨损阶段进行了状态识别,识别精度达到98%;最后,对网络模型进行实验验证,并与最常用的刀具磨损状态识别方法进行了对比。实验结果表明,所提出的方法能够很好地处理非平稳振动信号,对不同刀具磨损阶段状态的识别效果良好,并具有较好的泛化性能和可靠性。

基于堆栈式稀疏自编码器的高光谱影像分类

为挖掘高光谱影像数据的内在光谱特征,该文基于深度学习理论,引用堆栈式稀疏自编码器构建原始数据的深层特征表达。首先通过稀疏自编码器,得到原始数据的稀疏特征表达。其次通过逐层学习稀疏自编码器构建深度神经网,输出原始数据的深度特征。最后将其连接到支持向量机分类器,完成模型的精调。实验结果分析表明:基于堆栈式稀疏自编码器的最优分类模型,总体精度可达87.82%,优于实验中的其他方法,证明了深度学习方法在高光谱影像处理中具有良好的分类性能。

基于稀疏自动编码深度神经网络的感应电动机故障诊断

针对目前感应电动机故障诊断大多采用监督学习提取故障特征的现状,提出一种将去噪编码融入稀疏自动编码器的深度神经网络,实现非监督学习的特征提取并用于感应电动机的故障诊断。稀疏自动编码器通过自动学习复杂数据的内在特征来提取简明的数据特征表达。为提高特征表达的鲁棒性,在稀疏编码器的基础上融入去噪编码,提取更有效的特征表达用来训练神经网络分类器进而完成整个深度神经网络的构建,并结合反向传播算法对深度神经网络进行整体微调,提升故障分类的准确度。整个训练过程引入'dropout'训练技巧,减少因过拟合带来的预测误差。试验结果表明,相比传统反向传播(Back propagation,BP)神经网络,提出的深度神经网络能更有效地实现感应电动机故障诊断。

基于稀疏降噪自编码器的深度置信网络

传统的深度置信网络(DBN)采用随机初始化受限玻尔兹曼机(RBM)的权值和偏置的方法初始化网络。虽然这在一定程度上克服了由BP算法带来的易陷入局部最优和训练时间长的问题,但随机初始化仍然会导致网络重构和原始输入的较大差别,这使得网络无论在准确率还是学习效率上都无法得到进一步提升。针对以上问题,提出一种基于稀疏降噪自编码器(SDAE)的深度网络模型,其核心是稀疏降噪自编码器对数据的特征提取。首先,训练稀疏降噪自编码;然后,用训练后得到的权值和偏置来初始化深度置信网络;最后,训练深度置信网络。在Poker Hand纸牌游戏数据集和MNIST、USPS手写数据集上测试模型性能,在Poker Hand数据集下,方法的误差率比传统的深度置信网络降低46.4%,准确率和召回率依次提升15.56%和14.12%。实验结果表明,所提方法能有效地改善模型性能。

稀疏自编码深度神经网络及其在滚动轴承故障诊断中的应用

针对目前滚动轴承故障诊断主要采用监督式学习提取故障特征的现状,提出了一种基于稀疏自编码的深度神经网络,实现非监督学习自动提取滚动轴承振动信号的内在特征用于滚动轴承故障诊断。首先,将轴承故障振动信号的频谱训练稀疏自编码获得参数;然后用稀疏自编码获得的参数和轴承振动信号频谱的频谱训练深度神经网络,并结合反向传播算法对深度神经网络进行整体微调提高分类准确度;最后用训练好的深度神经网络来识别滚动轴承故障。对正常轴承、外圈点蚀故障、内圈点蚀故障和滚动体裂纹故障振动信号的分析结果表明:相比反向传播神经网络,提出的深度神经网络更能准确的识别滚动轴承故障类型。

堆叠稀疏自编码深度神经网络算法及其在滚动轴承故障诊断中的应用

针对目前机械设备故障数据量大、多样性且主要采用监督式学习提取故障特征的现状,提出一种堆叠稀疏自编码深度神经网络,实现无监督学习提取振动信号内在特征,并用于滚动轴承故障诊断。将频谱包络线作为低层输入逐层训练网络,获取故障特征表达,输入Softmax分类器实现故障分类;通过优化算法对整个深度神经网络进行微调,提高分类精度。滚动轴承故障诊断实验结果表明:所提出的深度神经网络能更准确地实现故障诊断,且在保证准确率的同时将频谱包络线作为低层输入,能够提高计算效率。

基于极端树与堆栈式稀疏自编码算法的电力电子电路故障诊断

针对电力电子电路故障诊断问题,基于极端随机森林(ET)与堆栈式稀疏自编码(SSAE)算法提出了一种适用于开关管故障的信号识别诊断方法。以三相电压型PWM整流电路为例,首先建立电路仿真模型并设计电压/电流双闭环调节器;为了在输出直流侧能收集到有效的故障特征信号,选择在无负载条件下向PWM整流器交流侧电流d轴分量中注入特定频率的交流电流,此时会在DC输出侧产生相同频率的纹波电压/电流;接着选择直流侧输出电流为故障特征量,首先利用经验模态分解(EMD)提取前7阶本征模函数(IMF)分量,然后计算每阶分量的能量、复杂度以及时域特征和频域特征,获得初始故障特征数据样本,对其应用ET-SSAE融合算法进行降维处理,最后输入到分类器中进行识别。实验结果表明,该算法最终的故障识别准确率高达97.62%,其中ET算法降维处理后得到的故障诊断准确率为88.89%,SSEA降维处理后得到的故障诊断准确率为91.27%。

基于稀疏自动编码器的深度神经网络实现

在神经网络的监督学习中,需要大量人工标识特征的训练样本集。学习系统的成功依赖于样本标识特征的准确性,但人工标识特征费时费力,人为因素决定的特征通用性较差。稀疏自编码器是一种无监督学习方法,可以通过对无标记样本的学习,自动提取样本特征。对稀疏自编码器进行仿真,证明它可以很好地提取输入的无标记样本的特征,这将极大地提高机器学习系统的应用范围和准确性。

基于深度多尺度卷积稀疏编码的图像去噪算法

针对图像去噪深度网络缺乏可解释性的问题,利用深度展开思想,提出了一种基于多尺度卷积稀疏编码的深度去噪网络(MSCSC-Net)。首先利用多尺度卷积字典,构建了多尺度卷积稀疏编码模型,能有效地刻画图像中的多尺度结构特征,然后将多尺度卷积稀疏编码模型的传统迭代优化解展开为深度神经网络架构,即MSCSC-Net,其中网络的每层对应优化解的每次迭代。因此,提出的深度网络中参数可以通过优化模型来准确定义,提高了网络的可解释性。此外,为了更加有效地保留原始图像中的结构信息,MSCSC-Net采用了一种改进的残差学习思想,将输入噪声图像与上一层的中间去噪结果进行加权,并作为下一层的输入图像,以进一步提高网络的去噪效果。在公开数据集上的实验结果表明,与现有典型的基于深度学习去噪算法相比,MSCSC-Net具有一定的竞争力。特别地,在CBSD68数据集上,噪声等级为75时,MSCSC-Net的平均PSNR指标和SSIM指标比FFDNet分别提高了0.77%和2.2%。

基于稀疏自编码深度神经网络的入侵检测方法

针对现有未知网络攻击检测方法采用人工或浅层机器学习方法选取特征导致检测精度较低的问题,提出一种基于稀疏自编码深度神经网络的入侵检测模型。该模型采用多层无监督神经元将高维、非线性的数据映射成低维空间,建立高维空间和低维空间的双向映射的自编码网络结构。除此之外,通过稀疏自编码获得权值和偏置初始化深度神经网络隐含层的参数,用归一化后的网络底层连接记录数据对深度神经网络进行训练并测试。实验结果表明,本文所采用的方法能够提高入侵检测模型的准确率,优于浅层机器学习选取特征的分类算法,是一种高效且可行的入侵检测模型。

基于VMD-WVD分布与堆栈稀疏自编码网络的局放类型识别

针对目前常用的浅层模式识别方法对高维大容量样本处理困难的问题,提出一种基于变分模态分解(variational mode decomposition,VMD)的Wigner Ville分布(Wigner-Ville distribution,WVD)和堆叠稀疏自编码网络(stockedsparse auto-encoder,SSAE)的局部放电(partial discharge,PD)信号的模式识别方法。首先,以VMD算法对PD信号进行分解,对所得各分量进行时频分析得到相应的WVD;然后,以PD信号的VMD-WVD分布为输入量,利用SSAE对样本集合进行训练,自主提取内在特征。此外,将SSAE与稀疏自编码器(stackedsparseauto-encoder,SAE)的输出特征进行比较,验证了SSAE网络特征提取能力的优越性;最后,用训练好的SSAE网络完成测试样本的局部放电类型的识别。同时,以基于反向传播(backpropagation,BP)神经网络和支持向量机(support vector machine,SVM)的识别结果与该结果进行比较。结果表明,所采用的识别方法具有更高的正确识别率。

基于深度稀疏自编码网络和场景分类器的电网气象故障预警方法

为保证电网安全稳定运行,提高电网防灾减灾和弹性水平,提出了一种基于深度稀疏自编码网络和场景分类器的电网气象故障预警方法。首先,采用主客观权重相结合的动态赋权方法,对气象因子进行初始赋权,以合理表征不同气象因子对电网故障的影响程度。然后,对传统的深度自编码网络增加稀疏性约束条件,以提高网络训练的收敛性,并在深度自编码网络的最后一层增加场景分类器,以提高气象因子与电网故障场景间关联关系的合理性。最后,将带权重的气象因子以及设备因子和环境因子作为深度稀疏自编码网络的输入,利用支持向量机构建多因素耦合的电网气象灾害故障预警模型。采用实际电网故障算例验证了所提方法的有效性。

基于深度稀疏自编码网络的植物叶片分类

针对传统机器学习方法对植物叶片图像分类识别率不高的问题,探讨了基于深度稀疏自编码网络(Deep Sparse Autoencoder Network,DSAN)的植物叶片分类研究。自动编码器通过编码和解码重构输入数据,对植物叶片进行分层特征学习,在自动编码器上添加稀疏限制,对隐含层神经元进行压缩,从而学习到更高层的隐含特征用于分类,解决了因选取的特征表达不足导致网络模型分类性能不佳的问题。实验采用公开的植物叶片图像数据库MalayaKew(MK)作为研究对象,该数据集包含44类植物。将预处理之后的叶片图像直接作为输入数据,通过DSAN学习到叶片的高层特征,结合Softmax分类器用于分类。实验结果表明,该算法能够有效提高植物叶片图像的分类精度,在植物分类领域具有一定的应用价值。

深度稀疏自编码网络识别飞行员疲劳状态

针对飞行员疲劳状态识别的复杂性和准确性,提出一种基于脑电信号的深度学习模型.首先对飞行员脑电信号进行滤波分解,提取delta波(0.5~4 Hz)、theta波(5~8 Hz)、alpha波(7~14 Hz)、beta波(14~30 Hz),提取基于脑电节律波的频域特征,作为识别模型的输入向量.其次,将一种基于深度稀疏自编码网络–Softmax模型用于飞行员疲劳状态识别,并与单层的稀疏自编码网络–Softmax和传统方法主成分分析(PCA)–Softmax模型识别结果进行比较.最后,实验结果显示,针对飞行员疲劳状态识别问题,所建立的学习模型具有很好的分类识别效果,具有较好的工程推广价值.

基于深度卷积稀疏自编码分层网络的人脸识别技术

面对海量人脸图像识别,传统特征提取方法难以提取有效特征,造成人脸识别准确率较低。提出了一种鲁棒的人脸特征提取算法,即利用深度卷积稀疏自编码网络自动学习人脸中丰富且识别力高的特征。该方法将卷积操作融入自编码网络中,同时加入稀疏化思想,从而形成深度卷积稀疏自编码分层网络(hierarchical deep convolution sparse autoencoder,HDCSAE);用该网络自动提取海量人脸图像的高层鲁棒特征,并将提取的特征作为SVM分类器的输入得到分类结果。在FERET人脸数据库下对该方法进行测试,识别率达到99.47%,比传统的基于提取人为定义特征的人脸识别方法的识别率有所提高。

基于深度栈式自编码网络的面部年龄识别

随着计算机技术与网络信息技术的发展,利用人体生物特征来获取相关信息已成为安全验证的重要方式。人脸作为人体最重要的生物特征之一,一直备受研究者重视。主要针对基于深度学习的人脸年龄估计问题进行研究。基于栈式自编码网络的深度学习模型,将其运用到面部年龄识别问题上,并通过编程实现了基于该深度模型的面部年龄识别系统。