基于SCG优化SSAE-FFNN的电能质量复合扰动深度特征提取与分类

随着智能电网的发展,电能质量问题已遍布电网并威胁着电网的安全稳定,且电能质量监测数据日渐庞大,因此实现大规模系统中电能质量扰动(power quality disturbances,PQDs)的深度特征提取及智能分类识别对电力系统污染检测与管理具有重要意义。为此,文中提出一种基于堆叠稀疏自编码器(stacked sparse auto encoder,SSAE)和前馈神经网络(feedforward neural network,FFNN)的电能质量复合扰动分类方法。首先,基于IEEE标准构建PQDs仿真模型。然后,建立基于SSAE-FFNN的PQDs分类模型,并引入缩放共轭梯度(scaled conjugate gradient,SCG)算法对模型进行优化,以提高梯度下降速度和网络训练效率。接着,为有效降低堆叠网络的重构损失同时提取出深度的低维特征,构建SSAE的逐层训练集及微调策略。最后,通过算例分析验证文中方法的分类效果、鲁棒性、泛化性和适用场景规模。结果表明,文中方法能够有效识别电能质量复合扰动,对含误差扰动和某地市电网的21组实测扰动录波数据也有较高的分类准确率。

基于SAE和BiGRU的滚动轴承剩余寿命预测

为提高对滚动轴承剩余使用寿命的预测准确性,提出了一种基于稀疏自编码器(SAE)和双向门控循环单元(BiGRU)的剩余寿命预测方法。首先利用四个评价指标对从滚动轴承振动信号中提取出来的时域、频域以及时频域特征进行筛选,构建敏感退化特征集。然后为解决各个特征之间存在的信息冗余问题,利用SAE网络对敏感退化特征进行融合降维。最后将融合敏感退化特征输入BiGRU模型中完成对滚动轴承剩余寿命的预测。采用公开的滚动轴承全寿命数据集进行验证,结果表明,与长短期记忆网络(LSTM)以及门控循环单元(GRU)相比,该方法具有更高的剩余寿命预测准确性。

基于SSAE-IARO-BiLSTM的工业过程故障诊断研究

针对工业过程故障诊断精度低的问题,提出了一种基于栈式稀疏自编码网络(stacked sparse auto-encoder network, SSAE)和改进人工兔算法优化双向长短时记忆神经网络(improved artificial rabbit algorithm optimized bidirectional long short-term memory neural network, IARO-BiLSTM)的故障诊断方法。首先,利用SSAE网络强大的特征提取能力,实现对原始数据进行降维处理;其次,引入Circle混沌映射以达到丰富种群数量的目的,提出权重系数和Levy飞行机制改进人工兔算法的位置更新公式,提高人工兔算法的寻优能力,进而对BiLSTM网络的参数进行优化。最后,利用优化后的BiLSTM网络实现对故障的识别和分类。通过选取多组数据集进行验证,结果表明,基于SSAE-IARO-BiLSTM故障诊断方法能够准确地对故障进行识别和分类,且诊断准确率可达98%以上。

一种融合AutoEncoder与CNN的混合算法用于图像特征提取

深度学习方法在图像的特征提取方面具有优势。针对传统特征提取方法需要先验知识的不足,提出一种自动编码器(Auto Encoder)与卷积神经网络(convolutional neural network,CNN)相结合的深度学习特征提取方法。该方法给Auto Encoder加入快速稀疏性控制,据此对图像训练出基本构件,并初始化CNN的卷积核;同时,给CNN加入了滤波机制,使输出特征保持稀疏性。实验结果表明,在Minist手写数字库和Yale人脸库的识别效果上,提出的特征提取方法均取得了较好的结果,实验进一步通过交叉验证T检验指出,引入滤波机制的特征提取模型优于没有采用滤波机制的模型。

基于Tri-training-SSAE半监督学习算法的电力系统暂态稳定评估

基于机器学习的暂态稳定评估方法主要采用监督学习方法,为了解决监督学习方法所需的有标签样本难以获取的问题,提出基于三体训练-稀疏堆叠自动编码器(Tri-training-SSAE)半监督学习算法的电力系统暂态稳定评估方法。构建基于堆叠稀疏自动编码器的暂态稳定评估模型;在传统的三体训练过程中加入伪标签样本置信度判断,以减小噪声数据对模型训练的影响;以堆叠稀疏自动编码器为基分类器构建三体训练-稀疏堆叠自动编码器模型,利用大量的无标签样本提高模型的泛化能力。通过IEEE 39节点系统与华东某省级电网进行分析验证,结果表明,所提方法在有标签样本数较少时具有更高的评估准确度。

基于SA-SAE的配电网故障分类方法

准确识别故障类型是配电网故障处理的首要任务。基于特征融合和自注意力机制,提出了一种具有强抗噪声能力和高泛化水平的配电网故障分类方法。利用S变换构造故障信号的时频矩阵,对其进行奇异值分解提取频域特征量,与表征波形形态特征相关性的时域特征量相融合组成时频域特征量。将特征量输入稀疏自动编码器,引入自注意力机制提高特征提取能力,最终完成故障分类识别。仿真结果表明,所提方法在不同故障位置、故障相角和过渡电阻条件下可实现对配电网故障类型的较高正确率识别,且在噪声干扰、中性点运行方式发生变化情况下具有良好的应用适应性。

基于SAE和GNDO-SVM的脑电信号情绪识别

情感计算是现代人机交互中的关键问题,随着人工智能的发展,基于脑电信号(electroencephalogram, EEG)的情绪识别已经成为重要的研究方向.为了提高情绪识别的分类精度,本研究引入堆叠自动编码器(stacked autoencoder, SAE)对EEG多通道信号进行深度特征提取,并提出一种基于广义正态分布优化的支持向量机(generalized normal distribution optimization based support vector machine, GNDO-SVM)情绪识别模型.实验结果表明,与基于遗传算法、粒子群算法和麻雀搜索算法优化的支持向量机模型相比,所提出的GNDO-SVM模型具有更优的分类性能,基于SAE深度特征的情感识别准确率达到了90.94%,表明SAE能够有效地挖掘EEG信号不同通道间的深度相关性信息.因此,利用SAE深度特征结合GNDO-SVM模型可以有效地实现EEG信号的情绪识别.

基于分割点改进孤立森林的网络入侵检测方法

随着网络攻击的不断增多和日益复杂化,传统基于监督的网络入侵检测算法不能准确识别没有类别标记或特征不明显的网络访问链接,而对于无监督的网络入侵检测算法,也存在检测效率和准确率低等问题。针对如何进一步提升网络入侵检测性能,提出使用自编码器(AE)与分割点改进孤立森林模型对网络入侵进行检测。首先,对无监督自编码器进行L1正则化,以增强自编码器的稀疏性,通过学习数据内在结构,自适应地提取具有判别性的特征,完成入侵攻击的特征提取;然后,使用改进的孤立森林分离异常点,即使用最大化均值与标准差之商来确定分割点划分最佳超平面来构建隔离树,使隔离树在相关子空间中具有更强隔离异常值的能力,并通过遍历所有隔离树中数据点的平均路径长度得到异常得分来判定异常流量。在KDDCUP99和UNSW-NB15数据集上的实验结果表明,与6种传统无监督方法相比,该方法较传统孤立森林准确率和召回率均提升约20%,F1值和曲线下面积(AUC)值均提升约10%,较其他无监督方法相比大幅降低了误码率。

基于深度SSDAE网络的刀具磨损状态识别

针对刀具磨损状态识别过程中采集数据量大、干扰信号复杂且需人为选择特征参数的问题,为提高刀具磨损状态识别模型的鲁棒性与泛化性,提出了一种数据驱动下深度堆叠稀疏降噪自编码(stacking sparse denoising auto-encoder,简称SSDAE)网络的刀具磨损状态识别方法,实现隐藏在数据中深层次的数据特征自动挖掘。首先,将原始振动信号分解为一系列固有模态分量(intrinsic mode function,简称IMF),并采用皮尔逊相关系数法选取了最优固有模态来组合一个新的信号;其次,采用SSDAE网络自适应提取特征后对刀具磨损阶段进行了状态识别,识别精度达到98%;最后,对网络模型进行实验验证,并与最常用的刀具磨损状态识别方法进行了对比。实验结果表明,所提出的方法能够很好地处理非平稳振动信号,对不同刀具磨损阶段状态的识别效果良好,并具有较好的泛化性能和可靠性。

基于黑客画像的网络攻击者识别方法

为能够准确、快速识别网络攻击者,提出一种基于黑客画像的网络攻击者识别方法。构建将稀疏自编码器和贝叶斯神经网络相结合的SAE-BNN模型,检测不同攻击类型的恶意流量;针对不同的恶意流量,通过提取黑客属性特征、流量特征、时间特征和相似性特征,与事先建立的黑客画像库中的黑客画像进行匹配。如果与某个黑客画像完全匹配,则由此确定该黑客的身份。当不能与黑客画像库中的任何黑客画像进行匹配时,将该黑客的特征作为标签,构建新的黑客画像,并更新画像库。实验结果表明,提出的异常流量识别方法在精度、召回率、F1值和准确率上均有提升。基于黑客画像的黑客识别算法与常规方法相比,极大提高了识别效率。

基于改进SAE和双向LSTM的滚动轴承RUL预测方法

针对稀疏自动编码器(Sparse auto encoder,SAE)采用sigmoid激活函数容易造成梯度消失的问题,用一种新的Tan函数替代原有的sigmoid函数;针对SAE采用Kullback-Leibler(KL)散度进行稀疏性约束在回归预测方面的局限性,以dropout机制替代KL散度实现网络的稀疏性.利用改进SAE对滚动轴承振动信号进行无监督深层特征自适应提取,无需人工设计标签进行有监督微调.同时,考虑到滚动轴承剩余使用寿命(Remaining useful life,RUL)预测方法一般仅考虑过去信息而忽略未来信息,引入双向长短时记忆网络(Bi-directional long short-term memory,Bi-LSTM)构建滚动轴承RUL的预测模型.在2个轴承数据集上的实验结果均表明,所提基于改进SAE和Bi-LSTM的滚动轴承RUL预测方法不仅可以提高模型的收敛速度而且具有较低的预测误差.

融合候选区域提取与SSAE深度特征学习的心脏MR图像左心室检测

左心室检测在计算机辅助心脏MR图像诊断方面具有重要价值,针对由于成像质量、部分容积效应、目标复杂多变等因素影响,导致左心室自动检测准确度较低的问题,提出一种融合候选区域提取与栈式稀疏自编码器(SSAE)深度特征学习的心脏MR图像左心室检测方法.在候选区域提取阶段,先用超像素算法产生初始区域,然后对SSAE学习到的深度特征采用层次聚类算法生成候选区域;在检测阶段,先使用SSAE提取候选区域的深度特征,然后训练SVM分类器对候选区域进行分类,并使用难分负样本挖掘算法对模型进行调节.对心脏图谱数据集左心室目标检测的实验结果表明,相对于手工特征及基于候选区域等方法,该方法取得了有竞争力的检测精度.

一种基于SAE和BP网络相结合的人脸识别模型

基于浅层BP网络的模式识别在诸多领域有着广泛的应用,但对于稀疏高维度的数据,在网络模型训练时计算量大、参数繁多、训练慢、准确率低.提出了一种基于稀疏自动编码器(Sparse auto-Encoder,SAE)和浅层BP网络相结合的人脸识别模型.在深度SAE模型中,通过设置隐藏节点数少于输入输出节点数方法,自动学习样本的多种特征表示,来实现数据的降维和去稀疏性,将该方法产生的特征表示作为输入新样本数据,用于BP网络模型进行图像识别.通过人脸识别实验表明,第一通过SAE模型得到的特征表示进行人脸识别是可行的;第二SAE模型获得的多种表示分别进行人脸识别,并非第j层表示比第i层表示(j>i)效果一定好;第三该方法比单纯浅层BP网络进行人脸识别在效果上有一定程度的改善和提高.

基于改进SAE网络的自然图像分类

针对自然图像分类算法的精度低以及网络训练耗时过长的实际问题,提出了一种结合卷积自动编码器(Convolutional Auto-Encoders,CAE)的改进堆叠自动编码器(Stacked Auto-encoders,SAE)网络。研究了CAE学习局部特征的能力,并将其作为整个SAE网络的第一层。在提取初步特征的同时降低输入的维度,解决了网络参数过多,训练过程慢的问题。同时对改进的SAE网络进行微调,缩减训练时间,并提取更有利于分类的图像高层特征。实验结果表明,改进SAE网络对于自然图像的分类具有更好的普适性,可以有效地提高分类准确度,并加快网络训练速度。

基于迁移学习SAE的无人机目标识别算法研究

无人机在复杂战场环境下,因敌我双方无人机外形、颜色等特征较为相似,如何准确地对敌方无人机识别是实现其自主导航及作战任务执行的关键。由于受敌方无人机飞行速度、形状、尺寸、姿态等的改变及气象环境因素的影响,无法准确地对其进行识别与分类。针对这一问题,提出基于迁移学习卷积稀疏自动编码器(Sparse Auto-Encoder,SAE)实现对航拍多帧图像中敌方目标对象的识别与分类。算法首先借助SAE对源领域数据集中大量无标记样本进行无监督学习,获取其局部特征;然后,采用池化层卷积神经网络(CNN)算法提取目标图像全局特征;最后,送入Softmax回归模型实现目标对象的识别与分类。实验结果表明:与传统非迁移学习的SAE算法及基于底层视觉特征学习的识别算法相比,该算法具有更高的准确性。

基于SAE与底层视觉特征融合的无人机目标识别算法

无人机在复杂战场环境下，因敌方无人机外形、颜色等特征较为相似，现有基于底层视觉特征无法快速地对其进而准确的识别，从而造成误检测甚至误打击等事件的发生。针对这一问题，文中提出基于稀疏自动编码器融合底层视觉特征的算法，对无人机目标对象进行识别。算法首先利用底层视觉特征描述子（GIST、LBP）以及稀疏自动编码器（Sparse Auto—Encoder，SAE）提取目标对象的底层视觉特征和高层视觉特征；然后，采用主成分分析（PAC）法对全局特征进行降维融合；最后，将全局特征响应送入softmax回归模型完成无人机目标对象的分类。实验表明，与传统SAE算法及传统基于底层视觉特征描述子识别算法相比，新算法具有更高的准确性及鲁棒性。

SSAE和IGWO-SVM的滚动轴承故障诊断

针对滚动轴承的故障诊断问题,提出了一种基于栈式稀疏自编码网络(stacked sparse auto encoder,简称SSAE)、改进灰狼智能优化算法(improved grey wolf optimization,简称IGWO)以及支持向量机(support vector machine,简称SVM)的混合智能故障诊断模型。首先,利用栈式自编码网络强大的特征自提取能力,实现故障信号深层频谱特征的自适应学习,通过引入稀疏项约束提高特征学习的泛化性能;其次,利用改进的灰狼算法实现支持向量机的参数优化;最后,基于优化后的SVM完成对故障特征向量的分类识别。所提混合智能故障诊断模型充分结合了深度神经网络强大的特征自学习能力和支持向量机优秀的小样本分类性能,避免了手工特征提取的弊端,可对不同故障类型的振动信号实现更精准的识别。多组对比实验表明,相比传统方法,笔者所提出的模型具有更优秀的故障识别能力,诊断准确率可达98%以上。

面向飞参数据异常检测的SAE优化方法比较

首先阐述了稀疏自动编码器(SAE)及随机梯度下降法、共轭梯度法和有限内存拟牛顿法等三种优化方法的基本原理,然后选取了某型飞机200架次平稳飞行状态下的4类飞参数据,并根据飞参数据异常检测的实际需求通过实验得到了最佳算法参数和结构参数的配置方式。最后比较了三种优化方法处理不同数据集的重构误差、收敛速度以及样本集受到噪声污染时的重构准确率,从而找出了最适用于飞参数据异常检测的方法,为今后研究提供参考。

基于VMD-样本熵和SSAE的齿轮故障诊断

针对旋转机械中齿轮故障非线性、非平稳并伴有一定的噪声干扰的特点,文章提出一种基于变分模态分解(Variational mode decomposition,VMD)和堆叠稀疏自编码(Stack sparse auto encoder,SSAE)的齿轮故障诊断方法。将原始齿轮振动信号由一维转化为二维信号,对二维信号每一行进行VMD分解得到若干有限带宽的内禀模态分量(Bandwidth limited intrinsic mode function,BLIMF),比较各模态分量的样本熵,选择样本熵最大的模态分量构成特征向量。将特征向量作为SSAE的输入进行模式识别,最终实现齿轮故障的分类。通过实例验证及对比实验,结果表明该方法具有较高的分类精度和诊断效率。

基于KPCA-SAE网络的轨道电路故障诊断方法研究

目前,ZPW-2000型轨道电路故障判别主要依赖人工对数据进行分析,该判别方式效率低、周期较长、对人工依赖程度高。为此,引入了栈式自编码网络(Stacked auto-encoder,SAE)和核主元分析(Kernel principal component analysis,KPCA)的相关理论对ZPW-2000型轨道电路进行故障诊断。首先,根据轨道电路的工作原理和故障特点,建立了KPCA-SAE故障诊断模型。然后,将现场工作人员采集的数据中关键部件的相关参数作为故障特征参数,利用KPCA对故障特征矩阵进行降维降噪处理,避免信息冗余。之后,利用SAE网络对处理后的故障数据进行训练,并采用BP算法对模型参数进行整体优化。最后,在Matlab环境下进行仿真实验。仿真结果表明,所提出的基于KPCA-SAE的轨道电路故障诊断模型是有效可行的,与传统的故障数据人工分析方法及其他智能算法相比,其故障识别准确率更高。