稀疏网络编码中秩分布分析模型研究

针对现有稀疏网络编码研究中线性相关概率性能指标精准度较低的问题,提出基于马尔可夫链的性能分析模型。对线性相关概率、秩的概率分布等性能指标及其复杂度进行分析,并通过该性能分析模型分析编码包传输后期的译码成功概率;基于吸收马尔可夫链计算编码包传输过程中的瞬态、吸收态以及各状态间的状态转移概率,并对状态转移概率中蒙特卡罗模拟误差较大的问题进行改进,由状态转移概率构建吸收马尔可夫链基本矩阵,得出信宿端收到非再生包的线性相关概率,进而推导出秩的概率分布和译码成功概率性能指标。仿真结果表明,在相同条件下所提模型性能指标精确度均优于对比模型,且能精确地评估信宿端解码矩阵秩的概率分布、译码成功概率等稀疏网络编码的译码行为。

基于堆叠稀疏去噪自编码器的混合入侵检测方法

针对高维数据场景下传统入侵检测方法特征提取困难、检测准确率低等问题,提出一种集成多种深度学习模型的混合入侵检测方法.该方法由特征降维算法和混合检测模型2部分组成.首先,利用堆叠稀疏去噪自编码器对原始数据进行特征降维,从而剔除可能存在的噪声干扰和冗余信息.然后,采用一维卷积神经网络和双向门控循环单元学习数据中的空间维度特征和时序维度特征,将融合后的空时特征通过注意力分配不同的权重系数,从而使有用的信息得到更好表达,再经由全连接层训练后进行分类.为检验方案的可行性,在UNSW-NB15数据集上进行验证.结果表明,该模型与其他同类型入侵检测算法相比,拥有更优秀的检测性能,其准确率达到99.57%,误报率仅为0.68%.

基于稀疏编码非局部注意力对偶网络的病理图像超分辨率重建

高分辨率的病理学图像是疾病高精度诊断的客观依据,在精准医学领域具有重要意义。然而,受硬件设备分辨率和扫描时长的限制,实时获取高分辨率病理图像存在困难。经典的图像超分辨率重建算法由于模型的参数较难估计,导致重建后图像细节模糊且不够真实,不适用于病理学图像。为此,文中提出稀疏编码非局部注意力对偶网络,通过上采样和降采样对偶分支中的稀疏编码非局部注意力机制、高斯约束以及参数共享策略来实现病理学图像的超分辨率重建。重建后的病理图像峰值信噪比和结构相似性分别达到了30.84 dB和0.914。研究结果表明,所提方法不但能够实现病理学图像中高频细节的精确重建,轻量化的稀疏编码非局部注意力机制也有效地提高了建模的效率,是病理学图像超分辨率重建的一种有效方法。

稀疏表示自编码网络的齿轮平稳型故障特征提取研究

受到噪声和设备偏心等因素的干扰,定轴齿轮平稳型故障的整体特征参数难以准确提取,而智能诊断方法提取的多为抽象特征,不具备可解释性。联合平稳型故障响应机理与稀疏表示理论,设计了具备可解释性的稀疏表示自编码网络,将自编码网络的编码层和解码层分别等效为稀疏向量的求解与过完备字典的学习;基于平稳型故障信号参数的特征设计了自适应优化算法,有效实现了特征参数的快速全局寻优;结合设计的稀疏表示自编码网络与齿轮平稳型故障信号特征构建了深度神经网络,对故障信号进行高精度的特征重构。仿真分析表明该方法特征提取精度高、抗噪性能好,能够直接提取具有明确物理意义的平稳型故障特征参数,进一步验证了所提方法的有效性。

基于SAE-BP神经网络的审计风险识别研究——以计算机、通信和其他电子设备制造业行业为例

审计风险的识别和评估是现代风险导向审计的重要内容,为准确地识别审计风险,建立了一套基于SAE-BP神经网络的审计风险识别模型。选取16个指标构成重大错报风险评估模型的输入指标体系,利用SAE算法提取特征,通过机器学习模型BP神经网络分类器进行识别,构建SAE-BP神经网络,并选取135个A股上市公司作为样本进行了实证分析。结果表明:该模型运算速度快,模型平均识别准确率较高,可以达到88.5%,能够对审计风险进行高质量识别,有效提高了审计的效率。

面向图像去噪的深度双层群稀疏编码网络

当前基于深度学习的图像去噪方法主要是利用深度神经网络将噪声图像直接映射到干净图像,忽略了图像去噪任务知识。针对该问题,提出了一种基于双层群稀疏编码的深度图像去噪网络。为了充分利用图像中相似结构以及对相似块之间的特异性有效表示,提出了双层群稀疏编码图像去噪模型,并表示成l_(2,1)-l_(1)范数优化问题。利用算法展开技术将所提去噪模型的优化解转化成“端到端”的深度神经网络。为了进一步提高网络训练的稳定性,所提去噪网络中引入一种改进的残差连接。在BSD68、Set12、CBSD68、Kodak24和Urban100等常用数据集上的实验结果表明,所提算法在主观视觉质量和客观评价指标上优于一些主流的去噪方法。特别地,针对噪声等级为75,所提算法在CBSD68数据集上比经典的DnCNN算法平均PSNR指标提高了1.3 dB。

基于强制稀疏自编码神经网络的作战态势评估方法研究

针对传统数据挖掘方法无法解决态势评估中防空体系特征自主挖掘和生成机理分析的问题,提出一种基于强制自编码神经网络的态势评估方法。结合大数据与复杂网络技术,构建强制自编码深度学习网络模型,形式化描述体系能力指标之间的级联涌现关系,在战场态势预测分析的基础上,进一步深入分析体系能力生成机理及贡献度,并通过仿真数据对模型进行验证。该模型对体系能力指标涌现的形式化描述,不仅体现了涌现过程的非线性、不确定性等复杂性特征,还赋予指标体系相对明确的物理含义,为辅助指挥员深入认知复杂战场态势提供了可行的方法手段。

基于稀疏自动编码深度神经网络的感应电动机故障诊断

针对目前感应电动机故障诊断大多采用监督学习提取故障特征的现状,提出一种将去噪编码融入稀疏自动编码器的深度神经网络,实现非监督学习的特征提取并用于感应电动机的故障诊断。稀疏自动编码器通过自动学习复杂数据的内在特征来提取简明的数据特征表达。为提高特征表达的鲁棒性,在稀疏编码器的基础上融入去噪编码,提取更有效的特征表达用来训练神经网络分类器进而完成整个深度神经网络的构建,并结合反向传播算法对深度神经网络进行整体微调,提升故障分类的准确度。整个训练过程引入'dropout'训练技巧,减少因过拟合带来的预测误差。试验结果表明,相比传统反向传播(Back propagation,BP)神经网络,提出的深度神经网络能更有效地实现感应电动机故障诊断。

融合梯度差信息的稀疏去噪自编码网络在异常行为检测中的应用

本文是在稀疏去噪自编码网络的基础上,增加梯度差约束条件改进了自编码网络的解码效果,并成功地应用于全局异常行为检测的领域.基于稀疏自编码网络异常行为的检测过程是通过训练非异常行为的视频帧数据得到自编码网络模型,将待测视频帧输入模型,根据前向传播算法得到模型的输出,计算输出与输入之间的损失值,当该值高于某个阈值时,判定该视频帧中存在异常行为.通过在标准异常行为库开展的实验表明融合梯度差信息的稀疏去噪自编码网络算法较传统的稀疏去噪自编码网络算法在全局异常行为检测中更加有效.

基于SCADA数据分析和稀疏自编码神经网络的风电机组在线运行状态监测

通过融合稀疏自编码器和深度神经网络算法,提出一种基于SCADA数据的风电机组在线运行状态监测方法。首先,通过稀疏自编码器学习SCADA高维数据中复杂的内在特征,得到数据的降维表示;其次,基于降维后的数据利用深度神经网络预测风电机组的有功功率,通过对比分析预测功率与实际功率之间的残差判断风电机组的运行状态;最后,利用某风电机组近一年半的SCADA数据,对所提方法进行验证分析,结果表明,所提方法提早5天检测出风电机组发电机的异常情况,为有效避免故障恶化引发的突然停机、降低运维成本、提高风电能源的竞争力提供技术支持和保障。

基于稀疏降噪自编码器的深度置信网络

传统的深度置信网络(DBN)采用随机初始化受限玻尔兹曼机(RBM)的权值和偏置的方法初始化网络。虽然这在一定程度上克服了由BP算法带来的易陷入局部最优和训练时间长的问题,但随机初始化仍然会导致网络重构和原始输入的较大差别,这使得网络无论在准确率还是学习效率上都无法得到进一步提升。针对以上问题,提出一种基于稀疏降噪自编码器(SDAE)的深度网络模型,其核心是稀疏降噪自编码器对数据的特征提取。首先,训练稀疏降噪自编码;然后,用训练后得到的权值和偏置来初始化深度置信网络;最后,训练深度置信网络。在Poker Hand纸牌游戏数据集和MNIST、USPS手写数据集上测试模型性能,在Poker Hand数据集下,方法的误差率比传统的深度置信网络降低46.4%,准确率和召回率依次提升15.56%和14.12%。实验结果表明,所提方法能有效地改善模型性能。

稀疏自编码深度神经网络及其在滚动轴承故障诊断中的应用

针对目前滚动轴承故障诊断主要采用监督式学习提取故障特征的现状,提出了一种基于稀疏自编码的深度神经网络,实现非监督学习自动提取滚动轴承振动信号的内在特征用于滚动轴承故障诊断。首先,将轴承故障振动信号的频谱训练稀疏自编码获得参数;然后用稀疏自编码获得的参数和轴承振动信号频谱的频谱训练深度神经网络,并结合反向传播算法对深度神经网络进行整体微调提高分类准确度;最后用训练好的深度神经网络来识别滚动轴承故障。对正常轴承、外圈点蚀故障、内圈点蚀故障和滚动体裂纹故障振动信号的分析结果表明:相比反向传播神经网络,提出的深度神经网络更能准确的识别滚动轴承故障类型。

基于稀疏矩阵的低复杂度安全网络编码算法

针对安全网络编码复杂度较大的问题,提出一种基于稀疏矩阵的安全网络编码算法。利用稀疏矩阵占用较少的存储空间和运算速度快的优点,在信源处将信源信息与稀疏矩阵进行矩阵变换操作,使得随机网络编码能以较高的概率达到信息论安全的要求。仿真结果表明,该算法能提高编解码速率,降低复杂度,减少存储空间。

基于稀疏自编码神经网络的肺结节特征提取及良恶性分类

目的:针对目前计算机辅助诊断中肺结节特征提取单纯依靠人工设计,分类结果存在很大差异这一问题,提出一种新的肺结节特征自动提取及良恶性分类方法。方法:首先通过阈值概率图从肺部CT图像中分割肺结节图像,然后通过一个2层的稀疏自编码神经网络自动提取肺结节图像的特征,最后利用Logistic回归分类器对提取到的特征进行良恶性分类。结果:肺部图像数据库联盟(1ung image database consortium,LIDC)数据库上的实验结果表明,与目前基于人工设计的特征提取方法相比,该提取方法获得了最高的分类精度与曲线下面积(area under curve,AUC)值。结论:稀疏自编码神经网络能够直接从肺结节图像本身自动提取肺结节特征,避免了人工提取及选择的差异性,提高了肺结节良恶性分类的准确度,能够为临床诊断提供参考依据。

基于堆叠稀疏去噪自动编码网络与多隐层反向传播神经网络的铣刀磨损预测模型

刀具磨损状态是机械加工过程中需考虑的重要因素之一。针对铣刀磨损的在线预测问题,建立了一种基于深度学习的铣刀磨损预测模型。首先,将采集到的铣刀切削时的振动信号进行小波去噪后,利用快速傅里叶变换和小波包分解等技术提取时域、频域及时频域上的特征参数,并根据相关性分析从中筛选出合格的特征参数合并为特征向量,以此作为堆叠稀疏去噪自动编码网络(SSDAE)的含噪样本。其次,利用特征后处理的方式对已经筛选出的特征参数进行单调不递减及平滑处理,并将其作为SSDAE的无噪样本来训练该网络。然后,将经过SSDAE降维后的特征向量作为多隐层反向传播神经网络(BPNN)的输入,以这些特征对应的实际铣刀的磨损量作为标签对该网络进行拟合训练。最后,对训练好的模型进行实验验证,通过测试数据集和人为加入噪声的测试数据集的对比,结果显示所提模型不仅具有较高的预测精度,还具有较高的鲁棒性。

堆叠稀疏自编码深度神经网络算法及其在滚动轴承故障诊断中的应用

针对目前机械设备故障数据量大、多样性且主要采用监督式学习提取故障特征的现状,提出一种堆叠稀疏自编码深度神经网络,实现无监督学习提取振动信号内在特征,并用于滚动轴承故障诊断。将频谱包络线作为低层输入逐层训练网络,获取故障特征表达,输入Softmax分类器实现故障分类;通过优化算法对整个深度神经网络进行微调,提高分类精度。滚动轴承故障诊断实验结果表明:所提出的深度神经网络能更准确地实现故障诊断,且在保证准确率的同时将频谱包络线作为低层输入,能够提高计算效率。

基于稀疏堆叠降噪自编码器-深层神经网络的语音DOA估计算法

针对传统波达方位(DOA)估计算法在低信噪比下定位误差大的问题,提出基于稀疏堆叠降噪自编码器-深层神经网络的语音DOA估计算法。该算法将阵列协方差矩阵上三角阵作为DOA估计特征输入到稀疏堆叠降噪自编码器进行预训练,采取迁移学习策略将训练得到的最优权重作为深度神经网络的初始权重,提高网络的抗噪性、泛化性和收敛速度。仿真与实验结果表明,与传统DOA估计算法相比,该算法在低信噪比情况下定位误差小、准确度高。

基于改进稀疏自编码神经网络的软件缺陷预测

针对软件缺陷预测时普遍存在的样本缺陷数据不平衡、特征冗余等问题,引进稀疏自编码(SAE)神经网络并加以改进,提出了一种新的分类模型。模型结合了SAE神经网络和少数样本合成过采样技术(SMOTE)的优点,可弥补传统分类方法在软件缺陷预测时忽视少数类分类效果、不能很好地保留数据内部特征等不足。基于NASA软件缺陷公共数据库中多个数据集的实验结果表明:提出的模型在软件缺陷预测方面的分类效果明显优于其他算法,尤其提高了不平衡数据集中少数类的分类精度。

一种稀疏降噪自编码神经网络研究

近年来,基于深度学习的自编码神经网络是数据降维问题研究的热点,数据降维能够有效地消除无关和冗余信息,提高学习数据内在特征的效率.研究了在原始数据预处理时加入噪声,可训练出对输入信息更加鲁棒的表达,从而提升自编码神经网络模型对输入数据的泛化能力.提出了一种稀疏降噪自编码神经网络(Sparse De-noising Auto-Encoder,SDAE),基于稀疏性的思想,对降噪自编码神经网络加以改进,使得抽象出的特征稀疏表示,更有效的用于数据分类.实验结果表明稀疏降噪自编码神经网络(SDAE)分类准确率要优于传统的自编码神经网络及降噪自编码神经网络.

模拟视觉系统的非负稀疏编码神经网络模型

非负稀疏编码(NNSC)神经网络模型能够有效模拟人脑初级视觉系统主视皮层V1区神经元的感受野,有效抽取自然界的特征,目前已在图像处理领域中得到广泛应用.考虑NNSC建模过程中稀疏先验分布的选取、特征基矩阵的稀疏度约束、特征基的最大化代表性、图像数据类别先验信息等主要因素,主要讨论了基于正态逆高斯(NIG)密度的双层反馈NNSC(NIG-N NSC)模型、基于局部特征的NNSC(LNNSC)模型以及基于Fisher线性判据的NNSC(FLD-NNSC)模型.研究结果表明,拓展的NNSC模型在图像特征提取、图像消噪和图像恢复中具有一定的实用性.