基于多特征融合自编码器的无监督地震相分类研究

地震相分类是地震数据解释中的一个重要步骤,是地震数据与沉积相的连接工具.为了提高地震相分类精度和减少对有限人工标签的依赖,本文提出了一种基于多特征融合自编码器的无监督地震相分类方法.首先,提出了一种混合卷积和变分编码的多特征融合自编码器,实现了地震数据中表征地震相的大量隐含特征提取.其次基于非负矩阵分解和K均值聚类实现了主特征分量分解和地震相聚类.实际地震数据应用结果和指标分析表明,本文方法提取的隐含特征趋于正态分布,且主特征分量中蕴含了不同地震相类别的响应,从而可以获得更准确的地震相分类结果.在渤海湾盆地东营凹陷古近系沙河街组湖相沉积中,清晰划分出了六类沉积微相的边界,有利于揭示三角洲沉积环境演变.

基于改进变分模态分解和优化堆叠降噪自编码器的轴承故障诊断

针对滚动轴承在噪声干扰下故障特征难以提取的问题,提出一种改进变分模态分解(VMD)和复合缩放排列熵(CZPE)的特征提取新方法,并利用优化堆叠降噪自编码器(SDAE)进行故障分类。首先,提出由“余弦相似度—峭度—包络熵”新综合评价指标自适应优化分解参数的改进VMD方法,并通过该指标筛选分解后的本征模态函数(IMF)分量;然后,为提取更全面的故障特征,引入新的复合缩放排列熵对各有效IMF的故障特征进行量化;最后,提出一种基于鼠群优化算法(RSO)与麻雀搜索算法(SSA)的混合算法优化SDAE网络超参数,将故障特征输入优化后SDAE网络中得到分类结果。采用美国CWRU轴承数据集进行验证,实验结果表明该方法能全面稳定地提取背景噪声下的故障特征,且与其他方法相比具有更好的抗噪性能和更高的故障诊断准确率。

基于双层注意力和深度自编码器的时间序列异常检测模型

目前时间序列通常具有弱周期性以及高度复杂的相关性特征,传统的时间序列异常检测方法难以检测此类异常。针对这一问题,提出了一种新的无监督时间序列异常检测模型(DA-CBG-AE)。首先,使用新型滑动窗口方法,针对时间序列周期性设置滑动窗口大小;其次,采用卷积神经网络提取时间序列高维度空间特征;然后,提出具有堆叠式Dropout双向门循环单元网络作为自编码器的基本结构,从而捕捉时间序列的相关性特征;最后,引入双层注意力机制,进一步提取特征,选择更加关键的时间序列,从而提高异常检测准确率。为了验证该模型的有效性,将DA-CBG-AE与6种基准模型在8个数据集上进行比较。最终的实验结果表明,DA-CBG-AE获得了最优的F1值(0.863),并且其检测性能相比最新的基准模型Tad-GAN高出25.25%。

融合改进自编码器和残差网络的入侵检测模型

互联网中存在大量隐私数据,因此防止网络入侵成为保护网络安全的关键问题。为提高网络入侵检测的准确率并解决其收敛慢问题,设计一种改进的堆叠自动编码器和残差网络(ISAE-ResNet)入侵检测模型。融合栈式自编码器和残差网络,首先将预处理后的数据输入到改进的栈式自编码器中,该栈式自编码器由2个副编码器和1个主编码器组成,数据经过副编码器和主编码器训练后重构出新的特征来防止过拟合问题;然后将解码层的权重捆绑到编码层进行优化,使模型参数减半来进行降维,提高模型的收敛速度;最后将处理过的数据输入到改进的残差网络中,并基于改进的ResNet网络设计一种加入软阈值函数的残差模块,通过降低数据中的噪声来提高模型准确率。在CIC-IDS-2017数据集上的实验结果表明,该模型准确率为98.67%,真正例率为95.93%,误报率为0.37%,损失函数值快速收敛至0.042,在准确率、真正例率、误报率和收敛速度方面均超过对比入侵检测模型,具有较高的有效性和可行性。

基于对抗二次自编码器和集成学习的工业过程早期故障检测

由于工业过程早期微小故障存在数据振幅小,特征强耦合的特点,导致传统自编码器模型对此类故障的检测效果不佳,对此,提出一种基于对抗二次自编码器和集成学习的工业过程早期故障检测方法。首先引入一种二次型神经元嵌入普通自编码器模型的隐藏层中,增加模型的表达能力,其次提出一种对抗性的二次自编码器,在训练过程中引入GAN网络,使自编码器的特征学习遵循特定的概率分布。然后利用集成学习思想对正常工况数据进行采样,给每个采样的子集训练一个对抗二次自编码器,利用每个子模型的SPE和T 2统计量分别生成两个矩阵,接着在生成的矩阵上使用单步滑动窗口内奇异值分解的融合策略,将每个窗口内的最大奇异值作为检测统计量。使用一个数值例子和TE过程对所提方法进行验证。实验结果表明所提方法具有良好的早期微小故障检测性能。

基于改进VGG16的自编码器视频异常检测算法

在使用自编码器结构的神经网络处理视频异常检测任务时,U-Net风格的自编码器由于编码器层数深度过浅,导致在面对复杂的数据集时,不能充分抽取更多有用的特征信息。同时,在训练模型时使用MSE(均方误差),仅考虑了预测帧与真实帧之间的像素级相似性,对于复杂场景,像素级相似性可能无法准确判断预测帧与真实帧之间的相似性。针对以上问题,对基于U-Net风格的自编码器进行改进,提出了一种使用改进的VGG16作为编码器的视频异常检测算法,同时在均方误差的基础上添加结构相似性(SSIM)损失函数。改进的VGG16去掉了全连接层,并加入了残差连接防止特征退化,添加SSIM在计算像素级相似性的同时计算图像的亮度、对比度和结构等方面的相似性来优化网络。实验结果表明,改进后的算法,在Ped2数据集上检测效果达到95.91%,在Avenue数据集上检测效果达到84.89%,与改进前的方法相比分别提高了0.80%和0.19%,验证了所提方法的有效性。

基于分阶段自编码器与注意力机制的舰载机着舰航迹实时预测模型

航空母舰舰载机着舰过程中应沿相对固定的航迹下滑,以保证触舰点位于舰艉拦阻系统所在的区域,因此舰载机航迹是着舰信号官进行指挥决策的重要依据之一。舰载机航迹实时预测有助于着舰信号官判断着舰作业发展态势,及时形成正确的航迹纠偏引导指令。为此,提出一种基于分阶段自编码器与注意力机制的着舰航迹实时预测模型。第一阶段采用降噪自编码器对历史航迹数据进行特征提取;第二阶段基于长短期记忆网络构建时序自编码器,同时引入注意力机制对不同时刻的编码器输出分配不同的权重,自适应学习其对最终预测结果的影响强度。通过仿真实验将所提模型与6种基线模型进行对比,结果表明,所提模型的综合性能优于基线模型,能够满足着舰航迹实时准确预测的应用需求。

结合LSTM自编码器与集成学习的井漏智能识别方法

为了解决传统的井漏智能识别模型因井漏样本数量受限导致其识别准确率低的问题,提出了一种长短期记忆(long short-term memory,LSTM)网络与自编码器(auto-encoder,AE)相结合、集成LSTM-AE的井漏智能识别方法。首先,采用正常样本训练多个包含不同隐藏层神经元数目的LSTM-AE模型,利用重构得分筛选出识别效果较好的几个模型作为基识别器;然后,采用集成学习对多个基识别器的识别结果进行加权融合,解决单一模型因对样本局部特征过度学习导致的误报与漏报问题,提高模型的识别准确率。从某油田18口井的钻井数据中选取了6000组正常钻进状态下的立压、出口流量、池体积数据,对集成LSTM-AE模型进行训练和测试,结果表明,提出方法的识别准确率达到了94.7%,优于其他常用的智能模型的识别结果,为井漏识别提供了一种新的技术途径。

结合传递比与栈式自编码器的结构损伤识别

如何从土木结构响应数据中挖掘损伤特征并有效分类,是实现损伤模式识别的关键。为此,以框架结构为分析对象,搭建设有自编码器隐藏层和Softmax分类层的栈式自编码器网络,采用无监督联合有监督的混合学习机制;基于有限元分析获取框架不同工况下的传递比函数值,构建训练集、验证集和测试集样本;通过预训练确定自编码器隐藏层的参数值如权重和偏置值,避免网络出现过拟合;采用微调方式进一步调整预训练后的网络参数值,再结合验证集实现对网络超参数的调整;将实测传递比数据输入网络,实现对框架节点损伤的评估。结果表明:所提方法能有效进行损伤特征的提取和分类,准确识别框架节点的单、双损伤工况,相较于传统浅层神经网络具有更高的识别准确度和更好的抗噪性。

一种POA-VMD和自编码器结合的风电机组轴承劣化指标构建及故障诊断方法

针对目前轴承性能劣化指标的构建及故障诊断高度依赖专家经验,限制条件繁多,实际应用情景单一的问题,提出一种鹈鹕优化算法(POA)优化的变分模态分解(VMD)和自编码器结合的风机轴承劣化指标构建及故障诊断方法。首先利用POA-VMD算法将轴承振动信号采用自适应方法分解为K个固有模态分量(IMF),并针对上述分量分别构建K个自编码器;然后以正常状态振动信号的分解结果为训练样本完成自编码器的训练,并以训练完成后模型的输出结果为基础构建轴承劣化指标,借助劣化指标监测轴承早期微弱故障;最后对故障时刻振动信号的IMF分量重构结果进行包络谱分析,确定故障的类型。经实验验证:该方法不仅可以清晰地展现轴承的劣化过程,对早期微弱故障敏感性高,而且在故障发生后可以准确诊断出故障类型。

基于自编码器的动态协作中继系统

鉴于大多数现有端到端自编码器(AE)仅适用于点对点的通信场景,提出一种基于AE的动态协作通信系统,将基于深度学习的AE扩展到多点通信系统。构建了3个神经网络子系统,分别用于学习发送端、中继节点和接收端的最佳编码、传输和解码,通过三者的联合训练达到多点通信系统的最佳传输性能。其中,发送端和接收端使用一维卷积层进行信号特征的提取及学习,中继节点通过引入密集层和一维卷积层,支持放大转发(AF)和解码转发(DF)两种经典的中继协作方式。仿真实验表明,在加性高斯白噪声以及瑞利衰落信道条件下,提出的模型采用两种不同的协作方式,其误码性能均优于单一点到点通信系统,验证了系统方案的可行性和有效性。此外,该系统支持动态的节点拓扑结构,在无需额外训练的条件下,本系统支持中继节点数量实时变化。

基于自编码器的差分隐私推荐算法

随着深度学习技术在推荐系统领域的快速发展,用户隐私保护问题变得愈发突出。针对这一问题,提出了一种新颖的方法,将差分隐私及自编码器技术应用于深度学习模型训练中,并设计了DPAutoRec算法。该算法通过向梯度中添加符合差分隐私条件的噪声,有效实现了用户隐私的保护。在Movielens-1M数据集上进行了广泛的实验验证,并与传统的AutoRec算法进行了对比,结果表明,在确保差分隐私的前提下,DPAutoRec能够提供有价值的预测结果,为用户隐私和个性化推荐的平衡提供了新的思路与解决方案。

基于矢量量化变分自编码器的混凝土表观裂缝检测算法

提出了一种基于第2代矢量量化变分自编码器(VQ-VAE-2)的自监督混凝土表观裂缝检测算法,可以在缺少裂缝样本的条件下实现高效检测。以重建误差为检测指标,利用无裂缝图片训练VQ-VAE-2,使其在重建裂缝图片时产生更大的重建误差;在计算重建误差时将原图和重建图片均分割成若干图块,取对应图块间重建误差最大值作为图片的重建误差,以增大2类图片的重建误差差异。结果表明,该算法的精确率为0.954,召回率为0.959,准确率为0.956,F1分数为0.957。在无裂缝样本作为训练集的情况下,该算法能较好地完成混凝土表观裂缝检测任务。

一种曲线数据压缩的自编码器神经网络方法

矢量空间数据的压缩是减少存储空间及节省网络传输带宽最直接有效的途径。本文利用自编码器神经网络构建了一种面向矢量曲线数据的压缩和解压模型。该模型针对不同规模和复杂度的曲线数据,首先进行分段和重采样处理进而规范化输入向量,然后通过优化自编码器结构和调整损失函数实现了高精度的压缩解码模块,最后通过弧段数据的坐标闭合差分配确保了数据的稳定性。对山西、湖南、江西3省的1∶100万县级弧段进行了压缩和还原试验,分析发现:数据还原精度随压缩率变小而变小,当压缩率小于35%后,数据还原精度呈波动趋势,25%为满足精度要求的适宜压缩率。比较傅里叶级数及贝塞尔曲线拟合方法发现本文模型压缩精度和处理速度在一定的压缩率范围内存在优势,同时该模型说明了深度学习在提取空间要素几何特征方面有一定的潜力。

融合注意力机制的自编码器推荐算法

为充分获取用户的个性化信息,提高推荐算法的准确性,提出了一种融合注意力机制的自编码器推荐算法。所提算法首先针对数据中蕴含的低阶特征和高阶特征,专门设计了相应的特征提取模块,增强传统编码器的泛化能力和记忆能力,然后利用注意力机制对特征进行融合,得到关于用户偏好信息的向量表示,并通过解码器预测用户对物品的购买意愿,最终实现个性化推荐任务。在ML-100K,ML-1M和Yahoo Music三个数据集上进行实验,并与主流个性化推荐算法进行对比,本文算法在Precision,Recall,F1值和归一化折损累计增益(NDCG)四个指标上均有较大的提升。在互联网推荐场景下,本文算法能够充分挖掘出用户的偏好信息,为用户提供高质量的推荐结果即给出合理的物品购买决策建议,从而最大化满足用户需求。

散列记忆网络增强的自编码器异常检测方法

深度自编码器是异常检测的重要工具,通过异常样本由于分布的差异,无法在编码器中进行重构这一假设实现对异常的检测.而实际应用中,由于深度自编码器的泛化性较强,异常输入后也能实现较好重构,导致漏检情况发生.本文在改进注意力机制基础上,构建了一个散列记忆网络增强的自编码器异常检测方法,较好解决了这一问题.首先,模型将输入编码为编码信息,根据编码信息获取子查询向量,然后通过子查询向量获取子注意力权重及对应子索引,再将子权重交叉求和获得散列权重及索引并从记忆网络单元检索出解码信息,最后利用解码信息进行重构输出.重构的输出总是与正常数据相似,使得异常输入与重构输出之间的重构误差将被放大,从而让异常更容易被识别.仿真实验表明,本文提出方法在图像、视频监控、通用异常检测任务中,均取得了较好的检测效果.

基于物品交互约束的自编码器推荐模型

近年来,自编码器凭借其良好的数据压缩能力在推荐领域得到广泛应用。研究发现,受推荐系统中数据稀疏性的影响,自编码器模型会因为用户与物品之间缺少交互而在训练过程中产生偏差,从而影响模型的推荐结果。为解决此问题,提出一种基于物品交互约束的自编码器推荐模型。该模型以物品交互情况作为约束条件,设计了新的参数更新规则,规避了由数据稀疏性引入的模型训练偏差。在此基础上,推荐模型还将物品标签信息引入到训练中,通过增加新的数据源来缓解数据稀疏性的影响,提升推荐性能。在3个不同规模和稀疏度的数据集上的实验表明,模型对稀疏数据集具有良好的适应性,能够有效提高推荐的准确性,展现出良好的应用潜力。

基于异常感知的变分图自编码器的图级异常检测算法

图异常检测在识别复杂数据结构的异常模式中具有重要作用,被广泛地应用于有害分子识别、金融欺诈检测、社交网络分析等领域.但目前的图异常检测研究大多数聚焦在节点级别的异常检测,针对图级别的异常检测方法仍然较少,且这些方法并不能对异常图数据进行充分挖掘,且对异常标签比较敏感,无法有效地捕捉异常样本的特征,存在模型泛化能力差、性能翻转问题,异常检测能力有待提升.提出了一种基于异常感知的变分图自编码器的图级异常检测算法(anomaly-aware variational graph autoencoder based graph-level anomaly detection algorithm,VGAE-D),利用具有异常感知能力的变分图自编码器提取正常图和异常图数据的特征,并差异化正常图和异常图在编码空间中的编码信息分布,对图编码信息进一步挖掘来计算图的异常得分.在不同领域的8个公开数据集上进行实验,实验结果表明,提出的图级别异常检测方法能有效地对不同数据集中的异常图进行识别,异常检测性能高于目前主流的图级别异常方法,且具有少异常样本学习能力,较大程度上克服了性能翻转问题.

跳连接变分自编码器与CNN相结合的滚动轴承故障诊断方法

针对滚动轴承故障率小、不易收集故障数据的问题,提出基于跳跃连接变分自编码器与宽核深度卷积神经网络相结合的小样本故障诊断方法。该方法首先在变分自编码器的编码和解码之间引入跳跃连接结构,并将Tanh作为网络的激活函数,进而提高生成样本的特征多样性;其次,构建宽核深度卷积网络诊断模型,该模型可以提高从振动信号中提取故障特征的能力;最后,经生成样本扩充的数据集作为模型输入,提高训练集包含的特征信息量,实现小样本下的故障诊断。实验分析表明,所提方法在小样本情形下能生成有效的伪样本并具有较高的诊断精度。

基于深度自编码器的城市固废焚烧过程燃烧状态识别

国内城市固废(municipal solid waste,MSW)的组分复杂且多变,其焚烧过程的燃烧状态识别主要依靠人工判断,难以维持稳定的运行工况。针对上述问题,提出了一种基于深度自编码器的分区域燃烧状态识别方法。首先,依据炉排结构对燃烧段和燃烬段的分界线进行标定;然后,利用具有深层结构的卷积稀疏自编码器(convolutional sparse autoencoder,CSAE)提取两部分火焰图像的特征;最后,将特征分别输入到相应的最小二乘支持向量机进行状态识别。基于处理规模为750 t/d的焚烧炉的不同燃烧状态图像进行实验,实验结果表明,在有限的标记样本数量下,所提方法的平均识别准确率为98.04%,该方法能够实现MSW燃烧状态的实时监测。