融合改进自编码器和残差网络的入侵检测模型

互联网中存在大量隐私数据,因此防止网络入侵成为保护网络安全的关键问题。为提高网络入侵检测的准确率并解决其收敛慢问题,设计一种改进的堆叠自动编码器和残差网络(ISAE-ResNet)入侵检测模型。融合栈式自编码器和残差网络,首先将预处理后的数据输入到改进的栈式自编码器中,该栈式自编码器由2个副编码器和1个主编码器组成,数据经过副编码器和主编码器训练后重构出新的特征来防止过拟合问题;然后将解码层的权重捆绑到编码层进行优化,使模型参数减半来进行降维,提高模型的收敛速度;最后将处理过的数据输入到改进的残差网络中,并基于改进的ResNet网络设计一种加入软阈值函数的残差模块,通过降低数据中的噪声来提高模型准确率。在CIC-IDS-2017数据集上的实验结果表明,该模型准确率为98.67%,真正例率为95.93%,误报率为0.37%,损失函数值快速收敛至0.042,在准确率、真正例率、误报率和收敛速度方面均超过对比入侵检测模型,具有较高的有效性和可行性。

结合LSTM自编码器与集成学习的井漏智能识别方法

为了解决传统的井漏智能识别模型因井漏样本数量受限导致其识别准确率低的问题,提出了一种长短期记忆(long short-term memory,LSTM)网络与自编码器(auto-encoder,AE)相结合、集成LSTM-AE的井漏智能识别方法。首先,采用正常样本训练多个包含不同隐藏层神经元数目的LSTM-AE模型,利用重构得分筛选出识别效果较好的几个模型作为基识别器;然后,采用集成学习对多个基识别器的识别结果进行加权融合,解决单一模型因对样本局部特征过度学习导致的误报与漏报问题,提高模型的识别准确率。从某油田18口井的钻井数据中选取了6000组正常钻进状态下的立压、出口流量、池体积数据,对集成LSTM-AE模型进行训练和测试,结果表明,提出方法的识别准确率达到了94.7%,优于其他常用的智能模型的识别结果,为井漏识别提供了一种新的技术途径。

基于Time-awareLSTM双向自动编码器的患者疾病分型

医学领域中,患有相同疾病的患者之间也存在差异性,看似简单的疾病也可能表现出不同程度的复杂性,这给患者的识别、治疗和预后都带来巨大挑战.本文使用以纵向非结构化时序存储的电子病历来解决患者异质性,通过抓住就诊时间间隔不规律的特点增强对于隐藏信息的获取,经过前向和后向的双向学习捕捉当前就诊记录与过去和未来信息的联系,加深对于原序列特征提取的层次,使模型做出更为精准的决策.本文提出的BT-DST模型使用time-aware LSTM单元构造双向自动编码器学习患者强大的单一表示,然后将其用于患者聚类,通过统计分析得到患者针对当前疾病的亚型分型,可针对不同群体采用不同类型的治疗干预,为不同类患者提供针对其健康状况的精准医疗.

基于自编码器的差分隐私推荐算法

随着深度学习技术在推荐系统领域的快速发展,用户隐私保护问题变得愈发突出。针对这一问题,提出了一种新颖的方法,将差分隐私及自编码器技术应用于深度学习模型训练中,并设计了DPAutoRec算法。该算法通过向梯度中添加符合差分隐私条件的噪声,有效实现了用户隐私的保护。在Movielens-1M数据集上进行了广泛的实验验证,并与传统的AutoRec算法进行了对比,结果表明,在确保差分隐私的前提下,DPAutoRec能够提供有价值的预测结果,为用户隐私和个性化推荐的平衡提供了新的思路与解决方案。

融合注意力机制的自编码器推荐算法

为充分获取用户的个性化信息,提高推荐算法的准确性,提出了一种融合注意力机制的自编码器推荐算法。所提算法首先针对数据中蕴含的低阶特征和高阶特征,专门设计了相应的特征提取模块,增强传统编码器的泛化能力和记忆能力,然后利用注意力机制对特征进行融合,得到关于用户偏好信息的向量表示,并通过解码器预测用户对物品的购买意愿,最终实现个性化推荐任务。在ML-100K,ML-1M和Yahoo Music三个数据集上进行实验,并与主流个性化推荐算法进行对比,本文算法在Precision,Recall,F1值和归一化折损累计增益(NDCG)四个指标上均有较大的提升。在互联网推荐场景下,本文算法能够充分挖掘出用户的偏好信息,为用户提供高质量的推荐结果即给出合理的物品购买决策建议,从而最大化满足用户需求。

一种POA-VMD和自编码器结合的风电机组轴承劣化指标构建及故障诊断方法

针对目前轴承性能劣化指标的构建及故障诊断高度依赖专家经验,限制条件繁多,实际应用情景单一的问题,提出一种鹈鹕优化算法(POA)优化的变分模态分解(VMD)和自编码器结合的风机轴承劣化指标构建及故障诊断方法。首先利用POA-VMD算法将轴承振动信号采用自适应方法分解为K个固有模态分量(IMF),并针对上述分量分别构建K个自编码器;然后以正常状态振动信号的分解结果为训练样本完成自编码器的训练,并以训练完成后模型的输出结果为基础构建轴承劣化指标,借助劣化指标监测轴承早期微弱故障;最后对故障时刻振动信号的IMF分量重构结果进行包络谱分析,确定故障的类型。经实验验证:该方法不仅可以清晰地展现轴承的劣化过程,对早期微弱故障敏感性高,而且在故障发生后可以准确诊断出故障类型。

基于双层注意力和深度自编码器的时间序列异常检测模型

目前时间序列通常具有弱周期性以及高度复杂的相关性特征,传统的时间序列异常检测方法难以检测此类异常。针对这一问题,提出了一种新的无监督时间序列异常检测模型(DA-CBG-AE)。首先,使用新型滑动窗口方法,针对时间序列周期性设置滑动窗口大小;其次,采用卷积神经网络提取时间序列高维度空间特征;然后,提出具有堆叠式Dropout双向门循环单元网络作为自编码器的基本结构,从而捕捉时间序列的相关性特征;最后,引入双层注意力机制,进一步提取特征,选择更加关键的时间序列,从而提高异常检测准确率。为了验证该模型的有效性,将DA-CBG-AE与6种基准模型在8个数据集上进行比较。最终的实验结果表明,DA-CBG-AE获得了最优的F1值(0.863),并且其检测性能相比最新的基准模型Tad-GAN高出25.25%。

基于改进变分模态分解和优化堆叠降噪自编码器的轴承故障诊断

针对滚动轴承在噪声干扰下故障特征难以提取的问题,提出一种改进变分模态分解(VMD)和复合缩放排列熵(CZPE)的特征提取新方法,并利用优化堆叠降噪自编码器(SDAE)进行故障分类。首先,提出由“余弦相似度—峭度—包络熵”新综合评价指标自适应优化分解参数的改进VMD方法,并通过该指标筛选分解后的本征模态函数(IMF)分量;然后,为提取更全面的故障特征,引入新的复合缩放排列熵对各有效IMF的故障特征进行量化;最后,提出一种基于鼠群优化算法(RSO)与麻雀搜索算法(SSA)的混合算法优化SDAE网络超参数,将故障特征输入优化后SDAE网络中得到分类结果。采用美国CWRU轴承数据集进行验证,实验结果表明该方法能全面稳定地提取背景噪声下的故障特征,且与其他方法相比具有更好的抗噪性能和更高的故障诊断准确率。

散列记忆网络增强的自编码器异常检测方法

深度自编码器是异常检测的重要工具,通过异常样本由于分布的差异,无法在编码器中进行重构这一假设实现对异常的检测.而实际应用中,由于深度自编码器的泛化性较强,异常输入后也能实现较好重构,导致漏检情况发生.本文在改进注意力机制基础上,构建了一个散列记忆网络增强的自编码器异常检测方法,较好解决了这一问题.首先,模型将输入编码为编码信息,根据编码信息获取子查询向量,然后通过子查询向量获取子注意力权重及对应子索引,再将子权重交叉求和获得散列权重及索引并从记忆网络单元检索出解码信息,最后利用解码信息进行重构输出.重构的输出总是与正常数据相似,使得异常输入与重构输出之间的重构误差将被放大,从而让异常更容易被识别.仿真实验表明,本文提出方法在图像、视频监控、通用异常检测任务中,均取得了较好的检测效果.

结合图自动编码器和结构化注意力机制的miRNA-疾病关联预测方法

MicroRNA(miRNA)-疾病关联预测的研究有助于人类进行疾病预防、诊断和治疗等,许多研究人员开发出了基于图自动编码器的miRNA-疾病关联预测方法,然而大多数编码器方法在对中心节点编码的时候并没有考虑到邻居节点之间的差异。因此,本文提出一种结合图自动编码器和结构化注意力机制的miRNA-疾病关联预测方法(SAAE)。SAAE模型使用基于图神经网络的编码器,该编码器采用多个编码层堆叠的方式以探索多阶邻居的信息。为了将中心节点与邻居节点不同权重的特征信息进行融合并捕获节点在图中的高阶结构信息,引进结构化注意力机制对图节点的原始信息进行编码,以生成新的特征信息。随后,通过解码器进行解码,解码后的特征信息使用随机森林算法挖掘miRNA和疾病节点之间的潜在联系。实验结果表明,SAAE在5倍交叉验证的曲线下的平均面积为94.53%。此外,本文还进行了关于肾脏肿瘤和肺部肿瘤的2个案例研究,验证了SAAE预测的有效性。

基于改进VGG16的自编码器视频异常检测算法

在使用自编码器结构的神经网络处理视频异常检测任务时,U-Net风格的自编码器由于编码器层数深度过浅,导致在面对复杂的数据集时,不能充分抽取更多有用的特征信息。同时,在训练模型时使用MSE(均方误差),仅考虑了预测帧与真实帧之间的像素级相似性,对于复杂场景,像素级相似性可能无法准确判断预测帧与真实帧之间的相似性。针对以上问题,对基于U-Net风格的自编码器进行改进,提出了一种使用改进的VGG16作为编码器的视频异常检测算法,同时在均方误差的基础上添加结构相似性(SSIM)损失函数。改进的VGG16去掉了全连接层,并加入了残差连接防止特征退化,添加SSIM在计算像素级相似性的同时计算图像的亮度、对比度和结构等方面的相似性来优化网络。实验结果表明,改进后的算法,在Ped2数据集上检测效果达到95.91%,在Avenue数据集上检测效果达到84.89%,与改进前的方法相比分别提高了0.80%和0.19%,验证了所提方法的有效性。

基于变分图自动编码器与K均值聚类的虚拟网络嵌入算法应用

将虚拟网络映射到物理网络是网络功能虚拟化中一项重要的任务.为了有效地分配虚拟网络请求,需要将虚拟网络嵌入到物理网络拓扑中.然而,由于虚拟网络的复杂性和物理网络的限制,这一任务变得非常具有挑战性.鉴于此,研究在现有虚拟网络嵌入算法(Virtual Network Embedding, VNE)模型基础上进行改进,融入了变分图自动编码器(Variational Graph Auto-Encoders, VGAE),提出了一种新型虚拟网络嵌入算法模型.通过编码器对虚拟网络的嵌入特征进行提取,随后利用K-means聚类算法对所得到的嵌入特征进行分类,最终得到合适的嵌入分配方法.实验结果表明,该新模型相较于其他同类型的嵌入算法性能表现最佳,稳定性最好,其平均嵌入请求接受率为60%,长期平均CPU资源利用率最高达97%.综上所述,研究提出的新型虚拟网络嵌入算法在资源利用率和嵌入质量方面表现出色,能够有效应对复杂的网络环境和大规模的虚拟网络请求.

跳连接变分自编码器与CNN相结合的滚动轴承故障诊断方法

针对滚动轴承故障率小、不易收集故障数据的问题,提出基于跳跃连接变分自编码器与宽核深度卷积神经网络相结合的小样本故障诊断方法。该方法首先在变分自编码器的编码和解码之间引入跳跃连接结构,并将Tanh作为网络的激活函数,进而提高生成样本的特征多样性;其次,构建宽核深度卷积网络诊断模型,该模型可以提高从振动信号中提取故障特征的能力;最后,经生成样本扩充的数据集作为模型输入,提高训练集包含的特征信息量,实现小样本下的故障诊断。实验分析表明,所提方法在小样本情形下能生成有效的伪样本并具有较高的诊断精度。

基于上下文编码器网络的油气曲线图像脱敏方法研究

数据对于石油企业就是资产。数据加密与数据脱敏都是针对数据安全的策略,但目前数据脱敏技术仅能够针对文本实现,缺少石油企业中大量保有的图像数据脱敏技术。针对目前脱敏技术存在的不足之处及油气田勘探中的曲线图像数据特点,借鉴深度学习图像修复方法,提出一套基于上下文编码器的脱敏技术,弥补了行业内对于图像数据无法脱敏的缺陷。对该方法进行详细的测试后取得了较好的脱敏效果。对比传统方法,结果证明其能够在曲线图像这种具有专业特殊性的数据中取得更明显的效果以及更可靠的脱敏效果。

基于异常感知的变分图自编码器的图级异常检测算法

图异常检测在识别复杂数据结构的异常模式中具有重要作用,被广泛地应用于有害分子识别、金融欺诈检测、社交网络分析等领域.但目前的图异常检测研究大多数聚焦在节点级别的异常检测,针对图级别的异常检测方法仍然较少,且这些方法并不能对异常图数据进行充分挖掘,且对异常标签比较敏感,无法有效地捕捉异常样本的特征,存在模型泛化能力差、性能翻转问题,异常检测能力有待提升.提出了一种基于异常感知的变分图自编码器的图级异常检测算法(anomaly-aware variational graph autoencoder based graph-level anomaly detection algorithm,VGAE-D),利用具有异常感知能力的变分图自编码器提取正常图和异常图数据的特征,并差异化正常图和异常图在编码空间中的编码信息分布,对图编码信息进一步挖掘来计算图的异常得分.在不同领域的8个公开数据集上进行实验,实验结果表明,提出的图级别异常检测方法能有效地对不同数据集中的异常图进行识别,异常检测性能高于目前主流的图级别异常方法,且具有少异常样本学习能力,较大程度上克服了性能翻转问题.

基于VMD和时空网络变分自编码器的负荷聚类

为了解决用户用电负荷曲线数据维度高、特征提取困难以及序列存在信号模态混叠的问题,提出了使用变分模态分解(variational modal decomposition,VMD)和改进基于时空网络的变分自编码器(variational auto-encoder,VAE)对电力负荷曲线进行特征提取。通过模态分解得到信号的固有模态,对模态重构得到时序特征较明显的序列信号。再通过长短期记忆网络(long short-term memory network,LSTM)和卷积网络(convolutional neural network,CNN)组成的时空变分自编码器进行潜在特征提取,并构建网络分类器来联合损失优化自编码器模型。最后使用Minibatchkmeans算法聚类并计算聚类中心。使用UCI数据集中葡萄牙居民用电量作为实验数据,通过实验结果表明经模态分解后通过降维再聚类的算法在戴维斯丁堡指数(Davies-Bouldin index,DBI)和轮廓系数(silhouette coefficient,SC)上表现出较好效果。

基于多特征融合自编码器的无监督地震相分类研究

地震相分类是地震数据解释中的一个重要步骤,是地震数据与沉积相的连接工具.为了提高地震相分类精度和减少对有限人工标签的依赖,本文提出了一种基于多特征融合自编码器的无监督地震相分类方法.首先,提出了一种混合卷积和变分编码的多特征融合自编码器,实现了地震数据中表征地震相的大量隐含特征提取.其次基于非负矩阵分解和K均值聚类实现了主特征分量分解和地震相聚类.实际地震数据应用结果和指标分析表明,本文方法提取的隐含特征趋于正态分布,且主特征分量中蕴含了不同地震相类别的响应,从而可以获得更准确的地震相分类结果.在渤海湾盆地东营凹陷古近系沙河街组湖相沉积中,清晰划分出了六类沉积微相的边界,有利于揭示三角洲沉积环境演变.

SOSNet:一种非对称编码器-解码器结构的非小细胞肺癌CT图像分割模型

非小细胞肺癌严重损害人类健康,早期非小细胞肺癌CT(Computed Tomography)图像中的肿瘤结节体积小,不易发现,极易造成漏诊和误诊.为了精确分割非小细胞肺癌CT图像中的小体积肿瘤结节,本文提出SOSNet(Small Object Segmentation Networks)自动分割模型,利用ResNet(Residual Network)基础层和空洞卷积构造非对称编码器-解码器结构作为分割主网络,利用轴向取反注意力模块ARA(Axial Reverse Attention)逐步擦除背景中对分割有影响的结构,再使用结构细化模块SR(Structure Refinement)对主网络输出的粗略特征图进行结构细化,从而实现非小细胞肺癌肿瘤结节分割.在非小细胞肺癌公开数据集的实验测试表明,本文提出的小目标自动分割模型SOSNet可以有效分割出非小细胞肺癌CT图像中的小体积肿瘤结节,其mDice(mean-Dice)、mIoU(mean Intersection over Union)、Sensitivity、F1、Specificity、平均绝对误差MAE(Mean Absolute Error)均优于当前最先进的小目标分割模型CaraNet(Context Axial Reverse Attention Network).

基于动态规整与改进变分自编码器的异常电池在线检测方法

针对电池生产成组过程中,传统异常检测方法对混入的容量及压差异常电池检测精度低及生产结束后离线异常检测方法效率低等问题,该文提出一种集合长短期记忆变分自编码器与动态时间规整评价的锂电池异常在线检测方法(VAE-LSTM-DTW),实现了异常电池的在线检测,避免了离线异常检测所造成的时间和能源的浪费。该方法首先将长短期记忆网络(LSTM)引入变分自编码器(VAE)模型,训练电池时序数据重构模型;其次,在电池异常检测的度量标准中引入动态时间规整值(DTW),并基于贝叶斯寻优获得最优检测阈值,对每个单体电池重构数据的动态规整值进行异常辨别。实验结果表明,相较该领域传统异常检测方法,VAE-LSTM-DTW模型性能优越,查准率和F1值都得到了较大的提升,具有较高的有效性和实用性。

基于滑动窗和多块卷积自编码器的故障检测

为了进一步提升故障检测性能,充分挖掘时序和隐含特征信息,提出一种基于卷积自编码器的故障检测方法。在对原始信息集进行建模的基础上增加了对累计信息与变化率信息的建模,以增强对隐含信息的挖掘;对重构的3个信息集进行滑动窗采样,基于卷积自编码器进行时序特征提取和建模;将卷积自编码器的决策结果进行贝叶斯融合得到统计量,并用核密度估计的方法确定控制限从而进行故障检测。将该方法进行数值仿真并应用于TE过程,仿真结果验证了所提方法的有效性和检测性能。