基于多特征融合自动编码器的增量式入侵检测

针对增量式入侵检测算法由于对旧知识产生灾难性遗忘而导致对旧类别数据分类准确率不高的问题,本文提出了一种基于非对称式多特征融合自动编码器(asymmetric multi-feature fusion auto-encoder, AMAE)和全连接分类神经网络(classification deep neural network, C-DNN)的增量式入侵检测算法(ImFace).在增量学习阶段, ImFace会为每一批新的数据集训练一个AMAE模型和C-DNN模型.同时,本文通过使用变分自动编码器(variational auto-encoder, VAE)对数据进行过采样的方式来改善由于数据集不平衡而导致C-DNN对某些类别数据的检测能力不足的问题.在检测阶段, ImFace将输入数据经过所有AMAE和C-DNN,然后将AMAE的结果作为置信度来选择某一个C-DNN的输出结果作为最终结果.本文使用CICIDS2017数据集来检验ImFace算法的有效性.实验结果表明, ImFace算法不仅能够保留对旧类别的分类能力,同时对新类别的数据也有很高的检测准确率.

基于栈式自编码器特征融合的SAR图像车辆目标识别

该文提出了一种基于栈式自编码器(Stacked Auto Encoder,SAE)特征融合的合成孔径雷达(Synthetic Aperture Rader,SAR)图像车辆目标识别算法。首先,该算法提取了SAR图像的25种基线特征(baseline features)和局部纹理特征(Three-Patch Local Binary Patterns,TPLBP)。然后将特征串联输入SAE网络中进行融合,采用逐层贪婪训练法对网络进行预训练。最后利用softmax分类器微调网络,提高网络融合性能。另外,该文提取了SAR图像的Gabor纹理特征,进行了不同特征之间的融合实验。结果表明基线特征与TPLBP特征冗余性小,互补性好,融合后的特征区分性大。与直接利用SAE,CNN(Convolutional Neural Network)进行目标识别的算法相比,基于SAE的特征融合算法简化了网络结构,提高了识别精度与识别效率。基于MSTAR数据集的10类目标分类精度达95.88%,验证了算法的有效性。

稀疏自动编码器视觉特征融合的多弹分类算法研究

准确识别卫星设备等拍摄到的待发射(或飞行途中)导弹类型,实现及时有效防御,是国内外军事领域研究的热点之一。由于战争状态中导弹具有掩饰色,且因外形差别不显著,现有基于底层特征进行导弹分类识别难度较大甚至无法识别。针对这一问题,提出一种基于稀疏自动编码器(Sparse Auto-Encoder,SAE)高层视觉特征融合底层特征提取的新算法,为了提高分类精度,引入迁移学习,借助STL-10样本库局部特征,并将导弹图像局部特征向量一并送入池化层卷积神经网络(Convolution Neural Network,CNN)提取导弹目标对象图像全局特征,通过Softmax回归模型实现导弹分类识别。实验表明,文中提出SAE融合底层特征的导弹分类识别算法较传统基于底层特征及SAE高层特征分类算法具有更高的准确性及鲁棒性。另外,为了避免因新型导弹目标对象缺乏训练而导致分类性能下降甚至失效,算法引入迁移学习实现局部特征提取,实验验证了算法的可行性和准确性。

基于Gabor融合特征与深度自动编码器的笑脸识别方法

Gabor特征的人脸表情识别具有良好的识别性能,但同样存在特征维数大的缺点,该文提出用Gabor融合特征的方法来进行降维以解决维数大的缺点。深度自动编码器具有对人脸自学习的能力,能精确提取有用的信息,也有非线性降维的作用。考虑到Gabor融合特征降维幅度不大,便加入自动编码器进行二次降维,将经过二次降维的特征输入深度自动编码器进行笑脸识别。该文在实验过程中采用两个数据库(公开的GENKI数据库,实验采集的数据库)进行实验。实验结果表明经过Gabor融合特征的实部作为深度自动编码器的输入的识别率比传统方法和未经降维Gabor特征识别率高。

基于栈式去噪自动编码器的边际Fisher分析算法

特征学习是模式识别领域的关键问题。基于自动编码器的深度神经网络通过无监督预训练与有监督微调能够有效地提取数据中关键信息,形成特征。提出一种基于栈式去噪自编码器的边际Fisher分析算法,该算法将边际Fisher分析运用于有监督微调阶段,进一步提升算法的特征学习能力。实验结果表明,该算法与标准的栈式去噪自编码器和基于受限玻尔兹曼机的深度信念网相比,具有更好的识别效果。

基于一维堆叠池化融合卷积自编码器的HRRP目标识别方法

针对雷达高分辨距离像(high resolution range profile,HRRP)目标识别中特征提取及识别问题,提出了一种基于一维堆叠池化融合卷积自编码器(one-dimensional stacked pooling fusion convolutional autoencoder,1D SPF-CAE)的识别方法。首先构造一维池化融合卷积自编码器(one-dimensional pooling fusion convolutional auto-encoder,1D PF-CAE),在编码阶段,采用最大池化和平均池化同时提取不同的编码特征并进行融合来提取HRRP的结构特征;然后堆叠多个1D PF-CAE形成1D SPF-CAE;最后使用标签数据对网络进行微调,实现HRRP目标识别。并使用AdaBound算法优化网络训练来提高识别性能。基于弹道中段目标仿真数据的实验结果表明,该方法具有较强的特征提取能力,对于HRRP目标识别准确率高、鲁棒性强。

基于自编码器的多模态深度嵌入式聚类

近年来,随着获取信息手段的增多,对高维度数据的聚类变得越来越难.利用深度学习与聚类分析相结合的方式,通过对深度聚类算法的深入调查与研究,提出了基于自编码器的多模态嵌入式聚类模型,该模型分别将自编码器、卷积自编码器、卷积变分自编码器模型提取的特征进行自适应特征融合,再将融合后的特征输入深度聚类层得到聚类结果.多模态数据有助于提取更全面的数据信息,自适应特征融合能够很好地计算每个模态提取特征对融合特征的贡献度,从而提高无监督聚类算法的稳定性.提出的模型在4种公开数据集上进行了实验,验证了该模型的有效性,聚类结果优于现有流行的算法.

SDFA:基于多特征融合的船舶轨迹聚类方法研究

随着航运业的快速发展,船舶轨迹挖掘与分析技术变得愈发重要,轨迹聚类在船舶领域有很多实际应用,如异常检测、位置预测、船舶避碰等。传统的轨迹相似度计算方法在精确度和效率上都较为低下,而现有的基于深度学习的方法大多数只提取静态特征,忽视了静态与动态的多特征的综合提取。为了解决这一问题,提出了一种基于卷积自编码器的静态-动态特征融合模型,用于提取更完善的船舶轨迹特征,弥补了多特征融合技术在船舶轨迹聚类应用方面的不足。在真实数据集上的实验结果表明,相比LCSS,DTW等传统方法以及基于深度学习的多特征提取模型,所提模型在精确率、准确率等指标上均至少有5%~10%的提升。

基于自编码组合特征提取的分类方法研究

针对自动编码器无监督训练过程中不能根据标签提取类别信息的问题,为提高识别准确率,提出栈式分类降噪自动编码器(Stacked Class Denoising Autoencoder, SCDAE)来获取类别信息,并使用自编码组合特征提取方法提取组合特征用于分类。该方法构建栈式降噪自动编码器(Stacked Denoising Autoencoder, SDAE)和SCDAE;微调SDAE和SCDAE形成组合模型(Combined Model, CM);使用CM提取包含输入数据主要信息和类别信息的组合特征进行分类。选取MNIST和USPS手写体识别库进行测试,实验结果表明,该方法可以有效提取特征,提高识别准确率。

基于原型学习与深度特征融合的脑功能连接分类方法研究

近年来,基于深度学习的脑功能连接分类方法已成为一个研究热点.为了进一步提高脑功能连接的分类准确率,获得与疾病相关的鉴别性特征,本文提出了一种基于原型学习与深度特征融合的脑功能连接分类方法.该方法首先使用栈式自编码器从脑功能连接中提取从低层次到高层次的深度特征;然后利用原型学习在自编码器的各隐层中提取表示样本类别信息的距离特征;最后采用深度特征融合策略将这些距离特征融合,并将该融合特征用于脑功能连接的类别标签预测.在ABIDE数据集上的实验结果表明,与其他同类方法相比,该方法不仅具有较高的分类准确率,而且能够更加准确地定位与疾病相关的脑区.

基于DDAE的交流接触器状态特征融合方法

交流接触器运行状态特征的提取是实现对其剩余寿命精确预测的必要前提。针对其运行状态特征具有多元、多维度相互影响、动态变化的特点,提出一种基于深度降噪自动编码器(DDAE)的交流接触器状态特征融合方法。以多维度特征参数为驱动,充分提取交流接触器电参量和机械参量相关的特征参数;构建DDAE特征融合模型,在最大程度保留原始特征信息的基础上进行特征融合重构。通过实验数据进行验证分析,结果表明在交流接触器运行状态特征融合中具有较高的表征精度,为后续研究交流接触器剩余寿命精准预测打下了基础。

一种基于VAE的非侵入式家庭用电能耗分解方法

非侵入式负荷监测(non-intrusive load monitoring,NILM)技术通过对总负荷电表数据进行分析,使用能量分解算法估算各个用电设备的能耗。为应对非侵入式能耗分解技术应用的挑战,本文提出了一种基于变分自动编码器(variational autoencoder,VAE)框架的能耗分解算法。该算法充分利用编码器出色的特征提取能力,能够精确捕捉到特定电器的能耗特征。实验结果表明,与序列到序列(sequence to sequence,S2S)方法相比,新模型在所有测试电器上的平均绝对误差降低了约10%,F1分数提升了超过15%,该结果不仅体现了VAE在能耗预测上具有较高的精度,也表明该算法在识别和分离目标电器功率信号方面有显著改进。本文提出的基于变分自动编码器框架的能耗分解算法能够有效实现负荷能量的分解,为NILM技术的实际应用开辟了新的路径。

基于深层内嵌混合稀疏堆栈自动编码器和流形集成的精神病语音识别方法

语音特征学习是精神病语音识别方法的核心和关键。深层特征学习可以自动提取语音特征,但受限于小样本问题;传统的特征提取(原始特征)避免小样本问题影响,但严重依赖经验且自适应不佳。为了解决这一问题,本文提出了一种深层内嵌混合稀疏堆栈自动编码器流形集成算法。首先,基于先验知识提取精神病语音特征,构造原始特征。其次,将原始特征内嵌入到稀疏堆栈自动编码器(深度网络)中,对隐藏层的输出进行滤波,增强深层特征与原始特征的互补性。再次,设计L1正则化特征选择机制,压缩由深层特征和原始特征组成的混合特征集的维度。最后,设计了加权局部保持投影算法和集成学习机制,构造了流形投影分类器集成模型,进一步提高了小样本下特征融合的分类稳定性。此外,本文首次设计了一个中大规模的精神病语音采集方案,收集并构建了一个大规模的中文精神病语音数据库,用于精神病语音识别算法的验证。实验结果表明,该算法主要创新部分有效;与其他有代表性的算法相比具有更好的分类准确率,最大改善了3.3%。综上所述,本文提出了一种基于深层内嵌混合稀疏堆栈自动编码器和流形集成的精神病语音识别方法,有效提高了精神病语音识别准确率。

一种面向故障短文本的改进聚类方法研究

在航空制造领域中,为了解决故障数据质量不高且多为短文本的问题,本文提出了一种改进的短文本聚类方法。首先通过自动编码器模块提取文本的全局语义信息,再通过关键语义提取模块提取文本中的关键语义信息,最终将两者提取的特征融合后使用K-means进行文本聚类。该方法有效地解决了传统自动编码器在训练过程中丢失语义信息和过度依赖原始数据质量的问题。实验表明,本文提出的方法聚类效果优于现有的聚类算法,同时聚类结果也证明了关键语义信息对文本聚类的重要性。

多维非线性特征重构与融合的复杂产品工期预测方法

制造企业复杂产品零部件种类众多、加工和装配工序复杂,质量、工艺、设备等各类数据呈现多维度、多尺度、多噪声等特点,工期的关键影响特征提取难度大,预测精度难以保证。针对上述问题,提出一种多维非线性特征重构与融合的复杂产品工期预测方法,首先提出基于集成堆栈式自编码器的多维非线性特征重构与融合方法并构建相应模型,建立特征间的复杂关联耦合关系,形成工期关键因素特征池;基于深度学习算法构建多维非线性重构与融合的复杂产品工期预测模型,实现复杂产品工期的准确预测。选取某企业断路器和3D打印产品为对象进行工期预测的应用验证和对比分析,本方法的均方根误差平均值为1.28,平均绝对百分比误差平均值为3.01%,与未进行特征重构融合的方法,以及支持向量机、神经网络等方法相比,在精度方面均有提升,方均根误差至少降低了约10.87%,平均绝对百分比误差至少降低了约7.74%,证明所提方法的有效性和实用性。

基于深度学习的蛋白质亚细胞定位预测

针对传统机器学习算法中仍需手工操作表示特征的问题,提出了一种基于堆栈式降噪自编码器(SDAE)深度网络的蛋白质亚细胞定位算法。首先,分别利用改进型伪氨基酸组成法(PseAAC)、伪位置特异性得分矩阵法(PsePSSM)和三联体编码法(CT)对蛋白质序列进行特征提取,并将这三种方法得到的特征向量进行融合,以得到一个全新的蛋白质序列特征表达模型;接着,将融合后的特征向量输入到SDAE深度网络里自动学习更有效的特征表示;然后选用Softmax回归分类器进行亚细胞的分类预测,并采用留一法在Viral proteins和Plant proteins两个数据集上进行交叉验证;最后,将所提算法的结果与mGOASVM、HybridGO-Loc等多种现有算法的结果进行比较。实验结果表明,所提算法在Viral proteins数据集上取得了98.24%的准确率,与mGOASVM算法相比提高了9.35个百分点;同时所提算法在Plant proteins数据集上取得了97.63%的准确率,比mGOASVM算法和HybridGO-Loc算法分别提高了10.21个百分点和4.07个百分点。综上说明所提算法可以有效提高蛋白质亚细胞定位预测的准确性。

模块化五电平逆变器子模块开路故障的智能诊断方法

基于深度学习理论,提出了一种基于栈式稀疏自动编码器(SSAE)的模块化五电平逆变器(MFLI)子模块开路故障诊断方法。该方法将MFLI子模块开路故障检测与定位问题转化成分类问题,首先将子模块电容电压信号组合成24通道序列信号,然后沿着24通道序列移动大小为24×40滑动窗口获得"数据带"样本,紧接着将"数据带"转化为向量输入到SSAE中进行逐层无监督特征学习,构建原始故障数据集的深层特征简明表达,最后将深层特征简明表达连接到Softmax分类器输出故障诊断结果。此外,为了提高该方法的抗噪性能,利用已添加高斯白噪声的数据对SSAE进行训练,以提高其特征表达的鲁棒性。结果表明,所提出的故障诊断方法平均准确度达到98.09%,故障平均诊断时间为31.47ms,且具有较高的鲁棒性。

基于SDAE与RELM的EEG情感识别方法

针对情感识别中堆叠式自动编码器存在反向传播方法收敛速度慢和容易陷入局部最优的问题,提出一种基于堆叠式降噪自动编码器(SDAE)和正则化极限学习机(RELM)的情感状态识别方法。从脑电信号的时域、频域和时频域中提取表征情感状态的初始特征,使用SDAE进行无监督特征学习,提取初始特征的高层抽象表示。在网络的回归层,使用RELM进行情感分类。在DEAP数据集上的实验结果表明,与SDAE以及DT、KNN等传统基于机器学习的方法相比,该方法在实时性、准确性和泛化性能等方面均有明显提升。

基于多通道图卷积网络的节点聚类

针对在深度聚类中大部分基于图卷积网络(graph convolutional network,GCN)的方法仅使用拓扑图而忽略了特征空间中存在的结构信息的问题,提出一种通过引入特征图更充分地利用特征空间中存在的结构信息的节点聚类方法.首先,该方法使用自动编码器(auto-encoder,AE)来学习节点特征的潜在表示,同时在特征图、拓扑图及节点属性3个层面获得节点嵌入;然后,使用融合机制对学习到的节点嵌入进行融合;最后,通过自监督的方式训练网络实现节点聚类.在6个基准数据集上的大量实验表明,该方法明显提高了聚类精度.

高维数据自适应降维方法

针对复杂装备及结构中高维信息导致的反求设计、优化设计、可靠性设计与分析时计算难度大、计算效率和精度低等问题,提出高维数据自适应降维方法—引导约束自编码降维方法。该方法基于主成分分析法能根据高维数据的相关性得到高质量的线性低维数据,与无监督训练的自编码器具有对降维数据质量自我重构的特点,提出正交引导和正交约束的双重策略,对自编码网络进行无监督训练,以达到高精度、高效率降维的目的。该方法主要有以下策略:首先利用主成分分析法快速得到由特征向量构造而成的具有正交特性的投影矩阵,然后将其用于预设自编码器中的可训练参数,以保证初始训练参数的正交性;其次在自编码器训练中继续施加权值正交约束即无相关性特征约束,以减少信息的冗余从而保证低维数据的独立性;同时,施加单位范数约束以避免梯度消失,最终得到具有高度正交特性的降维特征。为验证该方法的有效性,将该方法用于碳钎维和玻璃纤维混合铺层的复合材料层合板的材料参数反求,通过参数反求的精度来评估不同降维方法的性能。研究结果表明,该方法可高效的得到高质量的线性及非线性降维信息,有效克服了主成分分析法仅可实现高维信息的线性降维和标准自编码器降维数据精度低的缺点,并且显著提高了复合材料层合板的参数反求精度。