基于堆叠稀疏自动编码器的手写数字分类

将稀疏自动编码器(Sparse Autoencoder,SAE)模型应用于数字识别中,并通过多个稀疏自动编码器的堆叠构建了深度网络,采用非监督贪婪逐层训练算法(Greedy Layer-Wise Unsupervised Learning Algorithm)初始化网络权重,使用反向传播算法优化网络参数。利用堆叠稀疏自动编码器学习数字图像的特征,使用softmax分类器进行数字分类。经实验证明,与其它浅层学习模型对比,深度网络不仅进一步学习了数据的高层特征,同时还降低了特征维数,提高了分类器的分类精度,最终改善了手写数字的分类效果。

基于SSAE-SVM的滚动轴承故障诊断方法研究

针对现有滚动轴承故障诊断方法过度依赖于有监督学习算法的问题,提出一种基于堆栈稀疏自编码和支持向量机(SSAE-SVM)的滚动轴承故障诊断方法。利用堆栈稀疏自编码(SSAE)的频域深层特征学习能力,对轴承故障特征进行快速傅里叶变换和批归一化处理,再输入到SSAE网络。所构建的SSAE网络通过贪婪算法逐层训练,使用梯度下降法反向微调,基于无监督式深层学习输出深层特征向量。利用构造简单、泛化性能好、分类速度较快的支持向量机(SVM)分类器,基于深层特征向量进行故障识别,实现滚动轴承故障类型的准确分类。利用美国凯斯西储大学滚动轴承数据集进行对比验证。验证结果显示,相较于对比模型,SSAE-SVM滚动轴承故障诊断模型具有更高的准确率和更快的收敛速度。应用无监督学习建立轴承故障诊断模型将成为轴承故障诊断的重要发展方向之一。

基于密集子图的银行电信诈骗检测方法

目前银行对电信诈骗的标记数据积累少,人工标记数据的代价大,导致电信诈骗检测的有监督学习方法可使用的标记数据不足。针对这个问题,提出一种基于密集子图的无监督学习方法用于电信诈骗的检测。首先,通过在账户-资源(IP地址和MAC地址统称为资源)网络搜索可疑度较高的子图来识别欺诈账户;然后,设计了一种符合电信诈骗特性的子图可疑度量;最后,提出一种磁盘驻留、线性内存消耗且有理论保障的可疑子图搜索算法。在两组模拟数据集上,所提方法的F1-score分别达到0.921和0.861,高于CrossSpot、fBox和EvilCohort算法,与M-Zoom算法的0.899和0.898相近,但是所提方法的平均运行时间和内存消耗峰值均小于M-Zoom算法;在真实数据集上,所提方法的F1-score达到0.550,高于fBox和EvilCohort算法,与M-Zoom算法的0.529相近。实验结果表明,所提方法能较好地应用于现阶段的银行反电信诈骗业务,且非常适合于实际应用中的大规模数据集。