MetaCost与重采样结合的不平衡分类算法——RS-MetaCost

不平衡分类是当今机器学习中的研究热点与难点。为提高不平衡数据的分类效果,提出MetaCost与重采样结合的不平衡分类算法——RS-MetaCost。首先在MetaCost划分子集前对不平衡数据集进行重采样,即过采样少数类或欠采样多数类,以降低或消除数据不平衡程度;其次在预测概率阶段,利用m-estimation提高少数类预测概率。采用6组模拟数据集与10组实例数据集,将RS-MetaCost与经典算法进行比较实验。结果表明,在大多数数据集上,RS-MetaCost在保证整体分类精度很高的前提下,还能提高少数类的分类精度,且过采样下的RS-MetaCost优于欠采样下的RS-MetaCost。

一种基于MetaCost和RF的网络入侵检测方法分析

阐述一种基于MetaCost-RF的网络入侵检测算法,该算法在RF训练过程中通过引入代价矩阵来减小不平衡数据集给RF带来的负面影响。在NSL-KDD上对训练好的模型进行测试验证,结果表明,MetaCost-RF对比RF在准确率上提高5.16个百分点,在三个少数类的召回率上分别提高了10.82、20.00和21.17个百分点,说明该模型有效提高了准确率和对少数类样本的召回率。

一种新的多分类代价敏感算法

为了提高代价敏感分类算法MetaCost的准确率,降低错分代价,提出了多类别问题下的一种代价敏感分类算法(简称D-MetaCost算法).该算法利用MetaCost算法,通过多次取样生成多个模型,依据它们的分类准确率,选择其中准确率较高的前几个基分类器,将它们与最后阶段新生成的分类器聚集在一起得到最终分类模型.实验表明,D-MetaCost算法在准确率和代价方面比经典的MetaCost算法有明显的改进和提高.

一种基于代价敏感学习的故障电弧识别方法

为解决故障电弧识别误判断问题,引入了代价敏感学习理论,为不同的分类错误赋予非均等代价;采集典型负载正常状态和故障电弧状态的电流数据,根据信号的时域和频域特性提取特征向量;应用MetaCost方法训练代价敏感的神经网络,作为故障电弧识别模块。实验结果表明:当代价矩阵取值合理时,代价敏感的神经网络能够有效减少误判断。

基于改进的多层降噪自编码算法临床分类诊断研究

针对临床分类诊断中普遍存在的样本不均衡、错分代价不同、大量无标签样本和测量误差等特点,引入了机器学习中较新的研究成果——多层降噪自编码(stacked denoising autoencoders,SDA)神经网络,并与欠采样局部更新的元代价(metacost)算法相结合,对SDA神经网络进行了改进,使组合模型具有代价敏感、降低不均衡性、有效利用无标签样本、抗噪声的特性。实验中将改进的SDA神经网络与SOFTMAX回归、反向传播(back propagation,BP)神经网络、支持向量机(support vector machine,SVM)、传统多层自编码(stacked autoencoders,SAE)神经网络,以及传统SDA神经网络等作了比较。实验结果表明,改进的SDA神经网络的准确率、ROC曲线下面积等均优于其他模型,提高了分类模型的辅助诊断性能。