基于误分类代价最小化的RBF神经网络

RBF神经网络(Radial Basis Function Neural Network,RBFNN)以简单的结构、较快的收敛速度,以及全局寻优的方式,实现了以任意给定的精度去逼近任意连续的非线性系统的功能。因此,RBFNN获得了广泛的应用。在设备故障诊断领域,不同类型的设备故障由于误分类而造成的代价并不相同。比如将设备故障状态识别为正常状态所造成的代价,要比将正常状态识别为故障类型要高得多。而RBFNN却是以每类样本的误分类代价相等为假设前提的。

嵌入误分类代价和拒识代价的二元分类算法

传统分类算法隐含的假设(每个样本的误差都具有相同的代价,且接受每个样本的分类结果)并不适用于医疗诊断、故障诊断、欺诈检测等领域的实际需求。在定义拒识代价的基础上,本文提出一种嵌入非对称误分类代价和非对称拒识代价的二元分类算法(CSVM-CM C2RC),包括以下4个步骤:学习代价敏感支持向量机、估计每个样本的后验概率、计算每个样本的分类可靠性、确定每类样本的最优拒识阈值。基于标准数据集的试验研究表明,CSVM-CM C2RC能有效地降低误分类率和平均代价,提高分类结果的可靠性。

一种降低误分类代价的权值分布优化算法

提出一种降低误分类代价的权值分布优化算法,其核心思想是在连续的提升过程中获得一系列的弱分类器,根据训练实例代价因子的大小及分类的结果不断更新训练集的分布,以减小累积的误分类代价。验证明这种改进后的算法减小了累积误分类代价。

基于遗传神经网络的误分类代价敏感网络入侵检测

针对传统的基于遗传神经网络的入侵检测模型未考虑误分类代价的不足,将误分类代价敏感的特征集成到基于遗传神经网络的网络入侵检测模型中,从而克服了传统模型中错误分类时可能导致代价过大的缺点。通过实验结果表明,增加了误分类代价敏感特征后的遗传神经网络能较好地控制网络入侵检测系统误报、漏报攻击时所产生的代价。

动态误分类代价下代价敏感属性选择分治算法

代价敏感属性选择问题的目的是通过权衡测试代价和误分类代价,得到一个具有最小总代价的属性子集。目前,多数代价敏感属性选择方法只考虑误分类代价固定不变的情况,不能较好地解决类分布不均衡等问题。而在大规模数据集上,算法效率不理想也是代价敏感属性选择的主要问题之一。针对这些问题,以总代价最小为目标,设计了一种新的动态误分类代价机制。结合分治思想,根据数据集规模按列自适应拆分各数据集。基于动态误分类代价重新定义最小代价属性选择问题,提出了动态误分类代价下的代价敏感属性选择分治算法。通过实验表明,该算法能在提高效率的同时获得最优误分类代价,从而保证所得属性子集的总代价最小。

代价敏感属性中动态误分类代价下的Fisher判别函数

目前权衡测试代价和误分类代价是代价敏感属性选择需解决的重点问题之一。但是,现下多数研究者只考虑了误分类代价是固定不变的情况,由于人为确定的误分类代价存在主观性等因素,因此解决现实问题就需要新的方法怎文设计了一种动态误分类代价下的Fisher函数,来自适应于总代价的变化。

基于误分类代价的粗糙模糊集近似集

粗糙模糊集的近似集提供了如何利用已知的信息粒来近似描述模糊知识的方法,但在构建近似集时并没有考虑误分类代价这一实际因素。针对此问题,从误分类代价的角度,提出了粗糙模糊集的近似表示R(X),并揭示了多粒度知识空间中不确定性域对应的误分类代价随着粒度细化的变化规律。实验结果表明,R(X),R(X)和R(X)分别作为X的近似集时,R(X)产生的误分类代价最小,在一定程度上反映了R(X)作为近似集时的优势。

基于动态误分类代价下的代价敏感属性选择

当前代价敏感算法普遍采用静态的误分类代价,而静态的误分类代价局限性很强。这主要表现在:过度拟合、不能反映数据集真实的类分布特征。针对静态误分类代价的不足,本文首先提出一种动态误分类代价机制。该机制根据不同的测试代价自适应生成四种不同的动态误分类代价函数,并以最小总代价为目标。其次,我们在动态误分类下重新定义了最小总代价的属性选择问题。最后我们提出了一个模拟退火算法解决了该问题。实验结果证明,该设计方案可有效地选出最优误分类代价,以保证所选属性集合具有最小的平均总代价。

代价敏感属性中动态误分类代价下Bayes判别函数探究

最近几年来,误分类代价敏感粗糙集理论与方法已经取得不错的发展成果,其中最具有代表性的理论之一就是决策粗糙集理论,其中属性约简问题与规则生成问题就是基于决策粗糙集理论的基础上.然而,已有的代价敏感属性选择方法都使用的是固定的误分类代价.固定的误分类代价在任意数据集中各类的误分类代价均假定在可知的情况下存在一定的不足,因此提出代价敏感属性中动态误分类代价下的Bayes判别函数自适应逼近最优误分类代价是可行有效的方法.

嵌入误分类代价和拒识代价的极限学习机基因表达数据分类

为了实现代价敏感分类过程中的最小平均误分类代价的目的,本研究通过在分类过程中引入概率估计以及误分类代价重新构造分类结果,提出了基于极限学习机(extreme learning machine,ELM)的代价敏感算法CS-ELM并在上述算法基础上,引入"拒识代价",进一步减小了平均误分类代价。算法被运用到基因表达数据集上并与极限学习机、代价敏感决策树、代价敏感BP神经网络和代价敏感支持向量机做对比,可以得出,嵌入拒识的CSELM算法能够更好地降低误分类代价,使分类结果更加可靠。

决策粗糙集与代价敏感分类

将决策粗糙集与代价敏感学习相结合,提出了一种基于决策粗糙集的代价敏感分类方法。依据决策粗糙集理论和属性约简方法,对待预测样本分别计算最优测试属性集,使得样本在最优测试属性集上计算的分类结果具有最小误分类代价和测试代价,依此给出样本的最小总代价分类结果。针对全局最优测试属性集求解过程中计算复杂度高的问题,提出了局部最优测试属性集的启发式搜索算法。该算法以单个属性对降低总分类代价的贡献率为启发函数,搜索各样本的局部最优测试属性集,并输出在局部最优测试属性集上样本的代价敏感分类结果。在UCI数据上的实验分析显示,所提算法有效地降低了分类结果的总代价和测试属性个数,使得样本分类结果同时具有较小的误分类代价和较小的测试代价。

基于误分类模式的乳腺癌诊断研究

乳腺癌已经成为当今世界影响妇女健康的重要疾病。对于乳腺癌诊断来说,当一个恶性病例被误分类为良性病例的时候,其代价远远大于一个良性病例被误分类为恶性病例。它利用数据挖掘领域的代价敏感相关方法,建立一个识别良性乳腺肿瘤和恶性乳腺肿瘤的诊断预测系统。在建模过程中充分考虑到误分类代价的因素,提出了误分类代价策略。通过一系列实验验证了所建立的模型。从实验结果来看,Adaboost与SVM的误分类组合分类算法在正确率和总误分类代价两个评估指标上得到了良好的效果。

基于误分代价的变精度模糊粗糙集属性约简

属性约简目前是粗糙集领域的热点研究问题。文中研究了如何在保持误分类代价不增加的基础上减少冗余属性。首先定义了变精度模糊粗糙集中的最小误分类程度,然后引入了决策过程,提出了一种基于最小误分类程度的变精度模糊粗糙集模型,最后在这个模型的基础上将误分代价作为不变量,提出了一种启发式属性约简算法。将所提算法与其他算法进行比较,实验结果表明,所提算法得到的属性约简结果具有保留的属性数相对较少、误分类代价更低的优点。

代价敏感分类在肿瘤基因数据集的应用

本文对代价敏感分类算法及传统分类算法进行了比较研究,并应用于小儿白血病肿瘤数据集。针对现实生活中肿瘤基因表达数据高维、不平衡等特点,引入误分类代价因子,改进代价敏感分类算法Meta Cost。通过实验手段分析代价敏感算法的行为及较之传统分类算法的优势所在,提高了肿瘤基因数据中肿瘤类别数据的识别率及精确度。

代价敏感的GEP分类算法实现

在数据挖掘领域中,通常以分类精度作为分类算法效果的评估标准。这一标准是建立在假设任意一实例被误分类为任意类时都具备同样代价的基础上的。当此假设不成立时,直接使用传统分类方法就无法取得良好的分类和预测效果。针对这一问题,通过改进编解码方法以及在适应度函数中集成样本的不同误分类代价,提出了一种基于基因表达式程序设计的代价敏感分类算法(CSC-GEP),并在三个UCI数据集上对该算法进行了测试,实验结果表明CSC-GEP是一种有效的代价敏感分类算法。

基于三支决策模型的代价敏感数据分类方法

三支决策是近年来提出的一种新的决策理论模型,为了将该模型应用于数据的分类中,提出一种基于三支决策的代价敏感数据分类方法。首先根据三支决策模型,定义一种新形式的误分类代价,并提出相应的最小化误分类代价特征选择算法,然后在该特征选择算法的基础上,提出三支决策模型的代价敏感数据分类算法,该算法将数据分类结果分成三种情形,分别为标记特定类别、不标记特定类别和暂不标记。最后通过仿真实验证明了文中所提出的算法具有更好的代价敏感分类效果。

基于代价敏感极端学习机的电力系统暂态稳定评估方法

针对电力系统暂态稳定评估中稳定样本与不稳定样本误分类代价不同的特点,提出一种基于代价敏感极端学习机的电力系统暂态稳定评估方法。该方法在现有极端学习机的基础上,引入误分类代价的概念,以误分类代价最小为目标,构造代价敏感极端学习机,克服了现有极端学习机应用于暂态稳定评估时只追求高的分类准确率而忽略不稳定样本漏报率的缺点。新英格兰39节点系统和IEEE 145节点系统的仿真结果表明,所提方法的评估结果更倾向于将样本划分为误分类代价大的不稳定样本,以减小总的误分类代价。通过调整误分类代价矩阵,不仅可以使漏报率降为0,还能使稳定样本的误报率维持在较低的水平,保证了评估结果的可靠性。

一种基于NNIA多目标优化的代价敏感决策树构建方法

本文提出了一种基于非支配邻域免疫算法(NNIA,Nondominated Neighbor Immune Algorithm)多目标优化的代价敏感决策树构建方法.将平均误分类代价和平均测试代价作为两个优化目标,然后利用NNIA对决策树进行优化,最终获取了一组Pareto最优的决策树。对多个测试集的测试结果表明,与C4.5算法和CSDB(Cost Sensitive DecisionTree)算法比较,本文方法不仅在平均误分类代价和平均测试代价两方面均可以取得优于两者的性能,而且获得的决策树具有更小的规模,泛化能力更强.

代价敏感相关向量机的研究及其在变压器故障诊断中的应用

实际中不同变压器故障类型的误分引发的危害程度往往不同,仅追求正确率并不一定会带来符合实际意义的分类结果。针对此,提出了代价敏感相关向量机(CS-RVM)。CS-RVM以误分代价最小为目标,按贝叶斯风险理论预测新样本类别。在用典型算例验证了CS-RVM具有代价敏感性的基础上,尝试将其应用于变压器故障诊断。基于溶解气体分析(DGA)数据的变压器故障诊断实例分析表明,CS-RVM全局诊断正确率略高于BP神经网络和支持向量机,略低于多分类相关向量机(M-RVM),但CS-RVM趋于提高误诊代价高的故障类型的诊断正确率,具有代价敏感性;CS-RVM的诊断速度足以满足变压器故障诊断的工程要求。

贝叶斯网络的代价敏感结构学习

针对最小化错误分类器不一定满足最小化误分类代价的问题,提出了一种代价敏感准则——即最小化误分类代价和最小化错误分类率的双重准则.研究了基于代价敏感准则的贝叶斯网络结构学习,要求搜索网络结构时在满足误分类代价最小的同时,还要满足错误分类率优于当前的最优模型.在UCI数据集上学习代价敏感贝叶斯网络,并与相应的生成贝叶斯网络和判别贝叶斯网络进行比较,结果表明了代价敏感贝叶斯网络的有效性.