基于ECOC平衡随机森林的雷达降水粒子分类

针对数据不平衡情况下的降水粒子分类问题,提出了一种基于纠错输出码(error correcting output code,ECOC)平衡随机森林的双偏振气象雷达降水粒子分类方法。首先,将多类别降水粒子数据集编码为多个二分类数据集;然后,对二分类数据集进行有放回的平衡重采样,构建多棵分类回归树;最后,利用所有的分类回归树联合进行降水粒子分类。对实测数据的处理结果表明,所提方法能够在保证总体准确率较高的情况下,大幅提高少数类的分类效果。

基于改进ECOC分类器的直流电缆终端接头局放模式识别

绝缘缺陷问题直接影响直流XLPE电缆的运行安全,而准确的绝缘状态诊断对保证直流输电系统正常运行具有重要意义,由于直流电缆的故障诊断目前研究处于起步阶段,且局部放电特征与交流XLPE电缆具有明显区别。针对直流XLPE电缆出现的绝缘缺陷以及产生的局部放电特点,该文设计了4种直流XLPE电缆终端接头典型的绝缘缺陷物理模型,根据q-(35)t-n(即放电幅值,放电间隔,放电次数)局放信号图,提出了基于改进ECOC分类器的直流电缆终端局放模式识别法。首先,对局放信号图进行轮廓波(Contourlet)变换,并计算各子带系数的Tsallis熵,将其作为特征向量,带入自适应布谷鸟优化稀疏编码阵的ECOC分类器(ACS-SR-ECOC)实现缺陷模式识别。通过对大量试验数据测试,验证了所提出的识别方法在直流XLPE电缆终端接头绝缘缺陷的诊断效果,相比与4种传统的ECOC分类器,所提出的ACS-SR-EOCO分类器的识别准确率更高,至少提高10.3%。

基于AdaBoost.ECOC的合成孔径雷达图像目标识别研究

为了提高合成孔径雷达图像目标识别系统的性能,提出了一种合成孔径雷达图像目标识别的新方法,结合纠错输出码对基本AdaBoost算法进行多类别推广,并将推广后的算法(AdaBoost.ECOC)应用于合成孔径雷达图像目标识别.用运动和静止目标获取与识别数据库中的三类地面军事目标进行识别实验,并将识别结果与其他识别方法进行比较.实验结果表明,提出的基于AdaBoost.ECOC的识别算法可以有效地应用于合成孔径雷达目标识别,并能显著提高目标识别系统的识别性能.

ECOC多类分类研究综述

纠错输出编码能有效地将多类问题转化为二类问题进行求解,已受到国内外从事机器学习的研究者们的重视,并使其成为多类分类领域的研究热点.本文首先分析了ECOC多类分类的原理和框架,指出解决ECOC多类分类问题的关键在于解码策略和编码策略的确定;然后从这两个关键点出发综述了ECOC多类分类的最新进展和应用领域;最后指出了目前存在的问题以及下一步研究方向.论文研究成果将为基于ECOC多类分类方法在实际应用过程中起借鉴和参考作用.

IKnnM-DHecoc:一种解决概念漂移问题的方法

随着数据流挖掘的应用日趋广泛,带概念漂移的数据流分类问题已成为一项重要且充满挑战的工作.根据带概念漂移的数据流的特点,一个有效的学习器必须能跟踪并快速适应这种变化.一种基于增量KnnModel的动态层次编码算法被提出用于解决数据流的概念漂移问题.在将数据流划分为数据块后,根据增量KnnModel算法对每块的预学习结果构建并更新类别层次树、层次编码,用可增量学习的分类算法对照编码划分进行学习,并生成备选分类器集.最后依据活跃度对结点进行剪枝处理以减少计算代价.在预测阶段,利用增量KnnModel算法和动态层次纠错输出编码算法的各自优势进行联合预测.实验结果表明:基于增量KnnModel算法的动态层次纠错输出编码算法不但能够提高模型学习的动态性和分类的正确性,而且还能够快速适应概念漂移的情况.

ECOC多类分类中基分类器non-competence问题研究

在纠错输出编码(error-correcting output code,ECOC)多类分类中,当待识别样本的真实类别不属于对应二类子类划分时,训练得到的基分类器将不具备对此类样本进行分类的能力,此时的基分类器在解码融合时面临着non-competence问题。如何衡量基分类器是否具备对样本的分类能力,以及如果不具备,如何减少此种情况下对分类效果的影响是基于ECOC多类分类面临的新问题。针对解码框架中non-competent基分类器的分类融合问题,提出一种基于基分类器对样本是否具有分类能力的加权解码方法。该方法利用支持向量数据描述衡量待识别样本与各划分子类之间的距离,同时利用加权解码,通过对基分类器权重的学习,进而增强对类别拥有分类能力的基分类器的影响,减少不具备分类能力的基分类器产生的误差。基于UCI数据集的实验表明所提方法的有效性和实用性。

ECOC多分类器实现的最小封闭球模型

基于纠错输出码(error-correcting output codes,ECOC)的多分类器实现旨在通过构造多个二分类器,根据各个二分类器的输出对测试样本进行分类决策,标准的做法是采用最短海明距离判别.首先对传统二进制ECOC的多分类模型进行了几何刻画,给出了ECOC多分类器的最小封闭球几何描述模型,然后把这种思想推广到实数编码的实现,并采用支持向量域描述(support vector domain description,SVDD)在实数向量空间中寻找各个类别的最小封闭球.进一步根据最小封闭球的几何模型,探讨了给出后验概率估计的ECOC多分类器实现策略.最后采用支持向量机作为ECOC的二类分类器,在UCI数据集上进行了实验分析.实验结果表明:对于长度较短的ECOC编码,所提出的计算模型在分类精度上相比传统的方法性能明显改善.

带拒绝域的ECOC多类分类

针对纠错输出编码分解框架的自身特点、从降低误判风险出发,研究了带拒绝域的ECOC多类分类方法.首先在二类划分过程中引入拒绝域,对不属于正负子类的待识别样本进行拒识;其次,在基分类器内部引入拒绝域,以最小化风险贝叶斯决策为目标,利用后验概率输出和代价矩阵寻找拒绝域阈值,对样本输出值落入拒绝域中的样本进行拒识;最后,研究了不同拒绝域输出的解码方法,并讨论了拒识码字个数和矩阵最小Hamming距离之间的关系.实验结果表明基于二类划分构造的拒绝域能够提高分类正确率,而基于基分类器构造的拒绝域能够减小分类代价.

基于改进LPP和ECOC-SVMS的离线签名识别方法

提出一种基于改进LPP和ECOC-SVMS的离线签名识别方法。针对预处理后的签名图像,选择多种有效特征构建高维特征向量,引入一种改进的保局投影方法进行特征提取并同时实现高效降维;签名识别方面,使用基于Hadamard纠错编码方法的ECOC支持向量机多类分类方法,并引入近似概率对ECOC解码进行改进,以提升多类分类器的性能。实验结果表明此方法的可行性和有效性。

基于Elman网络和ECOC-SVM的机电系统并发多故障诊断方法

在复杂机电系统多故障并发情形下,面向单一故障的诊断方法难以辅助维修人员决策,容易产生误诊和漏诊的问题。本文提出一种面向复杂机电系统多故障并发下的故障诊断方法,引入损失函数,用Elman网络对故障类型进行初判,改良结合纠错输出码与支持向量机(ECOC-SVM)的分类器设计,对Elman网络识别的故障类型进行筛选,实现可能故障原因在线推送。本文收集来自某船用发动机公司售后维修部的真实数据,针对某类型的船用发动机,以其故障诊断过程为例进行实验,验证本文提出的方法有显著优势,结果表明:本文提出的分类算法,在提高复杂机电系统并发故障的诊断效率和诊断质量方面,性能优于常用机器学习分类方法。

一种基于N元ECOC的大类别K-shot满文识别方法

由于训练数据获取困难,满文识别被视为典型的K-shot学习问题。但在实际应用场景中,满文识别需要面对的类别数量是极大的,传统的K-shot学习算法并不适用。构建了一种面向大类别识别问题的K-shot学习算法,基本策略是利用N元纠错输出编码(error correcting output coding,ECOC)技术将原本的大类别分类问题分解为一系列较小类别的分类问题再进行处理。算法包括编码和解码两个阶段:在编码阶段,利用N元ECOC编码矩阵将大类别支持集分解为一系列小类别的子支持集,并根据子支持集生成多个K-shot学习基分类器;解码阶段利用上述基分类器对测试样本分类再合并为一个预测编码,然后将预测编码对照编码矩阵纠错,进而确定最终分类类别。实验结果表明,在500类满文数据集上获得了87.8%的识别准确率。

基于ECOC的多类代价敏感分类方法

研究了基于纠错输出编码实现多类代价敏感分类的方法,提出了一种新的将多类代价敏感分类问题分解为多个二类代价敏感分类问题的框架。为获得其中每个二类代价敏感基分类器的二类代价矩阵,提出了利用已知多类代价矩阵计算误分类代价的期望值的方法,给出了计算二类代价矩阵的通用计算公式。为验证所提方法的有效性,在人工和UCI数据集上将其与现有方法进行了比较,实验结果表明所提方法具有相似甚至更好的性能。

一种搜索编码法及其在监督分类中的应用

纠错输出码作为监督分类领域中的一个新的研究方向,是提高分类器泛化能力的一种有效方法,但目前还没有通用的确定性编码方法.分析了现有纠错输出码的性质,提出一种搜索编码法,该方法通过对整数空间的顺序搜索,获得满足任意类别数目与最小汉明距离要求的输出码;然后探讨了基于搜索编码的监督分类技术.对简单贝叶斯与BP神经网络算法进行实验,结果表明,搜索编码法可作为一种通用的编码方法用于提高监督分类器的泛化能力.

加权解码在解决纠错输出编码Consistent-Diverse平衡问题的应用

纠错输出编码作为解决多类分类问题的通用集成框架,能有效的把多类问题分解为二类问题从而使问题得以简化.然而在生成基分类器的过程中,经常面临提高基分类器之间的差异性和增加各基分类器与集成分类器学习的一致性的矛盾,称之为consistent-diverse平衡问题.在保证差异性的前提下减小由学习不一致性引起的分类错误率是解决该平衡问题的一个出发点,在此利用加权解码,通过对加权系数矩阵的再学习进而减弱和消除由基分类器学习不一致性产生的误差.实验利用人工数据集和UCI数据集分别加以验证,结果表明以集成分类器的分类错误率为适应度函数的遗传算法搜索出的最优加权系数矩阵相比其它方法产生的系数矩阵在解决consistent-diverse平衡问题更具有优越性.

基于核主元分析与纠错输出编码SVM的齿轮故障诊断

为提高齿轮故障诊断的准确率,提出了核主元分析和纠错输出编码支持向量机相结合的方法。首先采用基于核主元分析方法对原始样本向量进行预处理,实现对原始样本向量的降噪及冗余消除。然后采用基于纠错输出编码矩阵构造出若干个互不相关的子支持向量机,以提高分类模型的整体容错能力。最后,把经过核主元处理后的新向量作为纠错输出编码支持向量机的训练及测试样本,实现对不同故障状态齿轮的识别。结果表明,该方法能够提取更有效的分类样本向量,故障诊断效果更好。

基于SVDD的层次纠错输出编码研究

纠错输出编码能有效地将多类问题分解为一系列二类子问题进行求解,已受到众多机器学习研究者的关注。如何构建基于数据的编码矩阵是编码方法确定的关键。针对此问题,基于Fisher原理,提出一种基于支持向量数据描述(support vector domain description,SVDD)的层次纠错输出编码构造方法(hierarchical error-correcting output codes,HECOC)。该方法首先采用SVDD计算各类别的可分程度,从而得到由不同子类构成的二叉树;然后分别对二叉树的各层结点进行编码并最终形成层次输出编码。在仿真实验中,对不同子类类群划分构成的基分类器的可分性进行了对比,结果表明,该编码方法能在保证分类精度的同时,提高基分类器之间的差异性和纠错输出编码的容错能力。

半透射高光谱结合流形学习算法同时识别马铃薯内外部缺陷多项指标

针对马铃薯内外部缺陷多项指标难以同时识别的问题,提出了一种半透射高光谱成像技术采用流形学习降维算法与最小二乘支持向量机（LSSVM）相结合的方法,该方法可同时识别马铃薯内外部缺陷的多项指标。试验以315个马铃薯样本为研究对象,分别采集合格、外部缺陷（发芽和绿皮）和内部缺陷（空心）马铃薯样本的半透射高光谱图像,同时为了符合生产实际,将外部缺陷马铃薯的缺陷部位以正对、侧对和背对采集探头的随机放置方式进行高光谱图像采集。提取马铃薯样本高光谱图像的平均光谱（390~1 040nm）进行光谱预处理,然后分别采用有监督局部线性嵌入（SLLE）、局部线性嵌入（LLE）和等距映射（Isomap）三种流形学习算法对预处理光谱进行降维,并分别建立基于纠错输出编码的最小二乘支持向量机（ECOC-LSSVM）多分类模型。通过分析和比较建模结果,确定SLLE为最优降维算法,SLLE-LSSVM为最优马铃薯内外部缺陷识别模型,该方法对测试集合格、发芽、绿皮和空心马铃薯样本的识别率分别达到96.83%,86.96%,86.96%和95%,混合识别率达到93.02%。试验结果表明：基于半透射高光谱成像技术结合SLLE-LSSVM的定性分析方法能够同时识别马铃薯内外部缺陷的多项指标,为马铃薯内外部缺陷的快速在线无损检测提供了技术参考。

基于混淆矩阵的自适应纠错输出编码多类分类方法

利用纠错输出编码(error-correcting output code,ECOC)作为分解框架,把多类问题转化为二类问题进行求解,是目前解决多类分类的有效手段之一。如何构造基于数据的分解框架是应用此类方法的重点。为此,提出一种自适应纠错输出编码构造方法,利用混淆矩阵计算多类问题中各类别的相关性,基于Fisher准则找出最有利于分类的类别组合,最后根据组合方案构建类别的二类划分并最终形成输出编码。实验中分别对UCI数据集和3种一维距离像数据集进行测试,通过与几种经典的编码方法比较,结果表明该编码方法可以显著提高分类器的性能和稳健性。

半监督层次纠错输出编码算法

纠错输出编码是一种处理多类分类问题的有效方法,但它只能用于有监督的数据,而对大量未标签样本却无法利用.提出一种新颖的基于半监督技术的层次编码算法,对传统的纠错输出编码算法(ECOC)进行改造,拓展了编码的概念.在编码阶段,根据簇特征进行同类组合后再进行层次编码,从而在充分利用了无标签样本的同时,根据数据类分布的特点进行编码以提高算法精度.最后在化工产品有毒性预测数据集上的实验结果表明了本方法的可行性和有效性.

偏标记学习研究综述

在弱监督信息条件下进行学习已成为机器学习领域的热点研究课题。偏标记学习作为一类重要的弱监督机器学习框架,适于多种实际应用问题的学习建模。在该框架下,每个对象在输入空间由单个示例(属性向量)进行刻画,而在输出空间与一组候选标记相关联,其中仅有一个为其真实标记。本文将对偏标记学习的研究现状进行综述,首先给出该学习框架的定义以及与相关学习框架的区别与联系,然后重点介绍几种典型的偏标记学习算法以及作者在该方面的初步工作,最后对偏标记学习进一步的研究方向进行简要讨论。