基于粗糙集约简的多分类器系统构造方法

多分类器系统是近年来兴起的一种有效的分类机制,为提高多分类器系统的分类精度,提出了一种基于粗糙集约简构造多分类器系统的机制,并从输入和输出两个角度对如何选择单个分类器进行了探讨。通过对4个UCI数据集进行验证,发现基于输出的选择融合方法得到了最好的分类效果。

多分类器系统的泛组合规则研究与应用

现有的多分类器系统采用固定的组合算子,适用性较差。将泛逻辑的柔性化思想引入多分类器系统中,应用泛组合运算模型建立了泛组合规则。泛组合规则采用遗传算法进行参数估计,对并行结构的多分类器系统具有良好的适用性。在时间序列数据集上的分类实验结果表明,泛组合规则的分类性能优于乘积规则、均值规则、中值规则、最大规则、最小规则、投票规则等固定组合规则。

基于重采样和集成选择的适用于实体识别的多分类器系统

实体识别常利用分类器根据记录对的字段相似度向量将记录对分为匹配、不匹配和可能匹配,因此分类器的准确性与实体识别的准确性直接相关。为提高分类准确性,本文基于重采样和集成选择技术构建一个多分类器系统。充分利用实体识别的特点,在分类之前发现分类困难的样本,并使重采样比率在一个区间内变化,生成一组重采样样本;然后用重采样后的样本训练分类器构建一个并行多分类器系统,强调分类器之间的差异度和稀疏度,从该多分类器系统中选择最优分类器子集,即最优的重采样比率组合,分别用非线性规划和极值方法求解该集成选择模型。实验结果表明,本方法与现有的多分类器系统相比具有更高的准确性。

确定gλ模糊测度的多分类器系统学习算法

模糊测度是非负的集函数且有非可加性,以模糊积分作为决策方法的多分类器系统在进行决策之前首先要确定模糊测度,因此它在整个多分类器系统中起着重要的作用,对整个系统的性能有很大的影响.根据Choquet模糊积分的数值计算过程和gλ模糊测度的特殊结构,提出了一种基于Choquet模糊积分的gλ模糊密度的调整方法.对该方法进行了理论分析和证明,并通过数值实验验证了该方法是可行的,在多分类器系统的构建过程中为模糊测度的确定提供了一种有效的方法,具有一定的实用性.

一种基于几何关系的多分类器差异性度量及其在多分类器系统构造中的应用

多分类器系统是应对复杂模式识别问题的有效手段之一.当子分类器之间存在差异性或互补性时,多分类器系统往往能够获得比单分类器更高的分类正确率.因而差异性度量在多分类器系统设计中至关重要.目前已有的差异性度量方法虽能够在一定程度上刻画分类器之间的差异,但在应用中可能出现诸如"差异性淹没"等问题.本文提出了一种基于几何关系的多分类器差异性度量,并在此基础上提出了一种多分类器系统构造方法,同时通过实验对比了使用新差异性度量方法和传统方法对多分类器系统融合分类正确率的影响.结果表明,本文所提出的差异性度量能够很好地刻画分类器之间的差异,能从很大程度上抑制"差异性淹没"问题,并能有效应用于多分类器系统构造.

利用证据神经网络的多分类器系统构造

为了充分利用数据信息进而提高分类正确率,提出一种证据神经网络的分类器,并据此构造了多分类器系统。首先将训练数据中的含混数据视为新类别——混合类,将原始的训练数据重组成含有混合类的训练数据,然后使用证据神经网络分类器系统用重组后含混合类的训练数据进行训练,对分类输出进行证据建模,并使用多种不同的证据组合规则实现多分类器融合。采用人工数据集和UCI数据集进行对比实验,结果表明:与其他采用神经网络的多分类器系统相比,采用证据神经网络的多分类器系统能有效提高分类正确率;在数据集Magic 04和Waveform2上,采用提出的多分类器系统比采用投票法的神经网络多分类器系统的分类正确率分别提高了6%和10%左右。

最短特征线段多分类器系统设计

为提高多分类器系统分类的性能,设计了一种使用最短特征线段分类器的多分类器系统。依据最短特征线段分类算法工作机理,利用特征线段长度表征样本隶属于各个类别的可能性,即模糊隶属度,对成员分类器输出形式完成由摘要级至度量级的重新建模,更多地保留输出细节以减少信息损失,进而利用基于模糊的证据融合规则实现成员分类器的度量级融合,通过隶属度到mass函数的转换,利用模糊-证据融合规则实现多分类器系统的构造,进一步提高了多分类器系统分类性能。采用人工数据集和UCI数据集设计了对比实验,实验表明,与其他邻域型分类器构造的多分类器系统相比,新多分类器系统能有效提升分类正确率。

多分类器系统构造的逐次约简方法

多分类器系统是近年来兴起的一种新的分类技术，本文提出一种基于粗糙集逐次约简构造多分类器系统的方法。通过从原始数据集中递归产生出完全不同的最小约简，该方法保证了每个成员分类器都是由完全不同的特征子空间训练得到的。通过对四个UCI数据集进行验证，发现通过该方法构造出的多分类器系统均取得了较好的分类效果。

鉴别球类图像的多分类器系统

如果待鉴别的图像种类太多,一个分类器并不能很好地进行图像鉴别。多分类器(MCS)是一种比较有效的方法来解决这个问题.它同时使用多个分类器,这些分类器可以互相弥补不足,提高鉴别结果的准确性。本文介绍了一种可以区分垒球、篮球和橄榄球的多分类器系统。通过本系统,我们可以证明多分类器系统可以提高结果的准确性并且能够解决单分类器存在的问题。

多分类器融合系统设计与应用

设计高性能的分类系统是模式识别研究领域追求的目标,多分类器系统MCS是实现该目标的一个有效途径。在对比MCS与单分类器系统SCS的基础上,阐述了MCS的设计与优化,并对当前的优化技术进行了分类和比较,指出了存在的问题及未来的研究方向。给出了一个用MCS实现空战目标识别的应用实例,该实例以目标的战术性能参数为分类特征,通过和规则融合多个BP网络分类器求得系统决策。实验结果表明,MCS能显著提高系统的识别率和可信度。

基于动态权值的多分类器故障诊断系统

为提高动态系统故障诊断的精确性,以及减少系统运行环境对故障诊断带来的影响,本文提出了一种基于动态权值的多分类器故障诊断系统.该方法使用决策支持度来衡量当前诊断任务中各分类器的实时决策可信度,并将其联合分类器性能指标动态地为各分类器赋予融合权值,决策性能好且决策支持度高的分类器决策结果获得较大的融合权值,同时,使不可靠决策结果的融合权值趋近于零.在此基础上,将多分类器系统优化为实时性能较好的分类器组成的子系统进行故障诊断,减少了不可靠决策的干扰,进一步提高了融合决策的精确度.试验表明本文方法具有良好的诊断决策性能,能获得比单个分类器和常用的一些融合算法更高的分类准确度.

基于自适应多分类器系统的甲状腺疾病诊断方法研究

甲状腺释放甲状腺激素以调节人体的新陈代谢速率，甲状腺激素过多或过少分别会引起甲亢或甲减，都属于甲状腺疾病．在实际医疗数据中，甲状腺疾病数据属于典型的不均衡数据．传统的分类方法往往忽略了不均衡数据存在的异构现象（不均衡程度，特征维度，类别数目在不同数据集中各不相同）．针对甲状腺疾病数据的类分布不均衡现象以及异构现象，本文提出一种自适应多分类器系统（adaptive multiple classi6er system，AMCS），构造多分类器集成系统，自适应地对异构不均衡甲状腺疾病数据进行分类来辅助甲状腺疾病的诊断．AMCS系统包括特征选择，集成框架，基分类器以及集成规则四个组成部分，每一组成部分由不同的算法组成候选池，根据不同数据存在的异构现象，自适应地为异构数据选择最优集成算法．本文采用KEEL和UCI提供的10组异构甲状腺疾病数据进行实验，验证了本文所提出的方法在辅助甲状腺疾病诊断的有效性．

基于遗传算法的多扰动多K近邻分类器系统

为改善维数灾难对K近邻分类器的影响,提出一种基于遗传算法(GA)的多扰动的K近邻融合算法,简称GA-MKNNC算法。目标扰动将所识别的问题划分成多个子分类问题进行单独识别。针对不同子分类问题,数据扰动选取相关的数据,特征扰动确定相关的特征,参数扰动明确相关参数值。数据扰动由Bagging算法确定。特征扰动和参数扰动通过GA学习得到。多个子分类问题的决策通过最大融合得到最终决策。实验结果表明,该算法的性能优于K近邻分类器及多数融合算法,且选用的子分类器数目少于FASBIR算法。

基于改进分类器动态选择算法的滚珠丝杠副状态识别

为提升滚珠丝杠副的性能状态识别精度,提出一种改进的分类器动态选择算法。该算法借助邻域成分分析(NCA),准确并自适应地定义测试样本的邻域,无需选择距离度量方式,从而更加准确地衡量多分类器系统中各子分类器对于测试样本进行正确分类的潜力,解决了传统分类器动态选择算法精度受限于距离度量方式选择是否合适的问题。将所提出的分类器动态选择算法应用于滚珠丝杠副状态识别中,首先利用AdaBoost算法离线训练反向传播(BP)神经网络集合,然后依据实时信号特征,采用改进的分类器动态选择算法从分类器集合中选取最合适的子分类器进行状态鉴定,从而实现更好的识别效果。实验结果表明,提出方法的状态识别准确率能够达到97.22%,高于BP神经网络、AdaBoost与传统分类器动态选择算法,且对于不同的性能状态均有较高的识别精度。

多分类器集成系统在卷烟感官评估中的应用

烟草化学成分与感官质量存在着某种对应关系,使用传统的单一分类器方法进行卷烟感官评估指标预测对数据样本依赖性强,且无法克服噪声影响。采用了k-NN(k=3)、k-NN(k=5)、C4.5、BPNN、SVM五种不同的分类方法进行卷烟感官质量的评估预测,并比较了它们的预测正确率,结果表明SVM和k-NN效果较好;同时用不同的采样方法和投票方法搭建了6种多分类器集成系统进行感官评估,实验可得多分类器集成可以起到比单一分类器更好的效果,其中基于训练表现的加权投票方法(不抽样)具有较高的正确率,对于指标光泽、香气、谐调、杂气、刺激和余味的预测准确率分别为90.63%、62.18%、97.20%、86.74%、74.17%和72.16%,比单一分类器中最好的结果分别改进0.69%、0.32%、0.28%、0.59%、0.52%和1.78%。

分类器的动态选择与循环集成方法

针对多分类器系统设计中最优子集选择效率低下、集成方法缺乏灵活性等问题,提出了分类器的动态选择与循环集成方法(Dynamic selection and circulating combination,DSCC).该方法利用不同分类器模型之间的互补性,动态选择出对目标有较高识别率的分类器组合,使参与集成的分类器数量能够随识别目标的复杂程度而自适应地变化,并根据可信度实现系统的循环集成.在手写体数字识别实验中,与其他常用的分类器选择方法相比,所提出的方法灵活高效,识别率更高.

一种自整定权值的多分类器融合方法

本文提出一种自整定权值的融合方法.该方法使用混淆矩阵来衡量分类器性能,并根据分类器输出情况自适应地为各分类器赋予权值,可靠的决策结果获得较大的权值,从而提高决策模板的可信度.对易于被错误分类的样本,在利用其与决策模板的相似性信息的同时,结合它周围的训练样本信息做出判断.通过与DT方法在KDD’99入侵检测数据集和UCI数据库中的8个数据集上的实验对比,表明本文方法具有更好的分类性能.

多分类器组合的交通拥堵预测模型研究

交通拥堵已成为制约城市经济和社会发展的"瓶颈",针对影响交通拥堵因素多的特点,在分析单分类器与Bagging类算法的基础上,提出一种基于多分类器组合的交通拥堵判别方法。通过分析交通流参数,同时充分考虑与城市路况相关的环境因素,得出城市道路的拥堵预测模型。仿真结果表明,它能够有效地判别道路拥堵的状态变化,比不考虑环境因素影响时能够获得更高的识别率和较低的误报率。

基于多特征子集组合分类器的企业财务困境预测

为了更加有效地进行企业财务困境预测,利用t检验、单因素方差分析、逐步判别分析、逐步逻辑回归和邻域粗糙集5种特征提取方法,结合支持向量机、多元判别分析、Logistic回归、分类和回归树等多种分类学习算法构造备选基本分类器。在此基础上,提出了基于精度前向搜索和后剪枝的多特征子集组合分类器财务困境预测方法。该方法无需计算单分类器之间的差异性,首先以系统预测精度最大化为原则进行前向搜索,然后通过后剪枝策略选择精度最高或满意的系统作为最终结果。实证研究中以中国上市公司为研究对象,以十折交叉验证精度为评价标准,结果表明,该方法构建的组合系统的分类预测精度明显高于个体最优模型,最优组合系统和最简洁组合系统为财务困境预测提供了更多的灵活性。

一种基于混淆矩阵的分类器选择方法

为充分利用分类器的差异性来提高分类器集成的准确率,提出一种分类器选择方法。基本思想是构造所有基分类器的混淆矩阵作为聚类算法的数据对象,根据各聚类中样本的分布选择出一定数量的分类器作为代表,构成新的待集成分类器集合。将该方法应用于Bagging算法的训练过程,通过实验对比,验证了该方法确实可以提高分类器集成性能。