银行客户信用评估动态分类器集成选择模型

现实的银行客户信用评估数据常包含大量的缺失值,这在很大程度上影响了信用评估模型的性能.针对已有模型的不足,提出了面向缺失数据的动态分类器集成选择模型DCESM.该模型充分利用数据集中所包含的已知信息,在训练信用评估模型之前不需要事先对缺失数据进行预处理,从而减少了对数据缺失机制假设以及数据分布模型的依赖.从UCI数据库中选择两个银行信用卡业务信用评估数据集进行实证分析,结果表明,与4种常用的基于插补法的多分类器集成模型以及1种直接面向缺失数据建模的集成模型相比,DCESM模型能够取得更好的客户信用评估性能.

分类器的动态选择与循环集成方法

针对多分类器系统设计中最优子集选择效率低下、集成方法缺乏灵活性等问题,提出了分类器的动态选择与循环集成方法(Dynamic selection and circulating combination,DSCC).该方法利用不同分类器模型之间的互补性,动态选择出对目标有较高识别率的分类器组合,使参与集成的分类器数量能够随识别目标的复杂程度而自适应地变化,并根据可信度实现系统的循环集成.在手写体数字识别实验中,与其他常用的分类器选择方法相比,所提出的方法灵活高效,识别率更高.

基于多分类器动态选择与成本敏感优化集成的电信客户流失预测研究

针对不同样本在特征空间中具有不同的区域特性和不同分类算法之间的预测互补性,在电信客户流失预测理论基础上,融合多分类器动态集成理论和成本敏感学习理论,建立了电信客户流失多分类器集成预测的利润函数,并提出了一类新的基于多分类器动态选择与成本敏感优化集成的电信客户流失预测模型。首先使用K均值聚类法聚类训练样本成多个分区;接着使用NaiveBayes算法、多层感知机算法和J48算法在各分区样本上构建客户流失预测子分类器;最后使用改进人工鱼群算法分别对各分区的子分类器进行成本敏感优化集成。实验结果表明,所提出的基于多分类器动态选择与成本敏感优化集成模型的分类性能不仅优于由训练集全体样本所构建的3个单模型,也优于基于改进人工鱼群算法优化集成这3个单模型而得到的集成模型。

聚类的动态分类器集成选择

动态分类器集成选择(DCES)是当前集成学习领域中一个非常重要的研究方向.然而,当前大部分DCES算法的计算复杂度较高.为了解决该问题和进一步提高算法的性能,本文提出了基于聚类的动态分类器集成选择(CDCES),该方法通过对测试样本聚类,极大地减少了动态选择分类器的次数,因而降低了算法的计算复杂度.同时,CDCES是一种更加通用的算法,传统的静态选择性集成和动态分类器集成为本算法的特殊情况,因而本算法是一种鲁棒性更强的算法.通过对UCI数据集进行测试,以及与其他算法作比较,说明本算法是一种有效的、计算复杂度较低的方法.

基于动态异构集成的多标签数据流分类算法

使用反映数据变化机制的自适应模型可以更好处理数据流问题。为实现自适应调整集成分类器使其更符合数据特性,提出一种基于动态异构集成的多标签数据流分类算法。通过使用H个不同分类算法分别训练固定大小的数据块,生成候选分类器组E={E 1,…,E H},利用几何加权公式计算每个E i中候选基分类器的权重实现组内的动态更新;提出一种新的自适应选择策略生成最终的异构集成分类器。通过在6个数据集上的大量实验验证,提出算法比现有算法在准确度、基于实例的F1值、微观F1值、宏观F1值上有更好的性能。

基于多分类器动态集成的电信客户流失预测

本文提出了一种新的基于多分类器动态选择与优化集成的电信客户流失预测集成模型.首先使用K均值聚类算法对训练集样本进行分区;然后分别使用Naive-Bayes算法、多层感知机算法和J48算法构建各分区客户流失预测子分类器;最后对各分区子分类器进行线性集成,并使用人工蜂群算法优化其集成权重.当测试样本由聚类算法判断出其归属区域后,再分别使用分区子分类器进行预测,最后使用优化权重进行线性集成.实验结果表明:动态集成模型优于单模型;基于人工蜂群算法优化集成模型优于其它集成模型.

基于边缘分类能力的动态集成选择算法

提出了一种新的基于边缘分类能力排序准则,用于基于排序聚集(ordered aggregation,OA)的分类器选择算法。为了表征分类器的分类能力,使用随机参考分类器对原分类器进行模拟,从而获得分类能力的概率模型。为了提高分类器集成性能,将提出的基于边缘分类能力的排序准则与动态集成选择算法相结合,首先将特征空间划分成不同能力的区域,然后在每个划分内构造最优的分类器集成,最后使用动态集成选择算法对未知样本进行分类。在UCI数据集上进行的实验表明,对比现有的排序准则,边缘分类能力的排序准则效果更好,进一步实验表明,基于边缘分类能力的动态集成选择算法较现有分类器集成算法具有分类正确率更高、集成规模更小、分类时间更短的优势。

基于AdaBoost改进的多分类器动态集成算法

为提高分类准确率,研究一种改进的多分类器动态集成算法。调整AdaBoost,使其适用于加权训练集;引入属性相关度来标记待分类样本和训练集决策属性之间的相似程度,实现以动态筛选的方式组合最终的分类模型。该算法避免了在分类模型集成过程中对训练集的重复抽取,弥补了模型中单分类器位置固定不变的不足。实验结果表明,该算法能有效提高分类精度和泛化能力。

基于多分类器动态集成的P2P违约风险评估

针对P2P违约风险评估问题,构建基于K均值聚类的多分类器动态集成模型。通过K均值聚类将P2P借贷样本集划分为多个区域,并在每个区域分别构建多个基分类器模型,进行多分类器集成;在给定新的测试样本时,基于样本特征动态选择样本归属区域的基分类器,进行模型集成与违约风险评估。以Lending Club借款数据为例,对网贷违约风险评估进行实证分析表明,基于多分类器动态集成的P2P违约评估模型,比单一模型和静态集成模型的准确性更好,且基于神经网络的动态集成模型效果最好。

动态多分类器集成在肺结节辅助检测中的应用

针对肺结节病灶数据具有多样性及异质性特点,提出了动态多分类器选择集成算法(Dynamic Multiple Classifiers Selection,DMCS),将特征空间随机划分为若干特征子集,针对每个特征子集样本分布不同,对不同的特征子集选择适合的基分类器,最后进行集成学习。实验表明,该算法比目前有代表性的肺结节检测病灶分类算法具有更好的稳定性和检测性能。

基于SVM动态集成的高光谱遥感图像分类

在Bagging支持向量机(SVM)的基础上,将动态分类器集选择技术用于SVM的集成学习,研究了SVM动态集成在高光谱遥感图像分类中的应用。结合高光谱数据特性,通过随机选取特征子空间和反馈学习改进了BaggingSVM方法;通过引进加性复合距离改善了K近邻局部空间的计算方法;通过将错分的训练样本添加到验证集增强了验证集样本的代表性。实验结果表明,与单个优化的SVM和其他常见的SVM集成方法相比,改进后的SVM动态集成分类精度最高,能有效地提高高光谱遥感图像的分类精度。

一种局部最优型动态集成选择算法

提出一种建立在局部最优基础上的动态集成选择算法,并从理论上对算法进行了分析.该算法首先在多个局部特征空间上构造最优集成,然后使用动态集成选择技术对未知样本进行识别.局部空间上的集成构造问题被转换为一个单目标优化问题,并使用多种群遗传算法进行了求解.基于UCI数据集的实验表明,相对于现有的动态分类器选择算法和动态集成选择算法,新算法能够取得更高的识别率.同时,相对于现有的动态集成选择算法,新算法构造的集成规模更小,识别速度更快.

基于约束得分的动态集成选择算法

针对基于约束得分的特征选择容易受成对约束的组成和基数影响的问题,提出了一种基于约束得分的动态集成选择算法(dynamic ensemble selection based on bagging constraint score,BCS-DES)。该算法将bagging约束得分(bagging constraint score,BCS)引入动态集成选择算法,通过将样本空间划分为不同的区域,使用多种群并行遗传算法为不同测试样本选择局部最优的分类集成,达到提高分类精度的目的。在UCI实验数据集上进行的实验表明,BCS-DES算法较现有的特征选择算法受成对约束组成和基数影响更小,效果更好。

基于聚类和随机参考分类器的对海雷达目标识别算法

为了进一步提高复杂干扰环境下对海雷达目标识别的泛化能力,提出基于k-medoids聚类和随机参考分类器(RRC)的动态选择集成算法(KMRRC).主要利用重采样技术生成多个基分类器,然后基于成对多样性度量准则将基分类器划分为多个簇,并基于校验数据集为每个基分类器构建相应的RRC模型,最后利用RRC从各个簇中动态选择竞争力最强的部分基分类器进行集成决策.通过寻优实验确定KMRRC的参数设置,随后利用Java调用Weka API在自建的目标全极化高分辨距离像(HRRP)样本库及17个UCI数据集上进行KMRRC与常用的9种集成算法和基分类算法的对比实验,并进一步研究多样性度量方法的选取对KMRRC性能的影响.实验验证文中算法在对海雷达目标识别领域的有效性.

基于动态分类器集成选择的不完整数据客户分类方法实证研究

在管理决策的制定中,分类已经成为一种十分重要的方法和技术。由于现实客户数据常常是不完整的,因此,研究不完整数据的客户分类问题具有重要意义。通过分析以往分类过程中对不完整数据的处理方法,提出了一种基于动态分类器集成选择的不完整数据分类方法DCES-ID。分别在UCI客户分类数据集以及某券商客户数据集上进行分类的实验和实证分析。结果表明,与已有的6种分类算法相比,DCES-ID算法具有更高的分类准确性及稳定性,能够更有效地进行客户分类。