Rough集中属性分类贡献能力综合测度研究

针对Rough集中刻画属性分类能力的测度正区域等仅能反映属性可辨识对象集大小,不能反映属性对样本的划分状况影响分类的其它因素的问题,提出了Rough集中度量属性分类贡献能力的综合测度———属性分类粗糙度,对其特性进行了分析,给出了用该测度以及信息增益等分别作为决策树算法选择属性的启发式对UCI几个数据集的挖掘结果.理论分析和实验表明,属性分类粗糙度更全面地刻画了属性对分类的综合贡献能力,且具有计算更为简单等特点.

基于Rough集的决策树算法

针对基于Rough集的经典分类算法值约简算法等不适合大数据集的问题,提出了基于Rough集的决策树算法.采用一个新的选择属性的测度——属性分类粗糙度作为选择属性的启发式,该测度较Rough中刻画属性相关性的测度正区域等更为全面地刻画了属性分类综合贡献能力,并且比信息增益和信息增益率的计算更为简单采取了一种新的剪枝方法——预剪枝,即在选择属性计算前基于变精度正区域修正属性对数据的初始划分模式, 以更有效地消除噪音数据对选择属性和生成叶节点的影响.采取了一种与决策树算法高度融合的简单有效的检测和处理不相容数据的方法,从而使算法对相容和不相容数据都能进行有效处理.对UCI机器学习数据库中几个数据集的挖掘结果表明,该算法生成的决策树较ID3算法小,与用信息增益率作为启发式的决策树算法生成的决策树规模相当.算法生成所有叶节点均满足给定最小置信度和支持度的决策树或分类规则,并易于利用数据库技术实现,适合大数据集.