基于决策分类熵的决策树构造算法及应用

为了更好地完成金融数据集上的分类挖掘任务,以粗糙集理论为基础提出决策分类熵的概念,进而以属性的决策分类熵为属性分裂度量提出基于决策分类熵的决策树构造算法,并针对过拟合问题提出一种抑制参数来实现树规模的良好控制。实例分析及金融数据集上的实验表明:相比经典的C4.5决策树算法,新算法能够较好地克服其缺点和不足,构建更优的决策树,能够更好地完成分类任务。

一种新的应用变精度粗糙集的决策树构造方法

决策树分类方法是一种有效的数据挖掘分类方法,但在构造决策树的过程中,节点属性选择的标准直接影响分类的效果。对此,应用变精度粗糙集的理论提出了变精度决策分类熵和信息决策熵的概念,并把信息决策熵作为节点属性选择的标准。信息决策熵综合考虑了属性的当前分类能力和属性之间的依赖关系,克服了只突出属性分类能力的缺点。理论和实例分析结果表明:与经典的ID3决策树算法及其他算法相比,该算法能得到简洁高效的决策树。