基于SVM最优决策面的决策树构造

针对决策树与SVM算法融合问题,提出一种基于SVM最优决策面(ODS)构造决策树的方法。通过研究ODS形状位置特征与其属性分类能力的关系以及属性分割点的数目、位置与决策树大小、分类误差的关系,给出基于ODS形状位置特征的属性重要性度量方法与属性最小分割点数的确定方法,进而得出了ODS逼近决策树决策面的误差模型,最终实现ODS对决策树决策面的有效逼近,并用于多类别决策树的构造。典型数据集的计算结果表明,与C4.5算法相比,所提出的决策树构造方法平均分类误差可减少60%以上,显著提高了决策树的泛化能力。