纠错输出编码的留一误差界估计

纠错输出编码(ECOC)作为分解框架,将多类分类问题转化为二类分类问题,是解决多类分类问题的有效手段。为了提高ECOC的泛化性能,对ECOC基分类器的设计问题进行了研究。解决这一问题的关键是对ECOC的泛化性能进行估计。留一(LOO)误差作为泛化性能的无偏估计,研究了ECOC留一误差界的估计问题。先给出了ECOC留一误差的定义,基于此定义,再给出了基分类器为支持向量机(SVM),解码方法为线性损失函数解码时,ECOC留一误差的上界和下界。在人工数据集和UCI数据集上的实验表明,ECOC留一误差的上界可以指导基分类器的参数选择,通过基分类器设计可以提高ECOC的泛化性能。此外,ECOC的训练误差可以作为ECOC留一误差的下界,对ECOC留一误差下界的研究可以作为未来的研究方向。