LOO误差与LOO误差界估计的关系及在MATLAB上的实现

支持向量机是基于统计学习理论的新一代学习机器,本文论述了LOO(Leave-One-Out)误差与LOO误差界估计的定义及其两者关系；并对每个问题都给出了在MATLAB上实现的程序；通过数值试验表明了LOO误差与三个LOO误差界估计的关系。

基于支持向量机LOO误差估计的研究

支持向量机是基于统计学习理论的新一代学习机,在支持向量机方法的基础上,以分类问题为例,对支持向量机算法评价标准进行了研究与比较,论述了LOO误差与LOO误差界估计的算法模型,并通过数值试验表明了参数的不同取值对LOO误差与3个LOO误差界估计的影响。给出LOO误差界中参数选取的一定规律,使其更好地评价算法的精度。

一种基于参数优化C-SVM的脑电信号分类方法及应用

脑电信号(electroencephalograph,EEG)由于自身信号微弱且容易受到周边环境和大脑内部其他活动的影响,对其进行特征分类并提高分类准确率这一问题一直是脑机接口领域的难点。传统的基于支持向量机(support vector machines,SVM)的脑电信号特征分类方法在选取惩罚参数与核函数参数时大都只是采用经验数据,而忽略了参数优化对提升SVM分类效果重要性,而现有的参数优化方法计算复杂严重影响了分类效率。针对以上问题,提出了一种通过交叉检验和LOO误差上界对C-SVM中的惩罚参数C和核函数参数进行优化的方法,并在理论分析的基础上结合实验证明了参数优化后的分类方法能够有效提高脑电信号分类的准确率且对分类效率影响不大。

人脸识别中基于均匀设计的SVM超参数调节方法

为了有效地解决超高维、多类别人脸识别中支持向量机(SVM,support vector machine)超参数调节计算复杂性问题,提出一种基于均匀设计(UD,uniform design)的SVM超参数调节的人脸识别方法。用UD代替传统的网格(grid)和梯度下降(gradient descent)方法挑选充分均衡分散在整个试验范围内且能得到满意实验结果的特征点,通过最小化k折交叉验证误差界或留一法(LOO,leave-one-out)误差界获取SVM最佳超参数。在UCI模拟数据集(Waveform)及人脸图像库(Yale,PIE)上进行了实验,结果表明,本文方法与传统的SVM超参数调节方法相比,能大大降低超参数调节的时间且能在一定程度上提高人脸分类识别率,使SVM超参数调节方法在解决高维人脸真实数据问题时具有一定的实用价值。