基于距离配对排序的支持向量预选取算法

支持向量机是一种基于统计学习理论的二分类方法。支持向量机最小序列化算法(SMO)是针对支持向量机的对偶问题开发的高效算法。在数据训练过程中,支持向量对于分离超平面的确定起着决定性作用,但是支持向量仅占原始样本集的一小部分,并且分布在两类数据的边界上。如果用一个包含大多数支持向量的边界向量集来替换原始样本集进行训练,这样便能在保证分类精度的前提下,缩短训练时间,提高分类速度。然而支持向量的预选取比较困难,因此为了解决该问题,本文提出了一种基于距离配对排序的支持向量预选取算法。数值实验结果表明本文的算法能够有效地预选取包含支持向量的边界向量集。

一种改进的PSO-SVM算法

粒子群优化(Particle swarm optimization, PSO)算法在整个训练数据集上搜寻支持向量机(Support vector machine, SVM)最优惩罚参数C和高斯核参数σ时会出现搜寻时间过长的问题。为了解决该问题,我们提出了一种基于距离配对排序(Distance pairing sorting, DPS)支持向量预选取的PSO-SVM算法(DPS- PSO-SVM)。该算法先将训练数据集进行DPS支持向量预选取构造一个支持向量候选集,然后利用PSO算法在支持向量候选集上对SVM参数寻优,最后将最优参数输入到SVM算法中对支持向量候选集进行训练。本文采用UCI数据库中的Breast Cancer数据和Banknote Authentication数据进行数值实验,结果表明该算法既能够缩短参数寻优时间,还能够保持PSO-SVM算法的高分类精度。