基于向量投影的支撑向量预选取

支撑向量机是近年来新兴的模式识别方法,在解决小样本、非线性及高维模式识别问题中表现出了突出的优点.但在支撑向量机中,支撑向量的选取相当困难,这也成为限制其应用的瓶颈问题.该文对支撑向量机的机理经过认真分析,研究其支撑向量的分布特性,在不影响分类性能的前提下,提出了基于向量投影的支撑向量预选取法,从训练样本中预先选择具有一定特征的边界向量来代替训练样本进行训练,这样就减少了训练样本,大大加快了支撑向量机的训练速度.

支持向量机中遗传模糊C-均值的样本预选取方法

提出了在支持向量机(support vector machine,SVM)方法中采用遗传模糊C均值(FCM)进行样本预选取的方法,旨在保留最优分类超平面附近的样本点,去除远处样本点,使训练样本集减小,消除冗余,从而减小所需内存。并以航空影像中的居民地为例进行分析,结果表明,按比例减少样本集后的分割结果与用原样本集的基本一样。

支撑矢量预选取的自适应投影算法

支撑矢量机是一种能在训练样本数很少的情况下达到很好分类推广能力的学习算法。但其在选择支撑矢量时却进行了大量不必要的运算,对此,该文提出了一种能够预选取支撑矢量的方法———自适应投影算法,该方法在不影响支撑矢量机的分类能力情况下,大大地减少了训练样本,提高了支撑矢量机的训练速度。仿真实验结果也验证了该方法的有效性和可行性。

互联网中非法文本特征分析及其属性预选取新方法

针对互联网中含不良内容的文本带来的信息安全问题,分析总结它们出现的特征,结合内容过滤技术,提出对此类文本的预处理方法,即带标点符号属性预选取方法。方法充分利用此类信息中词出现的特征,在属性预选取中,将标点符号作为潜在特征词的触发信息,进行文本预选属性集的提取。实验结果表明,该方法对增加合法文本与非法文本的区分度有较明显的效果。

一种基于密度法的支持向量预选取算法

针对大规模数据集的分类问题,支持向量机的训练成为一个难题。预先选取支持向量用于支持向量机的训练是解决这一难题的思路之一,但其的选择非常困难。本文提出了一种基于密度法的支持向量预选取方法。该方法不需要事先判定训练样本是否线性可分,具有较强的抗击孤立点干扰的能力,并且计算简单,易于实现。实验仿真证明这种方法是有效的。

支持向量预选取的K边界近邻法

支持向量机是基于统计学习理论的一种新兴的模式识别方法,在解决小样本、非线性及高维模式识别问题中表现出了突出的优势。但其支持向量的选取相当困难,这也成为限制其应用的瓶颈问题。本文提出了一种支持向量预选取的方法—K边界近邻法。该方法能有效提取包含支持向量的边界向量机,在不影响分类性能的情况下,极大减少了训练样本,提高训练速度。且新方法避免了数据分布的影响及对先验知识的依赖。仿真实验证明了该方法的可行性和有效性。

半监督SVM的工作集样本预选取方法

针对传统的半监督SVM训练方法把大量时间花费在非支持向量优化上的问题,提出了在凹半监督支持向量机方法中采用遗传FCM(GeneticFuzzyCMean,遗传模糊C均值)进行工作集样本预选取的方法。半监督SVM优化学习过程中,在原来训练集上(标签数据)加入了工作集(无标签数据),从而构成了新的训练集。该方法首先利用遗传FCM算法将未知数据划分成某个数量的子集,然后用凹半监督SVM对新数据进行训练得到决策边界与支持矢量,最后对无标识数据进行分类。这样通过减小工作样本集,选择那些可能成为支持向量的边界向量来加入训练集,减少参与训练的样本总数,从而减小了内存开销。并且以随机三维数据为例进行分析,实验结果表明,工作集减小至原工作集的一定范围内,按比例减少工作集后的分类准确率、支持向量数与用原工作集相比差别不大,而分类时间却大为减少,获得了较为理想的样本预选取效果。

改进的支持向量预选取方法在语音识别中的应用(英文)

对于大规模数据量的语音识别问题,支持向量机的训练成为一个难题。预选取支持向量是解决这一难题的方法之一。提出一种新的支持向量预选取算法.一方面对原数据集的每类数据分别进行核模糊C均值聚类,将所有的聚类中心作为每类数据的表征集;另一方面根据支持向量的几何分布含义并借鉴支持向量机的多类分类算法中一对一方法的思路提取原数据集的边界样本作为预选取支持向量进行训练和预测,并将该算法应用于嵌入式语音识别系统中,实验结果表明:该方法提高了语音识别系统的训练效率,降低了计算代价,同时保持了较高的识别率。

支持向量预选取的域着色Voronoi图方法

支持向量机是建立在统计学习理论基础上的一种机器学习方法,它通过对支持向量的训练而具有很好的分类推广能力。但是从训练样本中选取合适的支持向量很困难,而对噪音样本的训练会使支持向量机的泛化能力下降。在分析了支持向量的分布特性和Voronoi图在特征空间划分的优势后,提出一种利用域着色Voronoi图来选取支持向量的方法。该方法能大量减少训练样本集中的非支持向量,排除孤立噪音样本,最终得到一个包含候选支持向量的训练样本集。仿真实验结果说明了该方法的有效性和可行性。

基于随机中心距离排序的支持向量预选取方法

提出了一种基于随机中心距离排序的支持向量预选取方法.对于线性可分情况,该方法首先从每一个类别中随机选取一定数目的样本计算均值,并把该均值作为该类别样本的随机中心,然后对每一个样本计算它与另一类样本随机中心之间的距离,最后选择一定数目具有较小随机中心距离的原始样本组成边界样本集.对于非线性可分情况,此算法借助于核函数将原始问题映射到特征空间,然后再按照线性可分情况求解.由于支持向量往往分布在两类样本相邻的边界区域,因此此方法可以较为精确地预选取支持向量.在部分UCI标准数据集和ORL人脸数据库上的实验说明此算法较以往支持向量预选取算法可以更为快速准确地进行支持向量预选取.

一种改进的LSSVM支持向量预选取算法

解的稀疏性的丧失——所有的训练样本均作为支持向量,是最小二乘支持向量机的缺点之一,针对导致模型复杂度提高和模型训练、识别速度降低的问题,从数据挖掘和支持向量的几何分布含义两个方面出发,提出了一种新的支持向量预选取算法。一方面对原数据集的每类数据分别进行K均值聚类,将所有的类中心作为原始数据的表征集;另一方面对原数据集用K最近邻方法提取原数据集的边界样本;最后将这两种方法提取的所有样本点的并集作为预选支持向量进行训练和预测。UCI数据库的实验表明:该方法充分融合了K均值和K最近邻预选取算法的优点,能有效的预选取出支持向量,同时保持较高的识别率,而且稀疏效果更稳定,稀疏性能优于经典的迭代剪枝算法。

基于搜索机制密度聚类的支持向量预选取算法

支持向量机在解决小样本、非线性及高维模式识别问题中具有许多特有的优势,但支持向量的选择过程复杂。该文利用聚类技术的特殊性能,提出基于搜索机制的密度聚类算法,该算法通过一种简单的搜索策略可将密度高于一定限度的对象聚为一类。将该算法用于支持向量的预选取,可减少训练样本数目,提高支持向量机的训练速度。从仿真实验可以看出,通过基于搜索机制密度聚类的支持向量预选取,训练样本数目可减少2/3以上,线性可分的数据训练速度可加快12倍左右,非线性可分的数据训练速度可加快5倍左右。

多类分类预选取的SVM在语音识别中的应用

支持向量机在训练过程中,将很多时间都浪费在对非支持向量的复杂计算上,特别是对于大规模数据量的语音识别系统来说,支持向量机在训练时间上不必要的开销将会更加显著。核模糊C均值聚类是一种常用的典型动态聚类算法,并且有核函数能够把模式空间的数据非线性映射到高维特征空间。在核模糊C均值聚类的基础上,结合了多类分类支持向量机中的一对一方法,按照既定的准则把训练样本集中有可能属于支持向量的样本数据进行预选取,并应用到语音识别中。实验取得了较好的结果,该方法有效地提高了支持向量机分类器的学习效率和泛化能力。

基于距离配对排序的支持向量预选取算法

支持向量机是一种基于统计学习理论的二分类方法。支持向量机最小序列化算法(SMO)是针对支持向量机的对偶问题开发的高效算法。在数据训练过程中,支持向量对于分离超平面的确定起着决定性作用,但是支持向量仅占原始样本集的一小部分,并且分布在两类数据的边界上。如果用一个包含大多数支持向量的边界向量集来替换原始样本集进行训练,这样便能在保证分类精度的前提下,缩短训练时间,提高分类速度。然而支持向量的预选取比较困难,因此为了解决该问题,本文提出了一种基于距离配对排序的支持向量预选取算法。数值实验结果表明本文的算法能够有效地预选取包含支持向量的边界向量集。

基于模糊k近邻的样本预选取的支持向量机分类算法

在支持向量机(SVM)方法中采用模糊k近邻方法进行样本预选取,旨在保留最优分类超平面附近的样本点,去除远处样本点,使训练样本集减小,消除冗余,从而减小所需内存.实验结果表明,该方法无论是训练速度还是分类精度都远远好于单独的SVM分类器.

基于离散度的SVDD支持向量预选取方法

为了提高SVDD训练效率、降低存储空间需求,提出了样本的离散度概念,从理论上证明了样本的离散度和支持向量可能性大小之间的关系,并以此为依据来预选取支持向量.仿真实验表明该方法能够在保证SVDD分类精度的前提下,大幅减少训练样本数,而且比现有的其它方法精度更高,证明了该方法的有效性和优越性.

基于支持向量预选取的分类方法

提出了一种基于支持向量预选取的两类分类方法，在不影响分类性能的前提下，根据支持向量的几何特征，采用向量投影的概率分布法和减法聚类再选取法，在训练样本集中预先选择与分类有关的一组支持向量，代替整个训练样本集，进行支持向量机两类分类．数据实验结果表明，该方法有效地提高了支持向量机分类器的学习效率，实现了较高的分类精确度．

基于改进的样本预选取的高光谱影像半监督分类

针对高光谱影像中无标记样本对分类精度的影响问题,运用一种改进的KFCM聚类算法先对未标记样本聚类;然后根据聚类结果进行未标记样本选取,挑选出的未标记样本位于聚类边界上可能属于支持向量;最后使用已有的标记样本和挑选的未标记样本对支持向量机(SVM)进行训练,直到其分类精度到达预期效果。实验结果表明,将聚类和半监督SVM分类相结合并进行未标记选取,比省略此过程直接使用SVM进行高光谱影像分类的精度高,且该方法稳定、可靠。

基于错分样本的AdaBoost支持向量预选取算法

支持向量机在大样本情况下训练速度慢,支持向量预选取可以解决这个问题.AdaBoost算法重点关注错分样本,而错分样本一般都处于分类边界,支持向量就由分类边界样本构成.因此,提出基于错分样本的AdaBoost支持向量预选取算法,该算法通过AdaBoost提升过程,使得越是容易被错分的样本权值越大,从而实现支持向量的预选取,通过仿真实验验证了算法的有效性.

基于k-最近邻的支持向量预选取方法

在所有的训练样本中只有支持向量(SVs)能对支持向量机分界面优化结果产生显著影响.基于k-最近邻规则,提出了一种训练样本的预选取方法.针对一些典型人工数据集、公用基准数据集以及TM遥感数据的实验结果表明,该方法能够有效减少训练样本数目,显著加快学习速度,并保证理想的分类精度.