支持向量机理论与算法研究综述

统计学习理论(statistical learning theory,SLT)是一种小样本统计理论,着重研究在小样本情况下的统计规律及学习方法性质。支持向量机(support vector machinse,SVM)是一种基于SLT的新型的机器学习方法,由于其出色的学习性能,已经成为当前机器学习界的研究热点。该文系统介绍了支持向量机的理论基础,综述了传统支持向量机的主流训练算法以及一些新型的学习模型和算法,最后指出了支持向量机的研究方向与发展前景。

动态粒度SVM学习算法

粒度支持向量机(GSVM)在处理分布均匀的数据集时较有效,但现实生活中数据集的分布往往是不可预测的,且分布不均匀.文中提出一种动态粒度支持向量机(DGSVM)学习算法,根据粒的不同分布自动粒划分,使SVM可在不同层次的粒上训练.标准数据集上的实验表明,与GSVM相比,DGSVM具有更好的分类性能.

基于灰色支持向量机的湿天然气集输管道腐蚀研究

湿天然气集输管道系统运行时间长,管道腐蚀严重,失效泄漏事故频发,其系统风险评价面临诸多问题,因而研究其腐蚀率预测有重要意义。基于灰色支持向量机(GSVM)方法,综合考虑管道材质及其各种影响因素,对其进行灰色相关分析,并根据结果选取有较高相关度的影响因子作为输入变量,将腐蚀率作为目标输出函数,建立湿天然气集输管道腐蚀预测模型。并通过实证分析比较,发现用该模型计算出的管道腐蚀率平均相对误差较小,其预测结果与实际值吻合程度较高,使预测精度得到提高。

基于粒度偏移因子的支持向量机学习方法

在实际应用中,数据集样本规模、分布密度的不平衡性可能会使传统支持向量机(support vector machine,SVM)得到的分类超平面不是最优.在对传统支持向量机最优分类面分析的基础上,结合粒度计算(granular computing,GrC)理论,针对数据规模和分布密度不平衡的数据集,提出一种基于粒度偏移因子的粒度支持向量机(granular SVM,GSVM)学习方法,称为S_GSVM方法.该方法将原始样本用Mercer核映射到高维空间,然后在高维空间中对数据进行有效的粒划分,通过对不同的粒计算不同的超平面偏移因子,重新构造支持向量机的凸二次优化问题,以得到一个泛化能力更好的分类超平面.S_GSVM方法充分考虑了数据复杂分布对于泛化能力的影响,对基于最大间隔的分类面进行改进.实验结果表明,S_GSVM方法在非平衡数据集上能得到较好的泛化性能.

支持向量机理论研究

支持向量机(support vector machines,SVM)是一种基于小样本统计理论的机器学习方法,在解决非线性及高维模式识别中表现出明显的优势,是近年来机器学习领域的研究热点。文中介绍了支持向量机的原理,对经典的训练算法和一些新型的学习模型进行了阐述,最后指出所面临的问题和研究方向。

处理非平衡数据的粒度SVM学习算法

针对支持向量机对于非平衡数据不能进行有效分类的问题,提出一种粒度支持向量机学习算法。根据粒度计算思想对多数类样本进行粒划分并从中获取信息粒,以使数据趋于平衡。通过这些信息粒来寻找局部支持向量,并在这些局部支持向量和少数类样本上进行有效学习,使SVM在非平衡数据集上获得令人满意的泛化能力。

一种新的基于混合粒子的粒化支持向量机算法

粒计算是信息处理邻域中新的概念和计算方法,但是,传统粒子支持向量机算法存在着映射前后的数据分布不一致的问题,同时,由于使用粒子中心替代粒子从而导致精度下降。为此,提出基于映射后的混合粒子支持向量机算法,首先,利用mercer核函数将数据映射到高维空间,粒化计算后,找出含有更多分类信息的混合粒子,提取后作为输入集合对超平面进行训练,利用几何分析调整最优超平面,并采用基于QPSO算法对关键参数进行最优求解,从而提高算法的精度。实验表明该算法比传统粒子支持向量机算法正确率高10%,说明改进的粒化支持向量机算法提升效果明显。

改进的粒度支持向量机在甲醇合成中的应用

针对甲醇合成过程中的复杂性和非线性等问题,利用共享最近邻(SNN)相似度将训练样本划分成若干个信息粒,然后分别进行支持向量提取,最后将提取出的支持向量融合,建立最终粗甲醇转化率预测模型。试验结果表明,改进的粒度支持向量机(GSVM)可以将"冗余数据"进行删减,获得更"稀疏"的回归模型,精度也高于传统支持向量机的粗甲醇转化率模型,从而能更好地指导甲醇生产。

基于不平衡样本推荐算法研究

用户或项目的分类是推荐算法的关键内容,而推荐过程中的不平衡样本问题,会影响少数类用户或少数类项目的推荐效果。笔者提出了SVM集合算法,利用SVM对多数类样本和少数类样本两种不同样本凸包分别进行压缩,而不会对SVM的分类超平面造成影响的几何特性,来实现不平衡样本的分类效果。

采用划分融合双向控制的粒度支持向量机

粒度支持向量机(granular support vector machine,GSVM)引入粒计算的方式对原始数据集进行粒度划分以提高支持向量机(support vector machine,SVM)的学习效率。传统GSVM采用静态粒划分机制,即通过提取划分后数据簇中的代表信息进行模型训练,有效地提升了SVM的学习效率,但由于GSVM对信息无差别的粒度划分导致对距离超平面较近的强信息粒提取不足,距离超平面较远的弱信息粒被过多保留,影响了SVM的学习性能。针对这一问题,本文提出了采用划分融合双向控制的粒度支持向量机方法(division-fusion support vec-tor machine,DFSVM)。该方法通过动态数据划分融合的方式,选取超平面附近的强信息粒进行深层次的划分,同时将距离超平面较远的弱信息粒进行选择性融合,以动态地保持训练样本规模的稳定性。通过实验表明,采用划分融合的方法能够在保证模型训练精度的条件下显著提升SVM的学习效率。

基于人眼视觉特性与自适应PCNN的医学图像融合算法

针对多尺度变换的图像特征,提出了一种基于人眼视觉特性与自适应脉冲耦合神经网络(PCNN)的医学图像融合新方法。首先,对经配准的源图像进行非下采样Contourlet变换(NSCT),得到低频、高频子带系数;然后,考虑到低频子带系数中保留了绝大部分源图像能量和图像轮廓特征,提出区域能量(RE)和梯度奇异值度量(GSVM)相结合的方法;考虑到图像全局特征,将PCNN用于高频子带系数中,提出区域视觉对比度(SLVC)模拟人眼视觉特性作为PCNN的外部刺激输入,设定PCNN的链接强度随视觉对比敏感度(VCS)自适应变化,同时考虑到PCNN的迭代次数,利用Sigmoid函数计算其点火输出幅值的显著性度量;最后,对获得的融合系数进行逆NSCT得到融合图像。通过实验对比分析表明,本文算法不仅可以保留源图像信息的同时,还得到较好的客观评价指标和视觉效果。