局部化的广义特征值最接近支持向量机

基于广义特征值的最接近支持向量机(Proximal Support Vector Machine via Generalized Eigenvalues,GEPSVM)是一种新的具有与SVM性能相当的两分类方法,通过求解广义特征值来获得两个彼此不平行的拟合两类样本的超平面.其决策是将测试样本归为距其最近的超平面所在的类.然而,该规则在某些情形会导致较差的分类结果.对此,在GEPSVM基础上,通过在类拟合超平面上寻找一个包含了所有训练样本投影的局部凸区域,来决定样本的类别.该局部方法不仅具有较GEPSVM更优的分类性能,同时还衍生出了求解超平面上凸壳的简单且易于核化的新算法.最后在人工和UCI数据集上获得了验证.

基于原型超平面的多类最接近支持向量机

基于广义特征值的最接近支持向量机(proximalsupportvectormachineviageneralizedeigenvalues,GEPSVM)摒弃了传统意义下支持向量机典型平面的平行约束,代之以通过优化使每类原型平面尽可能接近本类样本,同时尽可能远离它类样本的准则来解析获得原型平面;从而避免了SVM的二次规划,其分类性能达到甚至超过了SVM.但GEPSVM仍存在如下不足①仅对两分类问题而提出,无法直接求解多分类问题;②存在正则化因子的选择问题;③求解原型平面的广义特征值问题中所涉及的矩阵一般仅为半正定,容易导致奇异性问题.通过定义新的准则,构建了一个能直接求解多个原型超平面的多分类方法,称之为基于原型超平面的多类最接近支持向量机,较之GEPSVM,该方法优势在于①无正则化因子选择的困扰;②可同时求解多个超平面,对两分类问题,分类性能达到甚至优于GEPSVM;③超平面的选择问题转化为简单特征值而非广义特征值求解问题;④原型平面的选择只依赖于本类样本,故不必考虑多分类情形时的数据不平衡问题.

基于特征值分解的中心支持向量机算法

针对广义特征值中心支持向量机(GEPSVM)训练和决策过程不一致问题,该文提出一类改进的基于特征值分解的中心支持向量机,简称为IGEPSVM。首先针对二分类问题提出了基于特征值分解的中心支持向量机,然后基于"一类对余类"策略将其推广到多类分类问题。将GEPSVM求解广义特征值问题转化为求解标准特征值问题,降低了计算复杂度。引入了一个新的参数,可以调节模型的性能,提高了GEPSVM的分类精度。提出了基于IGEPSVM的多类分类算法。实验结果表明,与GEPSVM算法相比较,IGEPSVM不仅提高了分类精度,而且缩短了训练时间。

一种无约束凸规划多平面修正TWSVM

对支持向量机(Twin Support Vector Machine,TWSVM)的优化思想源于基于广义特征值近似支持向量机(ProximalSVM based on Generalized Eigenvalues,GEPSVM)。该算法将传统SVM问题分解为两个凸规划问题,使得训练速度缩减到原来的1/4。对TWSVM做了修正,基于新的优化准则设计了一种特殊TWSVM(GTWSVM),在此基础上,提出了快速GTWSVM(FGTWSVM),其将GTWSVM转换为无约束凸规划问题求解。该算法在保证得到与TWSVM相当的分类性能以及较快的计算速度的同时,还减少了输入空间的特征数以及内存占用。对于非线性问题,FGTWSVM可以减少核函数数目。

改进的多面最临近支持向量机

基于泛化特征值问题的多面PSVM(GEPSVM)被O.L.Mangasarian证实是一种有效、简单、训练速度快的方法,但其仅对维数不高、样本数目也不大的数据集在实验中进行了比较和说明,而对上千维,甚至上万维人脸数据库,即小样本的、多类的问题并没有给出解决方法。文章把原算法加以改进,即把求解最小优化问题变成了求解最大优化问题,解决了因数据维数高、样本数较小而产生的奇异值问题,同时也实现了其多类算法,并用原GEPSVM算法和改进的算法来分别对这三个人脸数据库进行分类比较,从而使识别率和所用的处理时间两方面都得到了极大的改进。

传感器网络定位中节点攻击类型的分布式识别算法

针对无线传感器网络在定位过程中的外部攻击节点的类型识别问题,提出了一种交替方向-Lp范数支持向量机(ADM-PSVM)分布式识别算法。该算法基于线性支持向量机分类模型,首先引入了Lp范数约束形式,通过选择不同的范数值p以增强分类算法对数据集的适应能力;继而根据交替方向乘子方法推导出了算法的分布式形式,实现了节点根据剩余能量将识别的计算任务分布于不同节点之间进行;最后将算法对各类型的恶意节点数据进行了训练及识别仿真,并讨论了范数约束值以及惩罚因子取值的不同对识别精确率的影响。仿真结果表明,该算法对于恶意外部攻击节点数据具有较好的识别精确度及更高的计算效率。

基于主次原型超平面最接近支持向量机

基于广义特征值的最接近支持向量机GEPSVM是一种新的具有与SVM性能相当的两类分类方法,通过求解广义特征值来获得两个彼此不平行的拟合两类样本的超平面,其决策规则是将测试样本归为距其最近的超平面所在的类。然而,该规则在某些情形会导致较差的分类结果。对此,本文提出了在利用GEPSVM产生一个主原型超平面的基础上,再利用主原型超平面及它类样本的信息构造一个次原型超平面,形成一个由主次原型超平面共同决策的最接近支持向量机。该方法不仅简单且易于实现,而且具有较GEPSVM更优的分类性能。在UCI数据集上的实验验证了它的有效性。

往复泵故障示功图灰度矩阵法特征量研究

为了准确获取往复泵故障规律和特征量用以监控和诊断往复泵工作状态。本文通过人为实验模拟往复泵液力端泵阀漏失、弹簧断裂、柱塞磨损等6种典型故障,得到了往复泵在典型故障状态下的示功图并分析其产生原因和规律;利用MATLAB编程分别对6种故障状态下的示功图提取6组灰度矩阵特征向量,所得特征量样本数据通过支持向量机训练。结果表明,其故障自动识别率能达到95%以上,具有较高的诊断准确性,可作为往复泵在线监控和故障自动诊断的数据基础。

基于v-支持向量回归机的盲均衡算法

盲均衡可以看作模式分类问题,每一类由信源字符表的可能输出定义。由于支持向量回归机具有优良的泛化性能,提出了一种基于v-支持向量回归机的盲均衡算法,并且利用加权最小二乘方法求解v-支持向量回归机。计算机仿真结果表明提出的盲均衡算法具有计算复杂度低、适于实际应用的特点。

人脸识别中的PSVM方法

最临近支持向量机Proximal SVM(PSVM)是一种有效的、简单的和快速的近似支持向量机方法,识别效果和标准支持向量机相当,相比之下有较少处理时间．虽然有此优点,它的有效性仅仅是针对维数不高、大样本的数据集,而对于上千维甚至上万维的、小样本的人脸数据库情况没有人给出实验结果．文章把PSVM稍做改变,对四个公开的人脸库进行分类．同时采用几种典型的泛化线性鉴别分析(GLDA)方法,对人脸图像预处理．从识别率和所用的处理时间两方面以及用最近邻及最近特征线分类器进行对比,得出具有较好识别效果和处理时间的方法．

马氏度量下局部化广义特征值最接近支持向量机

局部化广义特征值最接近支持向量机(Localized GEPSVM,LGEPSVM)是从广义特征值最接近支持向量机(GEPSVM:Proximal Support Vector Machine via Generalized Eigenvalues)衍生而来,其原理是在GEPSVM通过求解广义特征值获得两个彼此不平行的超平面的基础上,分别求解两个超平面的凸壳,修改GEPSVM的分类判据为将测试样本归为距其最近凸壳所属的那一类.分析和实验表明,LGEPSVM较之GEPSVM具有更高的分类精度.然而,由于LGEPSVM在训练和分类过程中都涉及凸壳计算问题,因而费时较多.为了缓解这一问题,本文提出的基于马氏度量的最小椭圆凸壳算法MLGEPSVM(LGEPSVM based on Mahalanobis Metric),即分类时只需要判断样本与对应椭圆凸壳的距离.较之LGEPSVM和GEPSVM,MLGEPSVM具有如下几个特点:(1)给出了马氏度量下的椭圆凸壳计算方法,(2)分类速度更快,(3)更低的存储空间,每类样本仅需存储椭圆凸壳(可通过中心和协方差表示),而不是所有的凸壳顶点.在人工和标准数据集上的实验,验证了MLGEPSVM的上述性能.

广义特征值多类分类算法

提出了一个新的多类分类算法,该算法的目标是寻找M个相互不平行的超平面,使得第m(m=12M)类的各点到第m个超平面的距离之和尽可能小,而其余类的所有点到该超平面的距离之和尽可能大。基于这个思想,寻求第m个超平面的优化模型最终可转化为一个广义特征值问题。该方法编程简单,易于实现。在数值试验部分,该算法与一些经典的基于支持向量机的多类分类算法进行比较,表明了该算法的优越性。

基于特征值分解的最大间隔支持向量回归机

广义特征值中心支持向量回归机(GEPSVR)是一种有效的核回归算法,但其在求解优化问题时易导致奇异性问题.为此,提出一种基于特征值分解的支持向量回归机,简称IGEPSVR.与GEPSVR相比,IGEPSVR的主要优势有:结合最大间隔准则和GEPSVR几何思想给出了新的距离度量准则;在优化模型中引入Tikhonov正则项,克服了可能产生的奇异性问题;IGEPSVR仅需求解两个标准特征值,降低了计算复杂度.实验结果表明,较GEPSVR算法,IGEPSVR不仅提高了学习能力,而且缩短了训练时间.