求解非半正定核Huber-支持向量回归机问题的序列最小最优化算法

序列最小最优化(SMO)算法是求解大型支持向量机(SVM)问题的有效算法.已有的算法都要求核函数是正定的或半正定的,从而使其应用受到限制.针对这种缺点,本文提出一种新的的SMO算法,可求解非半正定核Huber-SVR问题.提出的算法在保证收敛的前提下可使非半正定Huber-SVR能够达到比较理想的回归精度,因而具有一定的理论意义和实用价值.

求解最小闭包球问题改进的SMO-型算法

研究n维空间中m个点的最小闭包球(MEB)问题。通过结合确定并删除内部点的技术到序列最小最优化(SMO)方法中,提出一种近似求解MEB问题的改进的SMO-型算法。证明了该算法具有线性收敛性。数值结果表明对于一些mn的大规模数据集,改进的算法与原算法相比速度可以提高10倍以上。尤其,当n等于100且m等于100000时,改进的SMO-型算法仅需执行8s。此外,对于n等于10000且m等于1000的大规模数据集,改进的算法也仅需执行150s。

最小闭包球问题近似算法的加速策略

结合最小闭包球(Minimum Enclosing Ball,MEB)问题近似算法的加速策略,到求解MEB问题的序列最小最优化(Sequential Minimal Optimization,SMO)近似算法中,分析给出基于远离步策略、确定并除去内部点策略及割平面法策略和积极集策略的SMO-型算法。数值实验结果表明,远离步策略能够有效减少核心集的大小,其他策略均能不同程度的提高算法的运行速度,积极集策略是最快的加速策略。

支持向量机多类分类方法

支持向量机本身是一个两类问题的判别方法,不能直接应用于多类问题。当前针对多类问题的支持向量机分类方法主要有5种:一类对余类法(OVR),一对一法(OVO),二叉树法(BT),纠错输出编码法和有向非循环图法。本文对这些方法进行了简单的介绍,通过对其原理和实现方法的分析,从速度和精度两方面对这些方法的优缺点进行了归纳和总结,给出了比较意见,并通过实验进行了验证,最后提出了一些改进建议。

不平衡支持向量机的惩罚因子选择方法

支持向量机在处理不平衡数据集时常常不能取得良好的效果,而基于不同惩罚因子的不平衡支持向量机能够较好地处理这个问题。阐述了支持向量机在不平衡数据集上失效的原因,讨论了不平衡支持向量机的求解算法,提出了一种根据数据集分布的平均密度直接选取惩罚因子的方法,以减少传统交叉验证方法选取参数所需的时间。实验表明,与其他方法相比,这种平均密度方法能够有效提高不平衡支持向量机在不平衡数据集上的识别效果。

基于边界矩和支持向量机的火焰识别算法

根据火焰的燃烧特性,结合火焰的空间形状特征和动态变化特征,设计了一种基于动态边界矩和支持向量机的火焰识别算法。利用相邻帧边界矩不变量的差值来描述火焰的动态特征,基于支持向量机对火焰和疑似火焰目标样本进行分类检测。实验表明,该算法具有较好的火焰目标识别性能、较低的虚警率和较强的抗干扰性能。

基于支持向量回归模型的电力系统谐波分析新方法

当前电力系统中的谐波问题日益严重,对谐波的准确检测和分析是抑制谐波畸变的重要依据。将基于改进的SMO算法的支持向量回归模型应用于电力系统谐波的检测,该算法克服了常规算法计算规模大和建模复杂的困难,通过引入一个中间因子,将原来问题的计算规模减半,并利用迭代算法求解中间因子,使得该算法简单可行。对三相桥式整流电路交流侧产生的特征谐波和非特征谐波电流进行了分析,仿真结果通过与FFT算法和ADALINE神经网络的检测分析结果对比,表明该方法无论是在理想情况下还是在考虑了各种影响因素的情况下,都具有很高的检测精度,可以满足电力系统的谐波分析的要求。该方法的不足之处是计算量会随着输入量分辨率的提高而增大。

求解加权Euclidean单中心问题的SMO-型算法

通过定义求解加权Euclidean单中心(WEOC)问题的两个近似最优性条件,基于序列最小最优化(SMO)方法,提出一种求解WEOC问题的SMO-型算法.该算法求解WEOC问题满足第二个近似最优性条件的(1+ε)-近似解,并且每次迭代只需更新对偶变量的两个分量.数值结果表明,SMO-型算法执行简单,能有效求解高精度的大规模计算问题.

基于支持向量机的肤色检测

根据支持向量机理论和肤色信息分布特点,提出用支持向量机方法进行肤色检测。在YCbCr、YIQ、YUV颜色空间中,去除照度分量,分别以各像素点的色度向量为输入,用像素点所属类别——皮肤区域与非皮肤区域为输出,建立各颜色空间的支持向量机肤色检测器。实验表明,该方法具有良好的肤色检测效果。

基于扩展SMO求解核函数非正定的SVR模型算法

将求解SVC模型的算法运用到求解SVR模型中一般要SVR模型的核函数正定且满足Mercer条件,而实际应用中利用几何框架将SVC模型转换成相应的SVR模型时,通常无法保证经转换得到的SVR模型的核函数具有正定性,从而导致SVR模型不是凸规划模型而无法求解。为解决上述问题,本文提出了一种运用扩展的序列最小最优化方法(SMO)来求解基于非正定核的SVR模型,设计了算法中工作集的选择准则,解决了算法中如何选择工作集变量当前的最优值问题。由于该算法不要求核函数具有正定性,从而拓宽了SVR模型核函数的选择范围。实验表明,该算法对基于正定或非正定核的SVR模型都具有很好的泛化性能和回归精度,具有一定的理论意义和实用价值。

基于SVM的个人房贷信用评估数据分析

采用SVM的序列最小最优化算法(SMO)作为训练算法对商业银行个人房贷信用评估数据进行分析,着重探讨了在个人房贷信用评估中分别应用径向基核函数参数和SMO训练算法中的参数调整对准确度的影响;通过银行实际数据集将该算法与C4.5和神经网络进行了比较,支持向量机对个人信用评估的总精度高于其他两种算法;支持向量机对实际的住房抵押贷款数据进行信用评估效果较好,且参数调整对试验结果有影响。

基于LIBSVM的数控机床热误差建模研究

通过建立数控机床热误差补偿的数学模型是实现机床热误差修正和提高机床精度的有效措施。本文以CL-20A数控车床主轴热变形为实验对象,在大量实验数据的基础上,利用逐步回归分析法找出机床温度敏感点,并采用基于MATLAB平台的支持向量机算法来建立车床主轴热误差数学模型。实验结果表明,所建立的模型能精确把握机床主轴热变形的规律和趋势,对于预测机床主轴热变形,实现实时热补偿具有实用价值。

基于PCA-SMO的CSI指纹定位方法

Wi-Fi信道状态信息(CSI)中包含丰富的特征信息,使得基于CSI的指纹定位方法可以构建更高维度的特征以改善定位精度,但指纹特征中的冗余信息也导致构建的指纹库存储量大、建立定位模型的时间开销变大以及实时定位计算量大等问题.对此,提出使用主成分分析(PCA)的方法对原始指纹特征进行降维,而后利用序列最小最优化算法(SMO)建立降维后特征与对应位置的回归模型并进行位置预测.实验结果表明,此算法在有效克服上述问题的同时,平均定位误差为1.25 m,定位误差在2 m之内的累计概率可以达到97%.

基于SDPM算法的SVM模型的软硬件设计与实现

支持向量积(Support Vector Machines,SVM)利用最优训练参数组合(Optimal Training Parameters Combination,OTPC)搭建模型的训练过程所涉及的总计算量是相当繁重的,软件处理这些运算会使得执行时长过久,从而不能满足SVM应用实时性的需要。为提升SVM搜索OTPC的性能,从算法和实现两方面进行了探索。在算法上,论证了共享点积矩阵(Share Dot Product Matrix,SDPM)算法,有效地降低搜寻OTPC时的点积计算量。在实现上,提出了基于SDPM算法来搜寻OTPC的软硬件协同架构。

两种求解非正定核Laplace-SVR的SMO算法

提出2种用于求解非正定核Laplace-SVR的序列最小最优化(SMO)算法.第1种算法仅针对Laplace-SVR而设计;第2种算法将Laplace-SVR作为所要解决问题的一种特殊情况,使算法更具通用性.所提出的算法在保证收敛的前提下,使非正定Laplace-SVR能够达到比较理想的回归精度,具有一定的理论意义和实用价值.