在线鲁棒最小二乘支持向量机回归建模

鉴于工业过程的时变特性以及现场采集的数据通常具有非线性特性且包含离群点,利用最小二乘支持向量机回归(least squares support vector regression,LSSVR)建模易受离群点的影响.针对这一问题,结合鲁棒学习算法(robust learning algorithm,RLA),本文提出了一种在线鲁棒最小二乘支持向量机回归建模方法.该方法首先利用LSSVR模型对过程输出进行预测,与真实输出相比较得到预测误差;然后利用RLA方法训练LSSVR模型的权值,建立鲁棒LSSVR模型;最后应用增量学习方法在线更新鲁棒LSSVR模型,从而得到在线鲁棒LSSVR模型.仿真研究验证了所提方法的有效性.

基于鲁棒最小二乘支持向量机的电机振动故障诊断

对时序数据建模与辨识技术进行了分析,提出了使用鲁棒最小二乘支持向量机(LS-SVM)算法建立自回归移动平均(ARMA)时序预测模型。该模型是在LS-SVM的约束条件中考虑了鲁棒特性和时序模型参数,使之在求解的过程中对孤立点与噪声不敏感,并且能准确地辨识时序模型参数。考虑到电机振动故障诊断的输入输出数据集间存在着复杂非线性时序上的关系,通过用基于鲁棒LS-SVM的ARMA模型预报电机的振动值,从而预测电机振动故障。实验表明该模型在对非线性时间序列预测精度和稳定性上具有明显的优越性,为确保电机正常运行创造了良好条件。

基于鲁棒最小二乘支持向量机的气动参数拟合

最小二乘支持向量机(LS-SVM)比标准支持向量机具有更高的计算效率,但是却散失了标准支持向量机的稀疏特性,而且当考虑异常值或者误差变量的高斯假设不成立时,会导致不稳健的估计结果。为了克服这两个缺点,在飞行器的气动参数拟合计算中引入了一种鲁棒最小二乘支持向量机(RLS-SVM),该方法通过加权的支持向量机来获得鲁棒估计,并通过对支持值谱进行剪枝最终得到稀疏解。仿真结果表明:RLS-SVM方法简单,学习速度快,拟合精度高,鲁棒性强,是一种在飞行器轨迹计算中值得推广和采用的方法。

基于鲁棒小波ν-支持向量机的产品销售预测模型

针对产品销售时序具有正态高斯分布、幅值较大、奇异点等混合噪音,设计一种鲁棒损失函数,并采用小波核函数,由此得到一种新的小波ν-支持向量机,即鲁棒小波ν-支持向量机(Robust wavelet ν-support vector machine,RWν-SVM).它可以有效地压制销售时序的多种噪音和奇异点,具有很强的鲁棒性,而且它比标准小波ν-支持向量机(Wν-SVM)具有更简洁的对偶优化问题.最后进行了汽车销售预测的实例分析,结果表明基于RWν-SVM的预测模型是有效可行的.

基于模糊核聚类和支持向量机的鲁棒协同推荐算法

该文针对现有推荐算法在面对托攻击时鲁棒性不高的问题,提出一种基于模糊核聚类和支持向量机的鲁棒推荐算法。首先,根据攻击概貌间高度相关的特性,利用模糊核聚类方法在高维特征空间对用户概貌进行聚类,实现攻击概貌的第1阶段检测。然后,利用支持向量机分类器对含有攻击概貌的聚类进行分类,实现攻击概貌的第2阶段检测。最后,基于攻击概貌检测结果,通过构造指示函数排除攻击概貌在推荐过程中产生的影响,并引入矩阵分解技术设计相应的鲁棒协同推荐算法。实验结果表明,与现有的基于矩阵分解模型的推荐算法相比,所提算法不但具有很好的鲁棒性,而且准确性也有提高。

一种鲁棒回归支持向量机及其学习算法

为了提高支持向量机的泛化能力,给出了一个鲁棒损失函数,利用它建立了鲁棒支持向量机,并利用对偶原理推导出其对偶优化问题的形式,在此基础上设计了局部梯度算法,在这种算法中每次迭代只改变两个优化变量的值。随后分析了算法的收敛性条件,给出了学习步长的选择依据,最后用一个仿真实例来说明所提出的支持向量机的学习性能,比标准支持向量机具有更好的鲁棒性。

鲁棒最小二乘支持向量机及其在软测量中的应用

针对最小二乘支持向量机在利用产生于工业现场的非理想数据集进行建模预测时,稀疏化模型鲁棒性差的问题,提出了一种基于模糊C均值聚类和密度加权的稀疏化方法.首先通过模糊C均值聚类将训练样本划分为若干个子类;然后计算每个子类中各样本的可能贡献度,依次从每个子类中选取具有最大可能贡献度的样本作为支持向量;最后更新每个样本的可能贡献度,继续从各个子集中增选支持向量,直至稀疏化后的模型性能满足要求.仿真结果和磨机负荷实际应用表明,该方法能够兼顾模型在整体样本集和各工况子集上的性能,在实现模型稀疏化的同时,能够显著改善最小二乘支持向量机模型的鲁棒性.

鲁棒最小二乘支持向量回归机

针对最小二乘支持向量回归机(LS-SVR)对异常值较敏感的问题,通过设置异常值所造成的损失上界,提出一种非凸的Ramp损失函数。该损失函数导致相应的优化问题的非凸性,利用凹凸过程(CCCP)将非凸优化问题转化为凸优化问题。给出Newton算法进行求解并分析了算法的计算复杂度。数据集测试的结果表明,与最小二乘支持向量回归机相比,该算法对异常值具有较强的鲁棒性,获得了更优的泛化能力,同时在运行时间上也具有明显优势。

基于鲁棒ν-支持向量机的产品销售预测模型

产品销售时序通常具有正态高斯分布、幅值较大、奇异点等混合噪音,为此,设计了一种鲁棒损失函数,得到一种新的支持向量机,即鲁棒ν-支持向量机。它可以有效地压制销售时序的多种噪音和奇异点,具有很强的鲁棒性,而且比标准ν-支持向量机具有更简洁的对偶优化问题。最后进行了汽车销售预测的实例分析,结果表明,基于鲁棒ν-支持向量机的预测模型是有效可行的。

基于鲁棒最小二乘支持向量机的齿轮磨损预测

为了降低包含噪声的现场齿轮磨损数据对最小二乘支持向量机(least squares support vector machine,LSSVM)模型稳健性的影响,采用迭代鲁棒最小二乘支持向量机(iteratively robust least squares support vector machine,IRLSSVM)对齿轮磨损数据进行建模和预报.首先,增加权函数迭代次数以保证建模过程的鲁棒性;然后,将具有全局搜索的耦合模拟退火(coupled simulated annealing,CSA)与局部优化的单纯形法(simplex method,SM)相结合的方法用于优化IRLSSVM模型超参数,进而采用鲁棒交叉验证作为CSA-SM算法拟合目标函数,提高IRLSSVM模型超参数优化过程的鲁棒性;最后,利用K727840ZW变速箱现场齿轮磨损数据进行了数值实验,结果验证了所提出方法的有效性.

基于支持向量机的鲁棒故障诊断方法研究

针对生产过程中因扰动、噪声等因素引起误报率高的问题,文中提出基于支持向量机(SVM)的鲁棒故障检测方法。采用SVM对建模不确定性部分进行辨识,且将结果作为补偿项加到观测器中,使残差在理想情况下只表现为故障的形式,消除了干扰、噪声等对残差的影响。而在故障辨识中,文中对基于积极集法的回归型增量支持向量机(RISVM)进行研究,不断考虑新数据对辨识模型的影响,实现故障的在线辨识。最后通过仿真算例验证所提方法的有效性。

基于支持向量机与结构矩的车型识别实时鲁棒算法

车型分类精度是目前交通环境中的研究热点.提出了一种鲁棒性好实时性强的基于支持向量机的机动车型识别方法,对车辆的类型进行分类,选择合适的结构矩为车辆特征,以支持向量机方法为学习分类器,获得了较高的车辆分类精度,在一定程度上解决了车辆分类难的问题.现场视频处理的结果表明:该法鲁棒实时有效,且车型分类精度得到了一定提高.

基于动量加速零阶减小方差的鲁棒支持向量机

在实际分类问题中,由于人为或其他因素的影响,数据中往往存在一定的噪声,而传统支持向量机(SVM)使用的铰链损失函数对噪声数据敏感,且分类性能较差。为消除噪声数据的影响,提出一种新的鲁棒SVM算法。通过引入新形式的损失函数,并基于间隔分布的思想,建立鲁棒SVM优化模型提高SVM的抗噪性,运用零阶减小方差算法并结合动量加速技术,给出一种新的优化模型求解方法。实验结果表明,该方法通过引入梯度修正项降低了方差对算法的影响,同时结合动量加速技术,明显提高了算法的收敛速度。

无参数鲁棒线性规划支持向量机分类的牛顿法

Mangasarian最近提出的用于分类的无参数鲁棒线性规划支持向量机克服了标准支持向量机的一些缺点,而且模型简单,容易实现。该文讨论了这种新型支持向量机的线性规划问题的最小2-范数解,在此基础上给出了一个快速的牛顿算法。

大坝安全监测的鲁棒最小二乘支持向量机模型

针对目前在大坝监测模型中应用较多的支持向量机模型,以土坝沉降监测实例比较分析了监测数据中是否含有异常值的两种情况的最小二乘支持向量机监测模型的拟合精度与预测精度,发现异常值的影响不容忽视。通过改进支持向量机模型中的损失函数,建立了大坝安全监测的鲁棒最小二乘支持向量机模型(RLS-SVM)。实例分析表明:不论监测数据是否含有异常值RLS-SVM均可达到较好的拟合精度和预测效果,优于普通LS-SVM模型。

基于减量学习的鲁棒稀疏最小二乘支持向量回归机

针对最小二乘支持向量回归机缺乏鲁棒性和稀疏性,提出采用自下而上的学习方式和循环逐一删除样本框架的鲁棒稀疏算法。为增强鲁棒性,采用基于留一误差的鲁棒"3σ"准则检测并删除异常样本。为提高稀疏性,采用基于最小绝对留一误差的剪枝策略删除不重要样本。为降低计算量,采用快速留一误差和减量学习更新模型。实验结果表明:新算法有较强的鲁棒性,同时在模型泛化性能略有下降的情况下,支持向量数目大幅减少。

基于主成分分析和支持向量机的鲁棒稀疏线性判别分析方法

线性判别分析(linear discriminant analysis,LDA)是一种基于监督学习的模式识别方法,在图像识别领域应用广泛。针对经典的LDA识别率不高、识别效率低以及鲁棒性不强的问题,提出了一种基于主成分分析(principal component analysis,PCA)和支持向量机(support vector machine,SVM)的鲁棒稀疏线性判别分析方法。通过ORL人脸图像库、YaleB人脸图像库、COIL20物体图像库和UCI机器学习库中部分图像集,将本文方法与线性判别分析、鲁棒线性判别分析、基于L1范数和巴氏距离的鲁棒线性判别分析、鲁棒自适应线性判别分析和鲁棒稀疏线性判别分析6种方法进行比较。实验结果表明,在ORL人脸库、COIL20物体库和UCI机器学习库中的部分图像集中,本文方法的识别率和识别效率均高于其他5种方法。在YaleB人脸库加入椒盐噪声的条件下,本文方法的识别率均值为81.35%,说明提出方法的识别率和鲁棒性均优于其他5种方法。

鲁棒支持向量机及其稀疏算法

基于非凸光滑损失的鲁棒支持向量机分类模型对异常点具有鲁棒性,但已有求解算法需迭代求解二次规划,计算量大且收敛速度慢,不适合训练大规模数据问题。为了克服这些缺点,首先给出收敛速度更快的方法求解鲁棒支持向量机模型;然后基于最小二乘的思想,提出了一种推广的指数鲁棒最小二乘支持向量机模型及其快速收敛的求解算法,并从理论上解释了模型的鲁棒性;最后利用核矩阵的低秩近似,提出了适于处理大规模训练问题的稀疏鲁棒支持向量机算法和稀疏指数鲁棒最小二乘支持向量机算法。实验结果表明,新算法在收敛速度、测试精度和训练时间等方面均优于相关算法。

鲁棒最小二乘孪生支持向量机及其稀疏算法

最小二乘孪生支持向量机通过求解两个线性规划问题来代替求解复杂的二次规划问题,具有计算简单和训练速度快的优势。然而,最小二乘孪生支持向量机得到的超平面易受异常点影响且解缺乏稀疏性。针对这一问题,基于截断最小二乘损失提出了一种鲁棒最小二乘孪生支持向量机模型,并从理论上验证了模型对异常点具有鲁棒性。为使模型可处理大规模数据,基于表示定理和不完全Cholesky分解得到了新模型的稀疏解,并提出了适合处理带异常点的大规模数据的稀疏鲁棒最小二乘孪生支持向量机算法。数值实验表明,新算法比已有算法分类准确率、稀疏性、收敛速度分别提高了1.97%~37.7%、26~199倍和6.6~2 027.4倍。

基于Pinball损失函数支持向量机的极化SAR图像鲁棒分类

考虑到极化合成孔径雷达(PolSAR)图像标注信息量低以及相干斑噪声难以消除的问题,该文从鲁棒统计学习的角度提出了一种基于Pin-SVM的极化SAR图像鲁棒分类方法,根据极化SAR图像的散射特性和地物的纹理特性,通过求解两类样本之间的最大分位数距离来确定分类超平面,在无需迭代的前提下得到更加鲁棒的分类结果。相比传统的基于最大间隔的极化SAR图像分类算法,该文所提算法一方面在对极化SAR图像提取到的特征中包含的噪声具有更好的鲁棒性,另一方面对于训练样本的抽样范围不敏感,即重采样具有更好的鲁棒性。利用EMISAR的Foulum地区极化SAR数据进行了算法验证,多种情况的对比实验的结果验证了该算法的有效性。