加权支持向量回归算法

1引言 Vapnik等人根据统计学习理论提出的支持向量机学习方法[1],近年来受到了国际学术界的广泛重视.支持向量机的最大特点是根据Vapnik结构风险最小化原则,尽量提高学习机的泛化能力,即由有限的训练集样本得到的小的误差能够保证对独立的测试集仍然保持小的误差.

基于加权支持向量回归的抢修时间估计模型

已有的抢修时间估计模型大都印有平时维修的痕迹,不能很好的反应战场抢修的随机性、多样性、时效性等特点。分析并设计了影响抢修时间的因素及其赋值方法,用复杂性来度量抢修任务本身的属性。将抢修时间估计问题转为抢修时间对其影响因素的非线性回归问题,引入在处理小样本、非线性问题时有较大优势的支持向量机,利用遗传算法对支持向量回归的参数进行优化;实验结论证明模型的估计精度较高、泛化能力较强;从一个新的角度估计抢修时间,结果更合理,能为抢修决策以及抢修训练提供良好的帮助。

基于加权支持向量回归的在线训练算法及应用

针对时变系统的在线辨识问题,提出了一种加权支持向量回归方法,根据时间信息给予历史数据不同的加权,实现了精确在线训练算法,在保持精度的同时避免了采集到新样本时重复训练,大大加快了训练速度。研究了该算法的复杂度并加以改进。将该方法应用于氯气投加系统过程模型的在线辨识,在训练速度和精度上都较为满意,这一结果说明了该算法的有效性。

加权支持向量回归在线学习方法

在标准支持向量回归在线学习的基础上,提出了一种加权支持向量回归在线学习方法(WOSVR),即加权支持向量机中针对不同样本点使用不同惩罚系数C,且不同惩罚系数C反映了样本重要性的不同,WOSVR中近期数据重要性大于历史数据重要性.使用基准数据Mackey-Glass混沌序列进行了相关验证实验.结果表明,加权支持向量回归在线学习方法能有效修改模型.

基于加权支持向量回归的火灾智能探测系统

火灾的早期探测是较为复杂且具有重要意义的研究课题。针对传统火灾探测方法存在的不足,提出了一种基于加权支持向量回归的火灾智能探测系统,加权支持向量回归算法克服了神经网络过学习等不足,及标准支持向量回归中未考虑各样本重要性的差异问题,实验结果表明此火灾智能探测系统优于基于神经网络和标准支持向量回归的探测系统,探测效果显著,具有良好的应用前景。

加权支持向量回归算法在运力预测中的应用

支持向量机(Support Vector Machines,SVM)是基于统计学习理论框架下的一种新的通用机器学习方法,是一种处理非线性分类和非线性回归的有效方法。由于具有完备的理论基础和出色的学习性能,该技术已成为当前国际机器学习界的研究热点,能较好地解决小样本、高维数、非线性和局部极小点等实际问题。近来,SVR方法被引入求解回归和预测问题,并在各领域中得到广泛的应用。本文在分析现有基于高斯核的支持向量回归方法优缺点的基础上,突破目前在构造支持向量机中存在的"所有支持向量与样本之间的在特征空间中的内积所对应的核函数参数一定要相等"的这一思维定势,提出了一种新的算法——"基于高斯核参数加权的支持向量回归机"算法,并将该算法应用在世界散货船队运力预测中。估算结果证明了这种改进的支持向量回归算法在船队运力预测中的有效性和实用性。

基于改进的（加权）支持向量机回归算法在水处理中的应用研究

摘要针对不同训练样本重要性的差异对模型推广（泛化）能力的影响，提出了对各个样本的误差惩罚参数赋予不同权重的改进加权支持向量机求解算法。根据样本重要性的不同，采用线性规划下的一类分类算法得到加权系数，并通过加权系数调整求解路径，从而改变不同样本在回归模型中的作用。结果显示改进算法可减小位移响应（随机噪声或野点）在多个评价指标下的预测误差，提高支持向量回归机的外推及预测能力。该方法同样适用于其他求解路径算法，如￡一支持向量机算法和v一支持向量回归算法等。

一种支持向量机的动态自适应加权算法

针对现有回归型加权支持向量机直接选择加权系数法存在的不足,提出了一种对加权系数进行寻优的新方法——动态自适应加权算法.通过对权系数进行的自适应迭代调整,以确定其最优值,并进行了实验仿真.仿真结果表明:采用该方法确定的最优加权系数,可以对预测样本数据进行更准确的回归估计.

基于改进支持向量回归算法的移动机器人定位

为了提高移动机器人定位精度,提出了一种基于正交编码器和陀螺仪的轮式移动机器人定位系统,建立机器人的定位模型和运动学模型。研究了支持向量回归(SVR)算法,为获得更好的鲁棒性,对目标函数误差平方进行加权,分析不同参数优化算法对支持向量机回归准确率的影响。以自制的移动机器人为实验平台,将改进的算法与最小二乘支持向量回归(LSSVR)算法、加权最小二乘支持向量回归(WLSSVR)算法进行比较,对比了用改进算法时机器人在木地板场地与瓷砖场地的定位误差情况,并对正交编码器+陀螺仪定位系统与双码盘定位系统、单码盘+陀螺仪定位系统进行比较。实验结果表明,改进的算法使机器人的定位精度明显高于对比算法,并且所提出的定位系统定位效果较好。

考虑属性重要度的空冷系统背压特性模型

与传统湿冷系统相比,直接空冷系统更易受到多种边界条件变化的影响。针对理论公式与实际应用的差异以及属性重要度差异,基于运行数据建立了考虑属性重要度的背压特性模型。根据机组连续1个月的实际运行数据结合模糊粗糙集理论对影响空冷运行的各条件属性进行客观加权,并通过加权支持向量回归方法,建立了直接空冷系统的背压模型。结果表明：选取主汽流量、主汽压力、环境温度、风机转速、环境风速、大气压力作为条件属性可得到精度较高的加权回归模型,7月份与10月份的数据分析下,回归模型精度均较高,均方根误差分别为0.70、0.76kPa。同时,结果表明,加权过程可在不影响模型精度的情况下,有效降低模型计算量,提高模型泛化能力。

基于PSO-WSVR的短期水质预测模型研究

针对传统方法很难建立精确的非线性水质预测模型的情况,提出了基于粒子群优化加权支持向量回归机(PSO-WSVR)的水质短期预测模型.在建模过程中,根据各样本重要性的差异,给各个样本的惩罚系数赋予不同权重,改进了标准支持向量回归机算法,克服了标准支持向量回归算法因不同样本均采用相同权重造成预测精度低的问题,并采用粒子群优化算法对加权支持向量回归机参数组合进行自适应优化,模型收敛速度明显加快.运用PSO-WSVR模型对江苏宜兴市集约化河蟹养殖池塘水质进行预测,与标准支持向量回归机和BP神经网络对比分析.结果表明,该模型性能可靠、泛化能力强,预测精度高,为集约化水产养殖水质短期预测提供了一种新思路.

基于T_SNE和AW-SVR的滚动轴承退化状态预测

针对滚动轴承存在故障提取信息冗余、非平稳突变故障预测效果不佳的问题,提出了一种基于t分布随机近邻嵌入算法(T_SNE)和自适应加权支持向量回归(AW-SVR)相结合的滚动轴承退化状态预测方法。该方法首先提取了滚动轴承的时域和频域指标,组成原始特征向量;然后通过T_SNE算法进行特征降维,获得二维退化特征集,并利用相对均方根值(RRMS)划分滚动轴承的退化阶段,以此来描述轴承的退化状态;最后将权函数引入支持向量回归机(SVR)中,并通过自适应地改变突变点的权重增强SVR的学习能力,以提高对突变故障的预测精度。通过实验数据对比分析,结果表明T_SNE和AW-SVR相结合比ISOMAP+SVR、LLE+SVR和T_SNE+SVR方法在轴承退化状态预测方面具有更好的效果。

基于LWSVR的繁忙机场航班滑出时间预测

针对繁忙机场航班滑出时间预测准确率低的问题,结合局部回归和加权支持向量回归,提出基于局部加权支持向量回归的离港航班滑出时间预测模型。该模型采用K最近邻方法,减小训练样本集容量,并为每个预测样本构建一个预测模型。通过计算训练样本与预测样本间的马氏距离,来优化加权支持向量回归中高斯核加权函数的带宽参数,获得加权系数。结合某机场离港航班数据仿真分析,实验结果表明模型在误差允许范围内的预测准确率达到83.33%,模型更加稳定。

基于小样本SVR的迁移学习及其应用

当前机器学习的技术已经运用到很多工程项目中,但大部分机器学习的算法只有在样本数量充足且运用在单一场景中的时候,才能获得良好的结果。其中,经典的支持向量回归机是一种具有良好泛化能力的回归算法。但若当前场景的样本数量较少时,则得到的回归模型泛化能力较差。针对此问题,以加权ε支持向量回归机为基础,提出了一种小样本数据的迁移学习支持向量回归机算法。该算法以加权ε支持向量回归机为Bagging算法的基学习器,使用与目标任务相关联的源域数据,通过自助采样生成多个子回归模型,采用简单平均法合成一个总回归模型。在UCI数据集和现实数据集——玉米棒与花生粒储藏环节损失数据集上的实验结果表明,该算法较标准ε-SVR算法与改进的RMTL算法在小数据样本上有更好的泛化能力。

基于IMK-WLSSVR的WiFi室内定位算法

针对传统的基于单核加权最小二乘支持向量回归(WLSSVR)定位算法对接收信号强度指示(RSSI)的拟合度较差,导致定位精度不高的问题,提出了一种基于改进多核WLSSVR(IMK-WLSSVR)的Wi Fi室内定位算法。采用多核支持向量回归机模型构建指纹点RSSI值与位置坐标的非线性关系,采用多项式核函数和高斯径向基核函数构建多核函数,利用正态分布权值函数为每个指纹点赋予不同的权重;然后利用改进的模拟退火算法优化定位模型参数,进一步提升模型的定位性能;最后利用构建的定位模型进行定位。实验结果表明:在3 m网格、3 d Bm标准差噪声条件下,算法定位误差小于2 m的概率可达92.2%,其定位精度优于现有的加权K最近邻(WKNN)算法以及单核WLSSVR方法。

移动机器人定位技术研究

以两轮独立驱动的三轮机器人作为试验平台,用编码器和陀螺仪作为机器人的定位系统,建立机器人的运动学方程。采用卡尔曼滤波器对两种传感器的数据进行融合,再经加权最小二乘支持向量回归机算法对融合后的数据作回归运算,构造先验回归决策函数。运用回归决策函数提高陀螺仪输出角速率的准确度,获得机器人的位姿信息。

基于改进WLSSVR的视觉球形机器人的设计与建模

为了提高球形机器人获取环境信息的可靠性与稳定性,设计并实现了一种具有球外视觉装置的球形机器人。基于所搭建球形机器人平台,使用拉格朗日方法建立其动力学模型并进行运动性能分析;针对球形机器人欠驱动、非线性等复杂特性导致难以建立其精确动力学模型问题,将泛化处理后的高斯核函数与多项式核函数进行组合,并采用PSO优化所设计组合核函数的参数,由此提出了一种基于改进加权最小二乘支持向量回归机的建模方法。所设计球形机器人具有灵活的球外视觉装置,提高了对外部环境的感知能力;并且基于球形机器人的输入输出数据建模,有效解决了难以建立球形机器人精确动力学模型的问题。仿真实验和实测实验证明了本文设计方法的可行性和有效性。

基于混沌时间序列的IGA-WLSSVR短期负荷预测模型

为解决目前电力短期负荷预测存在精度低的问题,针对电力负荷时间序列的混沌特性,采用微熵率法进行相空间重构,提出利用免疫遗传算法(IGA)对加权最小二乘支持向量回归机(WLSSVR)的关键参数进行全局快速寻优,并将已形成相点序列中距当前相点最邻近相点作为训练样本,据此建立基于IGA-WLS支持向量回归机耦合算法的电力负荷短期动态预测模型。通过MATLAB仿真得出结果,结果表明所提IGA优化算法提高了WLS支持向量回归机的拟合精度和学习效率,可为实际中提高电力负荷短期预测精度提供有效的理论依据。

基于WA-ABC-WLSSVR的南美白对虾工厂化育苗溶解氧预测模型

为解决传统方法水质预测精度低、鲁棒性差等问题,提出了基于小波分析(WA)、人工蜂群(ABC)优化加权最小二乘支持向量回归机(WLSSVR)的工厂化育苗溶解氧组合预测模型(WA-ABC-WLSSVR模型).该模型采用小波分析对原始非平稳溶解氧时间序列数据进行多尺度特征提取,通过加权最小二乘支持向量回归机对不同尺度下的溶解氧数据子序列分别建模,利用改进人工蜂群优化算法(ABC)对各分量序列WLSSVR模型参数进行组合优化,最后叠加各尺度下的预测结果.运用该模型对工厂化育苗溶解氧进行预测,并与BPNN、标准LSSVR、WAACO-LSSVR、WA-PSO-LSSVR等模型对比分析,结果表明,该溶解氧预测模型具有较高的预测精度和泛化能力.

基于APSO-WLSSVR的水质预测模型

为解决传统预测方法和标准最小二乘支持向量回归机(least squares support vector regression,LSSVR)在水质预测中存在预测精度低、鲁棒性差等问题,提出了自适应粒子群优化加权最小二乘支持向量回归机(adaptiveparticle swarm optimization weighted least squares support vector regression,APSO-WLSSVR)的水质预测模型。根据样本对模型重要性不同为各样本赋予不同权重,建立了加权最小二乘支持向量回归机(weighted least squaressupport vector regression,WLSSVR),实现对样本数据"重近轻远"的优化选择,避免标准LSSVR算法因没有考虑样本重要性差异致使预测精度低的问题;采用自适应粒子群优化算法对模型参数组合进行优化选择,克服了标准LSSVR算法因试凑法获取参数的盲目性和人为因素的影响。为验证该模型的性能,对江苏省宜兴市集约化河蟹养殖水质进行预测,并与其他预测方法对比分析,结果表明该模型预测精度明显提高,还具有较好的鲁棒性和泛化能力,能够满足集约化水产养殖水质管理的实际需要。