多输出数据依赖核支持向量回归快速学习算法

针对基于递推下降法的多输出支持向量回归算法在模型参数拟合过程中收敛速度慢、预测精度低的情况,使用一种基于秩2校正规则且具有二阶收敛速度的修正拟牛顿算法(BFGS)进行多输出支持向量回归算法的模型参数拟合,同时为了保证模型迭代过程中的下降量和全局收敛性,应用非精确线性搜索技术确定步长因子。通过分析支持向量机(SVM)中核函数的几何结构,构造数据依赖核函数替代传统核函数,生成多输出数据依赖核支持向量回归模型。将模型与基于梯度下降法、修正牛顿法拟合的多输出支持向量回归模型进行对比。实验结果表明,在200个样本下该算法的迭代时间为72.98 s,修正牛顿法的迭代时间为116.34 s,递推下降法的迭代时间为2 065.22 s。所提算法能够减少模型迭代时间,具有更快的收敛速度。

多输出直觉模糊最小二乘支持向量回归算法

支持向量机回归是一种重要的机器学习算法,虽然已成功应用于多个领域,但针对复杂系统,单输出支持向量回归算法的训练时间过长并且缺乏实用性。多输出直觉模糊最小二乘支持向量回归(Intuitionistic Fuzzy Least Squares Support Vector Regression,IFLS-SVR)在多输出支持向量机的基础上引入了直觉模糊,解决了不确定多输出复杂系统问题,减少了训练时间。生活中复杂的多输出模型更为常见,文中在传统支持向量回归的基础上对其进行改进,提出多输出IFLS-SVR模型。多输出IFLS-SVR采用直觉模糊算法将实际数据转化为模糊数据,将二次规划优化问题转化为求解一系列线性方程组。与现有的模糊支持向量回归相比,多输出IFLS-SVR采用直觉模糊方法来计算隶属度函数,采用最小二乘法提高了算法的训练效率,减少了训练时间,获得了更精确的解。仿真结果表明,与其他方法相比,多输出IFLS-SVR取得了较好的效果。最后将多输出IFLS-SVR模型应用于复杂的风速风向预测,也取得了较好的效果。