-
题名最小二乘孪生参数化不敏感支持向量回归机
被引量:7
- 1
-
-
作者
丁世飞
黄华娟
-
机构
中国矿业大学计算机科学与技术学院
中国科学院计算技术研究所智能信息处理重点实验室
广西民族大学信息科学与工程学院
-
出处
《软件学报》
EI
CSCD
北大核心
2017年第12期3146-3155,共10页
-
基金
国家自然科学基金(61379101
61662005
+1 种基金
61672522)
国家重点基础研究发展计划(973)(2013CB329502)~~
-
文摘
孪生参数化不敏感支持向量回归机(twin parametric insensitive support vector regression,简称TPISVR)是一种新型机器学习方法.与其他回归方法相比,TPISVR在处理异方差噪声方面具有独特的优势.标准TPISVR的训练算法可以归结为在对偶空间求解一对具有不等式约束的二次规划问题.然而,这种求解方法的时间消耗比较大.引入最小二乘思想,将TPISVR的两个二次规划问题转化为两个线性方程组,并在原始空间上直接求解,提出了最小二乘孪生参数化不敏感支持向量回归机(least squares TPISVR,简称LSTPISVR).为了解决LSTPISVR的参数选择问题,提出了混沌布谷鸟优化算法,并用其对LSTPISVR的参数进行优化选择.在人工数据集和UCI数据集上的实验结果表明:LSTPISVR在保持精度不下降的情况下,具有更高的运行效率.
-
关键词
孪生参数化不敏感支持向量回归机
异方差性
最小二乘
混沌布谷鸟优化算法
-
Keywords
twin parametric insensitive support vector regression
heteroscedastic
least squares
chaotic cuckoo optimization algorithm
-
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
-
-
题名光滑孪生参数化不敏感支持向量回归机
被引量:1
- 2
-
-
作者
黄华娟
韦修喜
周永权
-
机构
广西民族大学人工智能学院
广西民族大学广西混杂计算与集成电路设计分析重点实验室
-
出处
《郑州大学学报(工学版)》
CAS
北大核心
2022年第2期28-34,共7页
-
基金
国家自然科学基金资助项目(61662005)
广西自然科学基金资助项目(2018GXNSFAA294068)。
-
文摘
作为机器学习方法之一的孪生参数化不敏感支持向量回归机(TPISVR)有着简洁的数学模型,良好的学习性能,特别适合于求解带有结构异方差噪声的数据回归问题,然而TPISVR的训练速度较低,训练效率有待提高。TPISVR的传统算法可以归结为通过转化对偶问题的方法求解2个带有不等式约束的二次规划问题,然而这种求解二次规划问题的方法对于样本数目较大的问题将受到时间和内存的制约,这是导致TPISVR训练效率低的关键所在。针对此问题,首先,引入正号函数,将TPISVR的2个二次规划问题转化为2个不可微的无约束优化问题;其次,引入CHKS光滑函数和正则项,对TPISVR模型进行正则化,并对不可微的无约束优化问题进行光滑逼近,从而将不可微的模型转化为可微的无约束优化问题,并用收敛速度快的Newton-Armijo方法求解新模型,提出光滑孪生参数化不敏感支持向量回归机(STPISVR);最后,从理论上证明了STPISVR模型是收敛的,并具有任意阶光滑性。为了验证所提算法的有效性和可行性,对机器学习常用的人工数据集和UCI数据集进行仿真实验。实验结果表明:和其他机器学习方法相比,STPISVR在保证精度不下降的前提下,获得了更高的训练效率。
-
关键词
孪生参数化不敏感支持向量回归机
光滑技术
异方差噪声
NEWTON法
训练效率
-
Keywords
twin parametric insensitive support vector regression
smooth technology
heteroscedastic noise
Newton method
training efficiency
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
-
-
题名ε-支持向量回归的噪声敏感性研究
- 3
-
-
作者
田韶超
黄景涛
李广义
-
机构
河南科技大学电子信息工程学院
-
出处
《火力与指挥控制》
CSCD
北大核心
2013年第3期130-132,140,共4页
-
文摘
针对ε-支持向量回归机(ε-SVR)对噪声数据非常敏感的问题,提出应用贝叶斯估计理论,研究数据噪声水平与ε-SVR中不敏感参数ε之间的关系,将ε-SVR的优化问题转换成贝叶斯估计问题,探讨ε-SVR对噪声的敏感性。仿真实验表明:不同强度的噪声干扰,回归的效果受到较大影响,选取恰当的不敏感参数ε,能够降低ε-SVR对噪声的敏感性,同时也证明了应用贝叶斯估计理论推导的有效性。
-
关键词
ε-支持向量回归
贝叶斯估计
不敏感参数
敏感性
-
Keywords
ε-support vector regression
Bayesian estimation
insensitive parameter
sensitivity
-
分类号
TP301.6
[自动化与计算机技术—计算机系统结构]
-
-
题名四种TSVR型学习算法的性能比较
被引量:1
- 4
-
-
作者
李艳蒙
范丽亚
-
机构
聊城大学数学科学学院
-
出处
《聊城大学学报(自然科学版)》
2016年第3期1-7,共7页
-
基金
国家自然科学基金项目(11501278)
山东省自然科学基金项目(ZR2013AQ011)资助
-
文摘
我们知道,基于SVR的学习算法的计算复杂性和稀疏性对分析和处理大数据来说是非常重要的两个因素,尤其是对高维数据.为此,学者们做了大量的研究工作并提出了许多改进的SVR型算法.它们当中,有些算法的出发点基本相同,只是求解方法上略有不同;有些算法有明显不同的出发点,其所构建的最优化模型也不相同,但求解方法上大同小异.本文选择四个较具代表性的TSVR型学习算法,分析和比较它们的性能,以期更加深入的理解这些算法,且在应用中更具有选择性.
-
关键词
孪生支持向量回归机
最小二乘
边界
参数不敏感
-
Keywords
twin support vector regression machine, least squares, boundary, parameter insensitive
-
分类号
O224
[理学—运筹学与控制论]
-