面向属性效应控制的等均值约束支持向量回归机

针对现有的属性效应控制方法无法有效控制非线性回归建模的属性效应问题,基于间隔最大化和结构风险最小化原则,通过向SVR目标学习准则中施加等均值条件约束,提出等均值支持向量回归机(EM-SVR).所提出的方法具有较好的泛化能力,同时继承了EM-LS的良好性能.实验结果验证了所提出方法的有效性.

面向大规模数据属性效应控制的核心向量回归机

属性效应在现实生活中广泛存在,如果不加以控制,将会严重影响回归学习的性能.针对大规模数据属性效应控制的非线性回归学习问题,提出了快速等均值核心向量回归机(fast equal mean-core vector regression,FEM-CVR).首先基于间隔最大化目标学习准则,通过施加等均值约束条件,提出了等均值支持向量回归机(equal mean-support vector regression,EM-SVR).在此基础上,证明了EMSVR等价于一个中心约束最小包含球(center constrained-minimum enclosing ball,CC-MEB)问题,然后通过引入近似最小包含球理论,得到原始输入数据集的压缩集即核心集(core set),进一步提出了针对大规模数据属性效应控制的最小包含球快速非线性回归学习方法 FEM-CVR,并从理论上对相关性质进行了深入分析.实验表明:该方法能够快速处理针对大规模数据属性效应控制的非线性回归学习问题,具有较好的泛化能力,并且其时间复杂度上限与数据集大小无关,仅与最小包含球近似参数ε-有关.