基于粗糙集的多类CVM

标准的SVM对于训练集具有O(l3)的时间复杂度和O(l2)的空间复杂度,2005年提出的CVM具有线性的时间复杂度和与训练集大小无关的空间复杂度.本文结合粗糙集和CVM,提出了一种新的多类分类RSCVM方法,该方法对二类CVM定义上近似和下近似,然后扩展到多类情形.本文最后给出在真实世界数据集上的实验结果及其分析,显示RSCVM方法具有快速和产生较少支持向量的优点.

一般化最小包含球的大样本快速学习方法

标准最小包含球(Minimum enclosing ball,MEB)模型的对偶问题可视为MEB问题并能够利用核心集向量机(Core vector machine,CVM)实现大样本的快速训练,但对于一般化MEB模型,对偶问题中的不等式约束发生了变化而不能视为MEB问题,不能方便地使用CVM来解决大样本的快速训练.为此,提出了一般化MEB快速学习方法(Fast learning of generalized MEB,FL-GMEB),首先放松对偶问题中的不等式约束条件,使其等价于中心约束的MEB问题,从而利用CVM获得其核心集(Coreset,CS);然后利用局部线性嵌入(Locally linear embedding,LLE)的逆思想将CS扩充为拓展核心集(Extended core set,ECS);最后将ECS及其对应的优化权作为一般化MEB模型的逼近解.UCI和USPS数据集上的实验结果表明,FL-GMEB在大样本快速训练方面具有较好的性能优势.

基于响应轨迹和核心向量机的电力系统在线暂态稳定评估

针对现行调度需求提出基于响应轨迹和核心向量机的电力系统在线暂态稳定评估方法。首先将响应数据构建的原始特征集映射至高维特征空间,然后将暂态稳定评估问题定义为核心向量机中的最小闭包球问题,通过最优近似求解进行故障筛选和快速暂态稳定判别,且离线的训练和在线的匹配保证了暂态稳定评估过程能够满足在线计算的要求。10机39节点和某实际省级电网算例的计算结果表明,所提方法具有更低的时间和空间复杂度,并具有更高的评估精度。

适合大样本快速训练的最大夹角间隔核心集向量机

许多核化形式的分类方法如SVM,SVDD等都是对应一个二次规划(QP)问题,而核矩阵计算需要O(m2)空间复杂度,求解QP需要O(m3)时间复杂度,限制了这类方法对大样本数据的训练.本文基于一种新的分类间隔概念提出最大向量夹角间隔分类器MAMC,目标是在样本空间找到最优向量c,测试样本通过c与训练样本之间的最大化向量夹角间隔ρ(称为Margin)实现分类.同时,文中证明了该方法的核化形式等价于核化的最小包络球MEB问题,并通过引入核心集向量机CVM将MAMC扩展为MAM-CVM,进而快速实现对大样本的训练和分类.人造和真实数据集实验表明了MAMC和MAM-CVM算法的有效性.

基于独立成分分析和核向量机的人脸识别

提出利用独立成分分析提取人脸特征并用核向量机进行识别的方法。独立成分分析能更本质地描述图像特征,通过选择合适的特征个数达到较高的识别准确率。利用核向量机进行分类判决,可以快速地对大样本数据进行准确分类,产生较少的支持向量。实验证明了该方法的可行性和有效性,在ORL人脸数据库上达到了94.38%的准确率。

基于改进核心向量机的配电网理论线损计算方法

为了提高配电网理论线损计算的精度,提出了一种基于改进核心向量机(quantum genetic algorithm-core vectormachine,QGA-CVM)的智能化理论线损计算方法。QGA-CVM方法将理论线损的计算抽象成回归分析问题进行求解,把理论线损已知的线路构造成样本集,以其做为CVM的数据来源加以训练,进而获得回归分析问题的拟合函数。在CVM训练过程中,利用QGA搜寻CVM的最优训练参数,以克服CVM训练参数选取的盲目性,提高了QGA-CVM的计算精度。最后通过实验验证了QGA-CVM理论线损计算方法的有效性,与传统方法相比,QGA-CVM方法在线损计算精度和速度等方面拥有更好的性能。

大样本领域自适应支撑向量回归机

针对回归问题中存在采集数据不完整而导致预测性能降低的情况,根据支撑向量回归机(support vector regression,简称SVR)等价于中心约束最小包含球(center-constrained minimum enclosing ball,简称CC-MEB)以及相似领域概率分布差异只与两域各自的最小包含球中心点位置有关的理论新结果,提出了针对大数据集的领域自适应核心集支撑向量回归机(adaptive-core vector regression,简称A-CVR).该算法利用源域CC-MEB中心点对目标域CC-MEB中心点进行校正,从而提高目标域的回归预测性能.实验结果表明,这种领域自适应算法可以弥补目标域缺失数据的不足,大大提高回归预测性能.

面向大规模数据的模糊支持向量数据描述

针对支持向量数据描述面临的噪声数据敏感问题和大规模数据分类问题,提出面向大规模数据的模糊支持向量数据描述。该方法引入模糊理论和核心向量机,不仅在构造最小超球体时忽略对分类结果影响较小的数据,而且将支持向量数据描述的适用范围从中小规模数据扩展到大规模数据。人工数据集和标准数据集上的实验表明新算法的有效性。

基于核向量机的模式分类及其实验测试

文中使用一种新的SVM变种——核向量机来对大样本数据集进行训练建模,进而求解模式分类问题.CVM算法是将核函数转换为最小包围球问题进行求解,可以解决任何线性或非线性分类问题.测试结果表明,核向量机可以快速对大样本数据进行分类并能产生较少的支持向量.

基于核向量机的大规模用户分类方法研究

针对信息推送技术面临的难题:从用户访问的大规模记录中发现用户兴趣以及将兴趣相同或相近的用户归为一类,在L2型支持向量机的基础上提出基于核向量机的大规模用户分类方法。该方法首先通过获取大规模页面集合的核心集实现样本规模约简,然后利用L2-SVM对核心集进行训练,进而得到大规模用户分类结果。真实数据集上的实验表明了该方法的有效性。

核向量机算法研究及应用

对训练样本规模为m的标准支持向量机(Support Vector Machine,SVM)进行训练,时间复杂度为O(m3),空间复杂度为O(m2)。文章研究将其转换成等价的最小包含球(Minimum Enclosing Ball,MEB)形式,使用核心集向量机(Core Vector Machine,CVM)高效获得近似最优解。CVM的优点是时间复杂度与训练样本规模m呈线性关系,空间复杂度与m无关。实验证明,CVM可以对大规模数据集进行高效的分类。

融合数据分布特征的保序学习机

支持向量机(Support vector machine,SVM)作为一种经典的分类方法,已经广泛应用于各种领域中。然而,标准支持向量机在分类决策中面临以下问题:(1)未考虑分类数据的分布特征;(2)忽略了样本类别间的相对关系;(3)无法解决大规模分类问题。鉴于此,提出融合数据分布特征的保序学习机(Rank preservation learning machine based on data distribution fusion,RPLM-DDF)。该方法通过引入类内离散度表征数据的分布特征;通过各类样本数据中心位置相对不变保证全局样本顺序不变;通过建立所提方法和核心向量机对偶形式的等价性解决了大规模分类问题。在人工数据集、中小规模数据集和大规模数据集上的比较实验验证所提方法的有效性。

核向量机与支持向量机相结合的二阶段快速学习方法

支持向量机(SVM)作为一种有效的模式分类方法,当数据集规模较大时,学习时间长、泛化能力下降;而核向量机(CVM)分类算法的时间复杂度与样本规模无关,但随着支持向量的增加,CVM的学习时间会快速增长。针对以上问题,提出一种CVM与SVM相结合的二阶段快速学习算法(CCS),首先使用CVM初步训练样本,基于最小包围球(MEB)筛选出潜在核向量,构建新的最有可能影响问题解的训练样本,以此降低样本规模,并使用标记方法快速提取新样本;然后对得到的新训练样本使用SVM进行训练。通过在6个数据集上与SVM和CVM进行比较,实验结果表明,CCS在保持分类精度的同时训练时间平均减少了30%以上,是一种有效的大规模分类学习算法。