新型非平行平面支持向量回归机及其应用

支持向量回归机(SVR)和孪生支持向量回归机(TSVR)是机器学习中的常用算法。受TSVR启发,针对SVR训练速度和预测精度问题,提出一种新型非平行平面支持向量回归机(NNHSVR)。NNHSVR的优势如下:(1)NNHSVR模型构造的是两个较小规模的二次规划问题,最终求解得到2个非平行平面,训练速度较SVR快;(2)NNHSVR在目标函数中加入调节参数u,对边界函数进行约束,使得模型对离群点更加鲁棒。人工数据集和UCI数据集上的实验表明:NNHSVR算法不仅有较好的泛化性能,而且训练速度快。将NNHSVR算法应用于传染病预测问题,取得了比传统传染病预测模型BP神经网络更好的效果。

数据驱动模式下基于非平行超平面SVM算法的贸易经济预测

数据驱动的多元化发展导致数据异构性增强、维度提升和特征量规模扩大,给贸易经济分析带来更大挑战。为了提高贸易经济分析的科学性,采用非平行超平面支持向量机算法(support vector machine,SVM)对贸易经济进行预测分析。首先,根据贸易经济影响因素进行主成分分析,获取影响贸易经济的关键特征,并对特征进行量化和去噪处理。然后,采用广义特征值最接近支持向量机(proximal support vector machine via generalized eigenvalues,GEPSVM)进行贸易经济预测分类。根据预测指标要求,选择核函数GEPSVM算法(KGEPSVM算法)对分类的非平行超平面求解,通过类别划分函数获得经济预测结果。实证分析表明,对比常用的非平行超平面支持向量机算法,所提算法的贸易经济预测性能更优,而且在常用贸易经济指标的预测中,表现出较高预测精度和稳定性。

具有同步化特征选择的迭代紧凑非平行支持向量聚类算法

本文提出了一种新的带有同步化特征选择的聚类算法,称为"具有同步化特征选择的迭代紧凑非平行支持向量聚类算法"(IT-NHSVC-SFS).在具有两个非平行超平面的学习模型中使用迭代(交替)优化算法完成聚类,同时引入两种类型的正则项,分别是欧几里得范数和无穷范数,欧几里得范数用于提升聚类模型的泛化能力,无穷范数实际上是对两个非平行超平面进行同步化地隐式特征抽取,从而降低来自于不相关特征的聚类噪音,保证了模型的聚类精度,并引入一组束缚变量(bounding variables)避免无穷范数的最大化操作,将非凸优化问题转化成二次凸优化问题.同时,由于新提出的模型体现着"最大间隔"的思想,因此具有良好的泛化能力.为了方便实现两个非平行超平面同步化的特征选择过程,文中将非平行超平面SVM(Nonparallel Hyperplane SVM,NHSVM)作为IT-NHSVC-SFS算法的基础模型,因此和TWSVM以及它的变体模型不同的是:只需要求解一个二次规划问题(QP问题)就可以同时得到两个最优超平面.同时,新算法在原有的NHSVM模型的约束条件集合中新添加了两组等式约束条件,从而无需进行原有模型中的两个大矩阵的求逆操作,降低了计算复杂度.此外,在IT-NHSVC-SFS模型中,用拉普拉斯损失函数(Laplacian loss measure)代替了NHSVM模型原有的铰链损失函数(hinge loss function),避免了算法早熟收敛(premature convergence).在一组标准数据集上的数值实验结果表明,相对于其他已有的聚类算法,IT-NHSVC-SFS算法在聚类精度方面具有更好的表现.

厚度具有线性变化的吸收平板或膜层的非相干透射率和反射率

计算了垂直入射下厚度具有线性变化的吸收平板样品的非相干透射率和反射率 (正面和反面 ) ,给出了直接确定无基底样品以及透明基底上薄膜能量 (强度 )

改进的投影孪生支持向量机

针对投影孪生支持向量机(Projection Twin Support VectorMachine,PTSVM)在训练和求解过程中存在的问题,提出了一类改进的投影孪生支持向量机(Improved PTSVM),简称为IPTSVM.该文首先构造了改进的线性投影孪生支持向量机,然后利用核技巧轻松将其推广到了非线性形式.本文的主要贡献有:(1)提出了投影孪生支持向量机的新模型,克服了原始PTSVM在训练之前需要求解两个逆矩阵的问题;(2)继承了传统SVM(Support VectorMachine)的精髓,利用核技巧直接将线性IPTSVM推广到非线性形式;(3)引入了一个新的参数,可以调节模型的性能,提高了IPTSVM的分类精度.实验结果表明,与PTSVM算法相比较,IPTSVM不仅提高了分类精度,而且克服了PTSVM的一些不足.

基于鲁棒局部嵌入的孪生支持向量机

针对已有非平行超平面支持向量机(NHSVM)分类方法仅考虑训练样本的全局信息却忽视训练样本之间局部几何结构的问题,将鲁棒局部线性嵌入(ARLE)方法的基本思想引入NHSVM中,提出一种基于鲁棒局部嵌入的孪生支持向量机(ARLEBTSVM)。该方法不但继承NHSVM方法具有的异或(XOR)问题处理能力;而且可以很好地保持训练样本空间的局部信息,同时通过考虑样本的全局分布来自动抑制野值样本点对嵌入的影响,从而在一定程度上提高分类算法的泛化性能。为了更好地处理非线性分类问题,通过核映射方法构造非线性ARLEBTSVM。在人造数据集和真实数据集上进行实验,结果表明ARLEBTSVM方法具有更好的分类性能。

多分类边界支持矩阵机及其在滚动轴承故障诊断中的应用

由于支持矩阵机(SMM)利用平行超平面实现对不同类别样本的分类,使其无法最大化任意两类样本之间间隔,为此,通过分析非平行超平面与支持矩阵机的相关理论,提出了一种多分类边界支持矩阵机(MBSMM),并将其应用于滚动轴承的故障诊断中。首先,在MBSMM中以矩阵为建模元素,建立了其多分类目标函数,充分利用输入矩阵行与列之间的结构化信息;然后,利用非平行边界超平面来隔离任意两种类型的数据,非平行边界超平面可以最大化任意两类样本之间的间隔;引入了逐次超松弛法(SOR)进行对偶问题求解,SOR可以线性收敛到最优值,不需要太多计算就可以处理大规模数据集,大大提高了算法的计算效率;最后,将其应用于滚动轴承的故障诊断中,通过滚动轴承数据及不同指标对其进行了实验验证。研究结果表明:MBSMM利用非平行边界超平面可以完成对复杂数据样本的准确分类,在识别率、时间、kappa、准确率、召回率、F1得分和统计检验等方面具有良好表现,证明了RSMM具有优越的分类性能。

基于TWSVM的煤矿井下钻机轴承故障诊断

在轴承的监测数据中,故障数据所占比例很小。在这种不平衡样本集中,如何准确地诊断轴承故障成为了一大难题。为此,提出运用孪生支持向量机(TWSVM)解决该难题。TWSVM可以构造2个不平行的超平面,每个超平面都要尽可能靠近与其对应的一类而远离另一类。TWSVM的超平面只关注其对应类别的样本分布,而不受整个数据集中各类样本数量比例、其他样本分布的影响。运用轴承故障试验对TWSVM进行检验,结果表明:与支持向量机(SVM)相比,TWSVM拥有更高的识别精度和更快的计算速度,能较好地诊断轴承故障。

支持向量机的电力故障检测方法研究

为保证电力系统的安全运行,针对智能电网中故障检测模型准确率低、泛化能力差等问题,提出了一种基于机器学习的电力故障检测方法。中心双胞参数支持向量机在模式识别上具有优秀的分类能力。然而,中心双胞参数间隔支持向量机(CTPSVM)模型的解需要通过求解二次规划问题来获得,并不适合处理大规模学习问题。为解决上述问题,提出了一个新的最小二乘法中心双胞参数间隔支持向量机模型(LSCTPSVM)。在LSCTPSVM模型中,首先将CTPSVM模型的不等式约束松弛到等式约束,并引入最小二乘法损失函数来惩罚犯错样本。然后,为提高模型的泛化能力,额外的正则项被引入到LSCTPSVM模型中,进而保障了模型解的唯一性。相对于CTPSVM模型的解需要借助于二次规划的对偶问题来间接的求得,LSCTPSVM模型可直接使用简单而高效的线性方程组系统来获得其原始问题的最优解。最后,在公共数据集和电网遥感数据集上,通过大量的对比试验,验证了该方法的有效性。

基于最小二乘的孪生有界支持向量机分类算法

基于经典的孪生有界支持向量机（TBSVM）,构造了一个既简单又快速的基于最小二乘的孪生有界支持向量机（LSTBSVM）的二分类算法.该算法简单地将TBSVM模型中的两个目标函数中不等式约束问题修改为等式约束,问题最终归结为求解两个最小二乘问题,以至于两个最优不平行平面可通过求解一对线性方程组获取.与TBSVM相比,LSTBSVM具有更低的时间复杂度,以至于可以有效地处理大数据集.通过理论分析和在传统的UCI和人工数据集上的实验显示,LSTBSVM不仅具较快的计算速度,且能得到与TBSVM相当的性能.