新型城镇化背景下地方政府债务风险预警——基于多类最小二乘支持向量机的研究

鉴于新型城镇化进程中地方政府债务融资风险具有模糊性和非线性等特点,本文提出基于多类最小二乘支持向量机的地方政府债务风险预警模型。利用网格搜索提高训练数据集的泛化能力,采用交叉验证实现最优参数对。该方法与BP神经网络相比,精度更高、收敛速度更快,且具有较好的预警准确性和推广应用价值。

基于多类最小二乘支持向量机的神经元信号识别

针对大脑运动皮层群体神经元信号与运动行为关系的分析,提出一种基于二叉树的最小二乘支持向量机多类分类算法。在对猴子进行三维空间中8个方向手臂运动实验记录的多通道神经元信号的分析中,通过与标准支持向量机和学习矢量量化神经网络的比较,说明该方法不仅与标准支持向量机同样具有比学习矢量量化方法更强的学习能力和预测能力,而且运算时间比标准支持向量机更短。比较结果表明最小二乘支持向量机对于神经元信号分析的有效性和优越性,进而有利于实现性能更高的用于神经康复的脑机接口系统。

基于沙地猫群优化–最小二乘支持向量机的动态NOx排放预测

针对火电机组频繁调峰导致机组燃烧状态不稳,进而导致锅炉出口NOx浓度波动范围大的问题,提出一种基于沙地猫群优化(sand cat sarm optimization,SCSO)的最小二乘支持向量机(leastsquaressupportvectormachine,LSSVM) NOx动态预测模型。首先利用k近邻互信息计算时间延迟的同时筛选辅助变量。然后,基于SCSO算法进行输入变量阶次的选择。使用包含辅助变量时间延迟和阶次的信息作为模型的输入,SCSO算法优化最小二乘支持向量机参数,建立动态NOx排放最小二乘支持向量机预测模型(SCSO-LSSVM动态软测量模型)。最后将模型与未加入迟延的LSSVM模型,加入迟延的LSSVM模型和粒子群优化算法(particle swarm optimization,PSO)优化最小二乘支持向量机参数的动态软测量模型进行对比验证。结果表明,相较于其他模型,该文建立SCSO-LSSVM动态软测量模型均方根误差、平均绝对误差、平均绝对误差最小,预测精度最高,而且在NOx浓度剧烈波动时也能够较好地预测NOx浓度,具有很好的动态特性。

基于最小二乘孪生支持向量机的不确定数据学习算法

孪生支持向量机通过计算2个二次规划问题,得到2个不平行的超平面,用于解决二分类问题。然而在实际的应用中,数据通常包含不确定信息,这将会对构建模型带来困难。对此,提出了一种用于求解带有不确定数据的最小二乘孪生支持向量机模型。首先,对于每个实例,该方法都分配一个噪声向量来构建噪声信息。其次,将噪声向量结合到最小二乘孪生支持向量机,并在训练阶段得到优化。最后,采用一个2步循环迭代的启发式框架求解得到分类器和更新噪声向量。实验表明,跟其他对比方法比较,本方法采用噪声向量对不确定信息进行建模,并将孪生支持向量机的二次规划问题转化为线性方程,具有更好的分类精度和更高的训练效率。

基于改进最小二乘支持向量机组合模型的深基坑沉降变形预测

为了提高深基坑沉降变形预测精度,及时为深基坑支护施工提供指导,提出一种改进最小二乘支持向量机组合模型;通过引入自适应噪声完备集合经验模态分解方法分解原始深基坑沉降变形数据,并结合粒子群优化算法和遗传算法对最小二乘支持向量机进行参数寻优,对分解的数据分别训练、预测后再叠加,得到最终预测结果;应用所提出模型对济南市某深基坑的累积沉降量进行预测,同时与其他模型对比,验证所提出模型的实用性和优越性。结果表明:所提出模型预测深基坑累积沉降量的平均相对误差为0.035%,均方误差为0.0809 mm^(2),均方根误差为0.2838 mm,所提出模型的准确性远优于其他模型的;自适应噪声完备集合经验模态分解方法的引入更有利于在深基坑沉降变形预测方面发挥最小二乘支持向量机的优势。

直觉模糊的结构化最小二乘孪生支持向量机

针对最小二乘孪生支持向量机(least squares twin support vector machine,LSTSVM)对噪声或是异常数据敏感和忽略数据内在结构信息的问题,提出了一种直觉模糊的结构化最小二乘孪生支持向量机(intuition fuzzy and structural least squares twin support vector machine,IF-SLSTSVM)。首先采用孤立森林对输入样本点进行预处理;然后通过直觉模糊数的概念,赋予输入样本点不同的权重以减少噪声或是异常数据对分类超平面产生的影响;最后采用K-Means算法,以协方差的形式获取输入样本点之间的结构信息。IFSLSTSVM在LS-TSVM的基础上,考虑了输入样本点在特征空间中的分布信息及输入样本点之间的关系,提高了模型的鲁棒性。实验采取UCI数据集,在0%、5%、10%以及20%的不同比例噪声环境对IF-SLSTSVM算法的有效性进行验证。结果显示相较于6种对比算法,IF-SLSTSVM算法有更好的鲁棒性。

基于多分类最小二乘支持向量机和改进粒子群优化算法的电力变压器故障诊断方法

为了提高故障诊断的准确率,提出了一种多分类最小二乘支持向量机(LS-SVM)和改进粒子群优化(PSO)相结合的电力变压器故障诊断方法。引入最小输出编码构造多个2分类LS-SVM,实现了变压器诊断的多类分类。利用PSO算法获得LS-SVM诊断模型的最优参数,并采用交叉验证原理来提高分类算法的整体泛化性能。实例分析结果表明,采用LS-SVM和PSO算法可以准确、有效地对变压器进行故障诊断;与传统的电力变压器故障诊断方法相比,该方法的诊断准确率更高。

基于聚类经验模态分解和最小二乘支持向量机的短期风速组合预测

从分析风速序列的非线性和非平稳性特征出发,将一种基于聚类经验模态分解(EEMD)和最小二乘支持向量机(LSSVM)的组合预测模型引入到风速预测中。首先使用聚类经验模态分解将风速序列分解为一组相对平稳的子序列,以减轻不同趋势信息间的相互影响;然后运用最小二乘支持向量机对各子序列分别建模预测,为降低预测风险,使用自适应扰动粒子群算法(ADPSO)和模型学习效果反馈机制对LSSVM预测模型的输入维数和超参数进行联合优化;最后将各个子序列的预测结果叠加得到预测风速。实例研究表明,本文所提的组合预测模型可以有效挖掘风速序列特性,具有较高的预测精度。

最小二乘支持向量机多分类法的变压器故障诊断

为了提高变压器故障诊断正判率,提出了一种基于小样本的最小二乘支持向量机(LS-SVM)多分类电力变压器油中气体分析(DGA)法,即通过相关统计分析和数据的预处理,选择变压油中典型气体作为LS-SVM的输入,然后利用典型故障气体的体积分数在高维空间的分布特性诊断变压器故障类型。该法在小样本条件下可获得最优解,泛化能力很好,且没有传统支持向量机只能分两类的缺陷,很好地解决了变压器多种故障共存的实际情况。试验表明,该方法分类效果很好,可较好地解决变压器放电和过热共存时故障的难分辨问题,故障类型的正判率较高。

基于最小二乘支持向量机算法的三维荧光光谱技术在中国白酒分类中的应用

为了对白酒的鉴别分类方法进行创新研究,文章对近百种白酒的荧光光谱进行了测定,并合成其三维荧光光谱图。经对比研究和反复仿真实验发现,通过所提取的白酒三维荧光光谱的3个特定参数,可以实现对白酒种类的准确分类。分类的准确率可达87%以上。为了证明所选参数对白酒分类的有效性,把最小二乘支持向量机应用到白酒的鉴别分类中,并通过计算机模拟进行验证。同时还应用经典支持向量机、概率神经网络对所提取的相同数据进行分类和仿真,并将其仿真结果与使用最小二乘支持向量机仿真的结果进行比较。结果发现,使用最小二乘支持向量机可以取得更为准确的分类结果。

基于最小二乘支持向量机测井识别火山岩类型:以辽河盆地中基性火山岩为例

最小二乘支持向量机是在统计学习理论基础上发展起来的模式识别方法。与传统统计学相比,它能有效解决有限样本、非线性、高维数模型的建立问题,而且建立的模型具有很好的预测性能。岩性识别本质是解决分类问题,本文基于最小二乘支持向量机解决分类问题的优势,首先用GR、CNL、DEN、AC、RLLD等常规测井曲线数据建立样本空间;然后通过耦合模拟退火和交叉验证的方法寻找最佳参数,优化最小二乘支持向量机分类器;最后建立了最小二乘支持向量机岩性识别模型。通过取心段岩心描述和岩心/岩屑薄片鉴定,确定辽河盆地40口井315m井段2 520个岩性样品作为训练样本,建立岩性识别标准。对8口井13 866m井段110 928个火山岩数据采样点进行测井识别,可识别致密玄武岩、气孔玄武岩、粗面岩等8种主要火山岩类型。识别结果与8口测试井中316个有取心段岩心描述和岩心/岩屑薄片的精确岩矿定名对比,符合率达到75.2%,与以往测井识别复杂火山岩岩性相比,在识别准确率和效率上都有明显提高。

一种改进的最小二乘孪生支持向量机分类算法

提出了一种新的模式分类器,即广泛权重的最小二乘孪生支持向量机.该支持向量机在正、负两类样本上广泛地增加权重,很好地抑制了交叉噪声样本对数据分类的影响.其次,根据间隔最大化原理,该支持向量机在目标函数上增加了一个正规化项,实现结构风险最小化和避免在求解该目标函数时可能对病态矩阵求逆的处理.同时,提出了利用一种指数函数计算训练样本的密度来获得样本权重值的算法.该算法能够有效缩减计算权重的时间,且具有较强的鲁棒性.实验证明本文提出的广泛权重的最小二乘孪生支持向量机能够实现高精度和高效率的分类效果,而且特别适合于含有交叉噪声样本的数据集分类.

基于聚类分析与偏最小二乘法的支持向量机PM_(2.5)预测

考虑样本和输入变量的选取对预测模型精度的影响,文章提出一种基于K-means聚类与偏最小二乘法的支持向量机PM_(2.5)浓度预测方法。首先采用K-means算法对气象属性进行聚类,间接把PM_(2.5)序列分成了相似度较高的若干类,并分别作为预测建模用的训练样本;然后采用偏最小二乘法从影响PM_(2.5)浓度的多种因素中提取主成分,作为各类模型的优化输入;最后根据预测日的气象属性选出合适类别,运用优化后的训练样本和输入变量建立PM_(2.5)浓度预测模型。以北京市某监测点的实际数据为例,运用改进模型和传统模型分别进行实验。结果表明:改进的支持向量机相比传统支持向量机在预测精度上有明显的提高,精度评价指标MAE、MAPE和RMSE分别下降38.10%、50.59%、37.15%。研究实证,引入K-means聚类与偏最小二乘法的手段来提高传统支持向量机在PM_(2.5)浓度预测中的精度具有可行性。

具有间隔分布优化的最小二乘支持向量机

最小二乘支持向量机(Least Squares Support Vector Machine,LSSVM)通过求解一个线性等式方程组来提高支持向量机(Support Vector Machine,SVM)的运算速度。但是,LSSVM没有考虑间隔分布对于LSSVM模型的影响,导致其精度较低。为了增强LSSVM模型的泛化性能,提高其分类能力,提出一种具有间隔分布优化的最小二乘支持向量机(LSSVM with margin distribution optimization,MLSSVM)。首先,重新定义间隔均值和间隔方差,深入挖掘数据的间隔分布信息,增强模型的泛化性能;其次,引入权重线性损失,进一步优化了间隔均值,提升模型的分类精度;然后,分析目标函数,剔除冗余项,进一步优化间隔方差;最后,保留LSSVM的求解机制,保障模型的计算效率。实验表明,新提出的分类模型具有良好的泛化性能和运行时间。

基于聚类核函数的最小二乘支持向量机高光谱图像半监督分类

针对大规模的高光谱数据分类,为了利用未标签样本所含信息,来提升分类器性能,提出了一种半监督分类算法。该算法根据聚类假设,即属于同一类地物的样本点在聚类中被分为同一类的可能性较大的原则来改进核函数,采用基于光谱角度量的K均值聚类算法对样本集进行聚类,根据多次聚类的结果,构造包袋核函数,然后利用加法和乘法运算将包袋核函数和RBF核函数组合成新的核函数,从而把未标签样本信息融入分类器。而且采用最小二乘支持向量机,将标准支持向量机的二次规划问题转换为求解线性方程组的问题。高光谱实测数据实验表明了本文方法的优越性。

最小二乘支持向量机在电能质量扰动分类中的应用

提出一种基于最小二乘支持向量机和小波包分解的电能质量扰动分类方法。对正常电压和几种常见电能质量扰动(电压骤升、电压骤降、电压中断、暂态脉冲、暂态振荡、谐波和电压闪变)进行小波包分解,提取各终节点小波包系数的标准偏差作为特征向量;然后,用自适应优化算法对最小二乘支持向量机进行优化;最后,利用基于优化参数和最小输出编码的最小二乘支持向量机进行分类和识别。与BP神经网络分类方法相比,该方法能克服训练时间较长、容易陷入局部最小等问题,具有较快的训练速度和较高的分类准确率,在样本数较小时仍取得较好的效果。仿真实验验证了该方法对扰动分类的有效性。

最小二乘小波支持向量机的DNA序列分类方法

目前使用的已有SVM核函数,在分类中不能逼近某一L(2R)(平方可积空间)子空间上的任意分类界面。针对上述问题,在支持向量机的核函数方法和小波框架理论的基础上,提出了LS-WSVM结构模型。实验结果表明,和标准的SVM和LS-SVM比较起来,在同等条件下,LS-WSVM在分类方面具有优良的特征提取性能。

基于最小二乘支持向量机的无人机遥感影像分类

针对SVM容易出现过学习、泛化能力下降的问题,利用LSSVM在求解线性方程组时的自身优势,对高分辨率无人机多光谱影像进行地物分类识别。采用固定翼无人机搭载Micro MCA12 Snap多光谱相机,获取研究区域玛纳斯河畔的多光谱影像,首先利用最佳波段指数法与光谱信息、纹理信息结合得到最佳特征波段组合,从而降低数据维度,进而利用粒子群优化和网格搜索算法分别进行参数寻优并交叉验证方法对影像进行SVM和LSSVM对比试验。结果表明,Micro MCA12 Snap多光谱传感器所选择的1、6、11波段组合及NDVI、NDWI、Mean特征信息组合,粒子群优化LSSVM分类的总体精度较网格搜索LSSVM高0.092%,Kappa系数高0.006;粒子群优化LSSVM分类的总体精度较粒子群优化SVM分类高2.021%,Kappa系数高0.008。试验方法改善了各种地物特别是裸地与沙石的区分,是对该相机及特征组合进行分类的有效手段。

最小二乘支持向量机分类的稀疏化方法研究

最小二乘支持向量机在提高求解效率的同时,会丧失解的稀疏性,导致其在预测新样本时速度较慢。为此,提出一种稀疏化最小二乘支持向量机分类算法。在特征空间中寻找近似线性无关向量组,构造分类判别函数的稀疏表示,相应的最小二乘支持向量机优化问题可以通过线性方程组求解,从而得到最优判别函数。实验结果表明,该算法在不损失分类精度的前提下,能够获得比最小二乘支持向量机更快的预测速度。

基于近红外光谱和最小二乘支持向量机的聚丙烯酰胺类型鉴别

提出了一种基于近红外光谱分析技术和最小二乘支持向量机的鉴别方法,能够快速、无损鉴别聚丙烯酰胺的三种类型。获取非离子,阴离子和阳离子等三种类型的聚丙烯酰胺样本的近红外漫反射光谱,用主成分分析方法对样本光谱数据进行降维,并提取主成分。基于前三个主成分对三种类型的聚丙烯酰胺样本进行聚类分析,并将主成分作为最小二乘支持向量机的输入。通过基于网格搜索的交叉验证方式优化最小二乘支持向量机的参数和作为其输入的主成分个数。每种类型聚丙烯酰胺各采集60个样本,共采集180个样本,每种类型样本随机选取45个样本,共135样本作为训练样本集,剩余45个样本作为测试集。为了验证该方法能否鉴别掺假样本,制备了掺入不同比例非离子聚丙烯酰胺的5个阴离子和5个阳离子聚丙烯酰胺样本。采用基于训练样本集交叉验证预测误差的F统计显著性检验方法来确定样本的鉴别结果误差阈值。结果表明,预测测试集时,准确率为100%。预测10个混和样本时,所有混合样本都被准确识别出。说明该方法能快速无损鉴别不同类型的聚丙烯酰胺并且具有掺假鉴别能力,为聚丙烯酰胺类型的快速鉴别提供了一种新方法。