最小二乘回归支持向量机对非线性时间序列预测的试验分析

利用最小二乘回归支持向量机LS-SVMR(least square support vectors machines for regression)对2个不同长度的时间序列资料,国家气候中心1982年1月~2005年12月Nino3区逐月海温距平指数(短序列),及1950年1月~2006年12月Nino3区逐月海温距平指数(长序列)资料进行了预测试验,以验证支持向量机对气候变化中非线性时间序列的预测效果。结果表明:通过训练建立的最小二乘回归支持向量机模型,较好地反映了Nino3区海温距平指数的变化规律,36个月的预报效果较好,具有一定的可信度。资料的长度越长,预测结果与实测值的变化趋势越接近,但资料长度对均方根预报误差不敏感。

基于沙地猫群优化–最小二乘支持向量机的动态NOx排放预测

针对火电机组频繁调峰导致机组燃烧状态不稳,进而导致锅炉出口NOx浓度波动范围大的问题,提出一种基于沙地猫群优化(sand cat sarm optimization,SCSO)的最小二乘支持向量机(leastsquaressupportvectormachine,LSSVM) NOx动态预测模型。首先利用k近邻互信息计算时间延迟的同时筛选辅助变量。然后,基于SCSO算法进行输入变量阶次的选择。使用包含辅助变量时间延迟和阶次的信息作为模型的输入,SCSO算法优化最小二乘支持向量机参数,建立动态NOx排放最小二乘支持向量机预测模型(SCSO-LSSVM动态软测量模型)。最后将模型与未加入迟延的LSSVM模型,加入迟延的LSSVM模型和粒子群优化算法(particle swarm optimization,PSO)优化最小二乘支持向量机参数的动态软测量模型进行对比验证。结果表明,相较于其他模型,该文建立SCSO-LSSVM动态软测量模型均方根误差、平均绝对误差、平均绝对误差最小,预测精度最高,而且在NOx浓度剧烈波动时也能够较好地预测NOx浓度,具有很好的动态特性。

梯度提升最小二乘支持向量回归的压电执行器磁滞特性建模

针对用于精密运动定位的压电执行器具有磁滞效应的问题,本文提出一种基于梯度提升最小二乘支持向量回归(GB-LSSVR)的建模方法.首先,通过引入磁滞算子构造拓展的输入空间,将磁滞的多值映射转换为一对一映射.然后,建立基于GB-LSSVR的磁滞模型,设计可保证收敛粒子群算法(GCPSO)对GB-LSSVR模型参数进行优化.最后,将所提出方法用于实际预测一个压电执行器的位移.结果表明,该方法相对于经典的最小二乘支持向量回归(LSSVR)和截断最小二乘支持向量回归(T-LSSVR)算法,能得到更加准确的结果.

基于慢特征分析与最小二乘支持向量回归集成的草酸钴合成过程粒度预报

草酸钴合成过程是钴湿法冶炼的关键单元操作,其粒度分布是重要的质量指标,然而难以在线实时测量。同时,草酸钴合成过程通常存在非线性、多约束和慢时变特征。因此,提出一种集成慢特征分析(slow feature analysis,SFA)与最小二乘支持向量回归(least square support vector regression,LSSVR)的草酸钴粒度预报模型对草酸钴合成过程质量指标实现在线测量。在该方法中,首先,SFA方法可以有效地捕获过程的慢特征向量,解决慢时变问题;然后,利用LSSVR方法建立慢特征与粒度之间的非线性关系模型,进而实现质量指标在线预报。最后,应用非线性的数值案例以及草酸钴合成过程数据,验证该方法的有效性。实验结果显示:相较于单一的径向基函数神经网络(radial basis function neural network,RBFNN)、LSSVR预测模型以及SFA与NN相结合的预报模型,所提方法在数值案例中的预测精度分别提升了13.31%、2.26%、1.72%;在草酸钴合成过程中的预测精度分别提升了13.27%、9.96%、8.92%。

基于最小二乘孪生支持向量机的不确定数据学习算法

孪生支持向量机通过计算2个二次规划问题,得到2个不平行的超平面,用于解决二分类问题。然而在实际的应用中,数据通常包含不确定信息,这将会对构建模型带来困难。对此,提出了一种用于求解带有不确定数据的最小二乘孪生支持向量机模型。首先,对于每个实例,该方法都分配一个噪声向量来构建噪声信息。其次,将噪声向量结合到最小二乘孪生支持向量机,并在训练阶段得到优化。最后,采用一个2步循环迭代的启发式框架求解得到分类器和更新噪声向量。实验表明,跟其他对比方法比较,本方法采用噪声向量对不确定信息进行建模,并将孪生支持向量机的二次规划问题转化为线性方程,具有更好的分类精度和更高的训练效率。

基于改进最小二乘支持向量机组合模型的深基坑沉降变形预测

为了提高深基坑沉降变形预测精度,及时为深基坑支护施工提供指导,提出一种改进最小二乘支持向量机组合模型;通过引入自适应噪声完备集合经验模态分解方法分解原始深基坑沉降变形数据,并结合粒子群优化算法和遗传算法对最小二乘支持向量机进行参数寻优,对分解的数据分别训练、预测后再叠加,得到最终预测结果;应用所提出模型对济南市某深基坑的累积沉降量进行预测,同时与其他模型对比,验证所提出模型的实用性和优越性。结果表明:所提出模型预测深基坑累积沉降量的平均相对误差为0.035%,均方误差为0.0809 mm^(2),均方根误差为0.2838 mm,所提出模型的准确性远优于其他模型的;自适应噪声完备集合经验模态分解方法的引入更有利于在深基坑沉降变形预测方面发挥最小二乘支持向量机的优势。

具有间隔分布优化的最小二乘支持向量机

最小二乘支持向量机(Least Squares Support Vector Machine,LSSVM)通过求解一个线性等式方程组来提高支持向量机(Support Vector Machine,SVM)的运算速度。但是,LSSVM没有考虑间隔分布对于LSSVM模型的影响,导致其精度较低。为了增强LSSVM模型的泛化性能,提高其分类能力,提出一种具有间隔分布优化的最小二乘支持向量机(LSSVM with margin distribution optimization,MLSSVM)。首先,重新定义间隔均值和间隔方差,深入挖掘数据的间隔分布信息,增强模型的泛化性能;其次,引入权重线性损失,进一步优化了间隔均值,提升模型的分类精度;然后,分析目标函数,剔除冗余项,进一步优化间隔方差;最后,保留LSSVM的求解机制,保障模型的计算效率。实验表明,新提出的分类模型具有良好的泛化性能和运行时间。

基于遗传算法优化最小二乘支持向量机的矿工疲劳程度识别模型

为精准识别矿工疲劳程度,减少因疲劳引发的煤矿人因事故,提出了一种基于遗传算法(GA)优化最小二乘支持向量机(LSSVM)的矿工疲劳程度识别模型。首先,通过疲劳诱发试验采集矿工心电数据,利用Friedman检验优选矿工疲劳程度的特征指标;然后,采用主成分分析法对选取的特征指标进行降维处理,建立表征矿工疲劳程度的特征集;在此基础上,利用遗传算法优化最小二乘支持向量机的关键参数,构建矿工疲劳程度识别模型。结果表明:选取的矿工疲劳程度特征指标能够有效反映矿工的疲劳程度;相较GA-SVM和LSSVM模型,融合GA-LSSVM模型可显著提高矿工疲劳程度的识别准确率(平均识别准确率为96.87%)。构建的矿工疲劳程度识别模型可较为高效地识别矿工的疲劳程度,对煤矿人因事故的防控具有一定的现实指导意义。

基于最小二乘支持向量机的造纸工控网络高隐蔽性入侵检测

造纸工控网络的数据特征具有复杂性和多样性,对于高隐蔽性入侵行为,其特征可能被混杂在正常操作和噪声中,增加了检测的难度。为此,提出基于最小二乘支持向量机的造纸工控网络高隐蔽性入侵检测方法。首先,使用CEEMD算法对网络数据进行分解,得到一系列固有模态分量(IMF),利用排列熵对IMF分量进行分析,确定高噪声IMF分量;使用小波降噪对高噪声IMF分量展开抗干扰处理。然后,使用互信息特征选择方法对抗干扰处理后的入侵数据进行特征提取。最后,将提取到的入侵数据特征作为输入数据,通过最小二乘支持向量机(LS-SVM)建立一个判别函数,该函数根据输入数据的特征值进行分类,并判断网络中是否存在高隐蔽性入侵行为。实验结果表明,所提方法最高入侵检测准确率达到0.98,Kappa统计量最大为0.99,表明所提方法的数据处理效果好、网络入侵检测精度高。

基于最小二乘支持向量机的农村土地利用空间优化配置方法及实例分析

因为农村各类用地数据具有样本小、非线性等特点,导致土地利用空间配置结果的适宜性较差,所以本文提出基于最小二乘支持向量机的农村土地利用空间优化配置方法。基于最小二乘支持向量机预测农村土地利用空间格局,得到各类用地面积数据,对各类用地进行满足经济效益与生态效益最大化的多目标函数的优化配置。实例结果表明,农村土地利用空间优化配置结果中各用地类型高度适宜区域的面积占比均超过75%,证实了设计方法的合理性。

一种稳健最小二乘支持向量机GNSS-IR土壤湿度反演方法

全球卫星导航系统干涉测量(global navigation satellite system interferometric reflectometry,GNSS-IR)是一种新型的遥感技术,可利用多径信噪比序列的延迟相位值反演土壤湿度值,其延迟相位求解通常使用信赖域算法,该算法一定程度依赖初值设定。文章先使用遗传算法求解出延迟相位粗略值,再将该数值作为信赖域的初值用于迭代计算,提升了部分卫星延迟相位的求解精度及稳定性。此外,针对多径信噪比序列易受环境因素影响引入粗差,进而影响模型反演精度,文章采用稳健最小二乘支持向量机作为反演模型,同时又考虑到多星融合的时空尺度优势,将该模型分别做了单星反演至五星融合反演,并与最小二乘支持向量机模型做对比。分析结果表明,当三星融合时该模型提升精度最为明显,MAE最高可降低15.6%,RMSE最高可降低12.0%。

基于粒子群优化和最小二乘支持向量机的储罐腐蚀速率预测

利用粒子群优化(PSO)算法的全局寻优能力,对最小二乘支持向量机(LSSVM)的正则化参数和核参数进行优化,提出了基于PSO-LSSVM的大型储罐腐蚀速率的预测方法。采用该方法对储罐腐蚀速率进行预测,并利用实测数据对模型的预测精度进行验证。结果表明:使用PSOLSSVM获得的腐蚀速率预测结果与实际腐蚀速率较为吻合,罐顶、第一层罐壁、罐底预测结果的平均绝对百分误差分别为2.265%、3.077%、1.18%,均方根误差分别为0.010%、0.012%、0.011%,决定系数分别为0.973、0.982、0.976。该方法可以对储罐内腐蚀速率进行有效的预测。

基于最小二乘支持向量机的电网企业供应链碳排放预测方法研究

电网企业供应链碳排放的预测对推动产业链供应链绿色转型具有重要意义,为此提出基于最小二乘支持向量机的电网企业供应链碳排放预测方法。首先,利用4E平衡模型获取电网企业供应链碳排放数据;其次,利用PLS-VIP算法对碳排放数据实施数据筛选,得到有效的碳排放数据变量;最后,引入最小二乘支持向量机,构建碳排放预测模型,并且采用量子粒子群优化算法对其展开优化,实现电网企业供应链碳排放高精度预测。实验结果表明,所提方法在保证预测过程较高稳定性的同时,一定程度上提高了预测精度和预测效率。

基于斑马算法优化支持向量回归机模型预测页岩地层压力

针对陇东地区三叠系延长组7段(长7段)页岩孔隙结构复杂、非均质性强、地层压力预测精度较低等问题,提出了一种基于斑马算法优化支持向量回归机(ZOA-SVR)模型预测地层压力的方法,并在实际钻井中进行了应用,将预测结果与基于机器算法的模型和常规地层压力预测方法结果进行了对比。研究结果表明:①ZOA-SVR模型以实测地层压力数据为目标变量,优选与陇东地区长7段页岩地层压力数据关联度达到0.70以上的深度、声波时差、密度、补偿中子、自然伽马、深侧向电阻率、泥质含量等7个参数作为输入特征参数,设置训练样本数为40,交叉验证折数为5,初始化斑马种群数量为10,最大迭代次数为70,对惩罚因子和核参数进行优化并建模,参数优化后拟合优度指标R2达到0.942,模型预测的地层压力数据在训练集和测试集上的绝对误差均低于1 MPa,预测测试集地层压力数据与实测压力数据的平均相对误差为2.42%。②ZOA-SVR模型在研究区长7段地层压力预测中优势明显,比基于粒子群优化算法、灰狼算法和蚁群算法的模型具有更好的参数调节及优化能力,R2分别提高了0.209,0.327,0.142;比等效深度法、Eaton法、有效应力法预测的地层压力精度更高,相对误差分别降低了32.53%,15.31%,5.91%。③ZOA-SVR模型在实际钻井中的应用结果显示,研究区长7段地层压力在垂向上分布较稳定,泥页岩段的地层压力高于砂岩段,地层压力系数主要为0.80~0.90,整体上属于异常低压环境,与实际地层情况相符。

机车前端薄壁吸能管仿真模型模糊参数的支持向量回归反求

为了获得影响耐撞性结构有限元计算精度的准确模型参数,提高冲击仿真的准确性,提出一种基于支持向量回归(support vector regression,SVR)模型进行参数优化反求的方法。以一种机车前端防爬结构中的预压薄壁吸能圆管为研究对象建立有限元模型,进行台车冲击试验验证仿真模型准确性。通过拉丁超立方试验设计驱动有限元模型进行少量计算获得数据集,有限元模型中的模糊参数为输入变量,计算与试验载荷的差异为目标响应,通过SVR方法构建映射关系,并采用增强精英保留遗传算法(strengthen elitist genetic algorithm,SEGA)对超参数进行优化,确定SVR模型最佳配置;通过该最优SVR模型再次使用SEGA优化反求,获得最佳模糊参数组合。使用这组参数组合设置有限元模型,其仿真结果相较初始计算耐撞性指标和载荷曲线匹配程度都得到了提高。研究结果为有限元模型中模糊参数的准确设定、碰撞仿真的精度提升提供了一种新的思路。

基于变量敏感度筛选的回归型支持向量机的数控机床热误差预测

随着机械制造行业的迅猛发展,对于数控机床的定位精度要求越来越高。为了提高机床定位精度,建立了基于变量敏感度筛选与回归型支持向量机(SVR)混合模型,并将其用于数控机床热误差预测方法。该方法基于对变量敏感度分析,筛选掉敏感度低的干扰自变量。本方法与基本SVR模型对数控机床热误差预测值进行对比,结果表明基本SVR受到敏感度低的干扰自变量影响,预测结果与实测热误差结果偏差较大;经过变量敏感度筛选之后的SVR混合模型预测值具有更高的准确度,验证了此模型的可行性。

基于Logistic回归和支持向量机的早发性结直肠癌风险预测模型

目的:通过Logis tic回归和支持向量机(SVM)探究早发性结直肠癌(EOCRC)和晚发性结直肠癌(LOCRC)的危险因素,建立针对不同年龄段人群的风险预测模型并比较预测效果。方法:选择2012—2022年诊断为结直肠癌患者,记录人口学特征、临床表现、既往史、家族史、生活方式、体格检查、实验室检查及病理诊断,分别建立风险预测模型,比较两模型的ROC曲线下面积(AUROC)、准确率、精确率、召回率、F1分数。结果:综合两模型结果,EOCRC风险与出现消化道出血、腹胀腹痛、大便习惯改变等临床表现、体重减轻、肿瘤标志物升高具有较强的正相关性,与婚姻状况、阑尾切除史、糖尿病史、血脂异常病史、结直肠癌家族史也存在较弱的正相关;LOCRC风险与婚姻状况、出现临床表现、体重减轻、血脂异常、肿瘤标志物升高具有较强的正相关性,与年龄、吸烟、阑尾切除史、结直肠癌家族史也存在一定的正相关性。两模型的AUROC、准确率、F1分数相差不大,但Logistic回归模型的精确率更高而SVM模型的召回率更高。结论:EOCRC和LOCRC的危险因素不完全相同,婚姻状况、吸烟、血脂异常、肿瘤家族史在EOCRC中的贡献低于在LOCRC中的贡献。相较Logistic回归,SVM能发现更多的结直肠癌危险因素,能尽可能多的找出结直肠癌的可能患者。

基于主成分分析的果蝇算法优化支持向量机回归的红枣产量预测

随着大数据技术和人工智能的快速发展,针对当前红枣产量预测模型精度低、模型优化时间过长等问题,以山西省1993—2020年的红枣产量及17个维度的因素作为基础数据,提出一种基于主成分分析的果蝇算法优化支持向量机回归(principal component analysis-fruit fly optimization algorithm-support vector regression,PCA-FOA-SVR)的红枣产量预测模型。首先利用主成分分析(principal component analysis,PCA)对数据进行降维处理,以5维的指标作为输入变量,产量作为输出变量;其次以支持向量机回归(support vector regression,SVR)为基础模型,利用果蝇优化算法(fruit fly optimization algorithm,FOA)对SVR参数惩罚因子c和核函数参数g进行寻优,构建PCA-FOA-SVR模型。对试验结果进行验证。发现PCA-FOA-SVR的均方根误差(root mean square error,RMSE)、平均绝对误差(mean absolute error,MAE)、决定系数R 2分别为3.11、3.01、0.96,SVR的各指标分别为5.33、4.07、0.9,分别提高了41.7%、26%、6.7%,最后通过GM(1,1)对各维度的数据进行预测,利用PCA-FOA-SVR模型对未来10年山西省红枣产量进行预测,结果显示在2025年红枣产量会达到一个峰值,对后续相关研究提供了一定的科学依据。

基于小波包分解与最小二乘支持向量机的用户侧净负荷预测

随着分布式可再生能源在用户侧逐步接入,电表监测得到的用户净负荷曲线形态相对于原有实际负荷曲线更加不稳定,因而极大降低了用户的净负荷预测精度。针对此问题,提出基于小波包分解(wavelet packet decomposition,WPD)与最小二乘支持向量机(least squares support vector machine,LSSVM)的用户侧净负荷预测方法,通过对用户净负荷时序数据作小波包分解,得到信号特征更为明显的高频分量与低频趋势部分,筛选剔除波动性大、噪声信号多的高频细节分量。同时考虑气象因素,利用最小二乘支持向量机对小样本非线性信号的训练效率高、泛化能力强的特点,采用其模型对其余包含更多有效负荷数据信息的低频分量分别进行预测重构,叠加得到最终的净负荷预测值。通过对可再生能源高度渗透的某地区用户实际净负荷数据进行实例分析,结果表明所提预测方法在此物理场景下相比于传统预测方法有更高的预测精度。

基于灰狼优化支持向量机回归与SHAP值的锡冶炼能耗预测

锡冶炼过程综合能源消耗占整个锡生产过程90%,存在很大节能潜力。针对锡冶炼过程综合能耗机理模型难以建立、导致预测准确度不高的问题,提出灰狼优化的支持向量机回归(GWO-SVR)模型用于锡冶炼过程综合能耗的预测,并以某锡冶炼厂为例,将所提模型与SVR、RF(随机森林)、BP(反向传播神经网络)、LR(线性回归)模型进行比较。结果表明,GWO-SVR模型可获得最理想的预测结果,在预测精度上相比于其他机器学习算法有着巨大优势。此外,使用SHAP值从全局解释和单样本解释两个方面解释所建立的GWO-SVR模型,可视化特征对输出的贡献,增加了GWO-SVR的可解释性,并以此制定可靠的节能策略。