基于主成分分析的果蝇算法优化支持向量机回归的红枣产量预测

随着大数据技术和人工智能的快速发展,针对当前红枣产量预测模型精度低、模型优化时间过长等问题,以山西省1993—2020年的红枣产量及17个维度的因素作为基础数据,提出一种基于主成分分析的果蝇算法优化支持向量机回归(principal component analysis-fruit fly optimization algorithm-support vector regression,PCA-FOA-SVR)的红枣产量预测模型。首先利用主成分分析(principal component analysis,PCA)对数据进行降维处理,以5维的指标作为输入变量,产量作为输出变量;其次以支持向量机回归(support vector regression,SVR)为基础模型,利用果蝇优化算法(fruit fly optimization algorithm,FOA)对SVR参数惩罚因子c和核函数参数g进行寻优,构建PCA-FOA-SVR模型。对试验结果进行验证。发现PCA-FOA-SVR的均方根误差(root mean square error,RMSE)、平均绝对误差(mean absolute error,MAE)、决定系数R 2分别为3.11、3.01、0.96,SVR的各指标分别为5.33、4.07、0.9,分别提高了41.7%、26%、6.7%,最后通过GM(1,1)对各维度的数据进行预测,利用PCA-FOA-SVR模型对未来10年山西省红枣产量进行预测,结果显示在2025年红枣产量会达到一个峰值,对后续相关研究提供了一定的科学依据。

基于Logistic回归和支持向量机的早发性结直肠癌风险预测模型

目的:通过Logis tic回归和支持向量机(SVM)探究早发性结直肠癌(EOCRC)和晚发性结直肠癌(LOCRC)的危险因素,建立针对不同年龄段人群的风险预测模型并比较预测效果。方法:选择2012—2022年诊断为结直肠癌患者,记录人口学特征、临床表现、既往史、家族史、生活方式、体格检查、实验室检查及病理诊断,分别建立风险预测模型,比较两模型的ROC曲线下面积(AUROC)、准确率、精确率、召回率、F1分数。结果:综合两模型结果,EOCRC风险与出现消化道出血、腹胀腹痛、大便习惯改变等临床表现、体重减轻、肿瘤标志物升高具有较强的正相关性,与婚姻状况、阑尾切除史、糖尿病史、血脂异常病史、结直肠癌家族史也存在较弱的正相关;LOCRC风险与婚姻状况、出现临床表现、体重减轻、血脂异常、肿瘤标志物升高具有较强的正相关性,与年龄、吸烟、阑尾切除史、结直肠癌家族史也存在一定的正相关性。两模型的AUROC、准确率、F1分数相差不大,但Logistic回归模型的精确率更高而SVM模型的召回率更高。结论:EOCRC和LOCRC的危险因素不完全相同,婚姻状况、吸烟、血脂异常、肿瘤家族史在EOCRC中的贡献低于在LOCRC中的贡献。相较Logistic回归,SVM能发现更多的结直肠癌危险因素,能尽可能多的找出结直肠癌的可能患者。

基于逻辑回归和支持向量机耦合模型的滑坡易发性分析

滑坡灾害的发生具有累进性,进行滑坡易发性评价是防灾减灾的前提。以四川省旺苍县为例,使用频率比法判断12个滑坡影响因子的各分级区间滑坡敏感性,经波段集统计确定11个滑坡影响因子作为滑坡易发性评价因子,通过建立逻辑回归-支持向量机(logistic regression-support vector machine,LR-SVM)耦合模型,搭建滑坡易发性评价体系,完成旺苍县滑坡易发性评价并进行模型精度比较。研究结果表明:逻辑回归-支持向量机耦合模型的评价指标结果均优于逻辑回归模型,易发性分区结果更合理,预测精度更高;在低易发区选取非滑坡点为提高滑坡易发性评价性能作用明显;研究区内道路、高程和NDVI对滑坡发育的敏感性较强;高易发区主要分布于低海拔的水系和道路两侧。

基于灰狼优化支持向量机回归与SHAP值的锡冶炼能耗预测

锡冶炼过程综合能源消耗占整个锡生产过程90%,存在很大节能潜力。针对锡冶炼过程综合能耗机理模型难以建立、导致预测准确度不高的问题,提出灰狼优化的支持向量机回归(GWO-SVR)模型用于锡冶炼过程综合能耗的预测,并以某锡冶炼厂为例,将所提模型与SVR、RF(随机森林)、BP(反向传播神经网络)、LR(线性回归)模型进行比较。结果表明,GWO-SVR模型可获得最理想的预测结果,在预测精度上相比于其他机器学习算法有着巨大优势。此外,使用SHAP值从全局解释和单样本解释两个方面解释所建立的GWO-SVR模型,可视化特征对输出的贡献,增加了GWO-SVR的可解释性,并以此制定可靠的节能策略。

一种基于支持向量机回归的制氧系统寿命预估方法

随着我国老龄化程度的加深及后疫情时代大背景下国内医疗系统市场规模的不断扩大,制氧系统行业的发展进入快速扩容阶段。同时,制氧系统突发故障对吸氧人群生命与心理造成不可逆损伤的问题接踵而至。制氧行业迫切需要一种针对制氧系统寿命的预估方法,以解决制氧系统突发故障影响吸氧人群生命与财产安全的问题。该研究提出一种基于支持向量机回归(SVR)的制氧系统寿命预估方法。首先,基于SVR原理建立一种寿命预估模型,通过对某制氧系统3500h的氧浓度监测数据进行SVR训练,得到制氧系统的寿命预估模型。然后,规律选取300组氧浓度数据分别进行训练集预测和预测集预测,结果显示,该预测模型的准确性较高,且模型对预测集样本的预测结果与氧浓度监测的真实值基本保持一致。最后,对该制氧系统的吸附塔进行拆机验证,发现分子筛确有失效现象,经实际测量失效程度为6%,表明该模型可应用于制氧系统的寿命预估,并取得了良好的结果。因此,基于SVR的制氧系统寿命预估方法可以准确、有效地预估制氧系统的使用寿命,避免其突发故障,同时也为后续制氧系统的寿命预估方法提供了思路。

支持向量机回归算法的唐山市降水量空间插值研究

针对传统插值方法在处理小样本和非线性问题上的不足,运用支持向量机回归(SVR)算法对唐山市降水量进行空间插值研究,提出了SVR算法的解决方案,以提高降水预测的准确性。通过收集2020年唐山市32个气象站点观测数据,提取经度、纬度、经纬度乘积、海拔、坡度、坡向和GPM等参数作为特征变量,并利用SVR算法建立降水量空间插值模型。研究结果表明,SVR在解决小样本和非线性问题上具有显著优势,能够有效分析多维变量对降水量分布的影响;验证显示其插值精度R2为0.79, MAE和RMSE分别为33.57mm、39.29mm,该精度在可接受范围内。通过SVR插值法生成精确的降水量分布式信息,可为唐山市旱涝减灾、水资源利用及生态保护提供科学数据支持。

湖南高速公路基础设施碳排放峰值支持向量回归预测模型

本文选取湖南省的人口数、人均GDP、基础设施固定资产投资、单位产值能耗比和单位能耗碳排放量作为高速公路基础设施的碳排放影响因素,选用湖南省2003—2021年相关数据并采用支持向量回归(SVR)机器学习法,建立了湖南省高速公路基础设施碳排放预测模型,预测在基准、低碳和超低碳情景下的碳排放数据。结果表明:训练样本交叉验证均方误差为0.007011,模型的预测值和真实值的拟合回归效果良好,训练集和测试集的相关系数分别为0.9869和0.9870,即模型具有良好的学习和推广能力。本文识别了碳排放的影响因素,预测了未来碳排放趋势,对交通基础设施碳减排行动具有一定的参考意义。

孪生支持向量回归机研究进展

孪生支持向量回归机(Twin Support Vector Regression,TSVR or TWSVR)是一种基于统计学习理论的回归算法,它以结构风险最小化原理为理论基础,通过适当地选择函数子集及该子集中的判别函数,使学习机的实际风险达到最小,保证了在有限训练样本上得到的小误差分类器对独立测试集的测试误差仍然较小.孪生支持向量回归机通过将线性不可分样本映射到高维特征空间,使得映射后的样本在该高维特征空间内线性可分,保证了其具有较好的泛化性能.孪生支持向量回归机的算法思想基于孪生支持向量机(Twin Support Vector Machine,TWSVM),几何意义是使所有样本点尽可能地处于两条回归超平面的上(下)不敏感边界之间,最终的回归结果由两个超平面的回归值取平均得到.孪生支持向量回归机需求解两个规模较小的二次规划问题(Quadratic Programming Problems,QPPs)便可得到两条具有较小拟合误差的回归超平面,训练时间和拟合精度都高于传统的支持向量回归机(Support Vector Regression,SVR),且其QPPs的对偶问题存在全局最优解,避免了容易陷入局部最优的问题,故孪生支持向量回归机已成为机器学习的热门领域之一.但孪生支持向量回归机作为机器学习领域的一个较新的理论,其数学模型与算法思想都尚不成熟,在泛化性能、求解速度、矩阵稀疏性、参数选取、对偶问题等方面仍存在进一步改进的空间.本文首先给出了两种孪生支持向量回归机的数学模型与几何意义,然后将孪生支持向量回归机的几个常见的改进策略归纳如下.(1)加权孪生支持向量回归机由于孪生支持向量回归机中每个训练样本受到的惩罚是相同的,但每个样本对超平面的影响不同,尤其是噪声和离群值会使算法性能降低,并且在不同位置的训练样本应给予不同的处罚更为合理,因此考虑在孪生支持向量回归机的每个QPP中引入一个加权系数,给予不同位置的训练样本不同程度的惩罚.(2)拉格朗日孪生支持向量回归机由于孪生支持向量回归机的对偶问题中半正定矩阵的逆矩阵可能不存在,若存在,则对偶问题不是严格凸函数,可能存在多个解,因此考虑使用松弛变量的2范数代替原有的1范数,使对偶问题更简单,易于求解.(3)最小二乘孪生支持向量回归机由于孪生支持向量回归机的求解需要在对偶空间进行,得到的解为近似解,考虑通过最小二乘法将原问题的不等式约束转化为等式约束,使得原问题可以在原空间内求解,在很大程度上降低计算时间,提高泛化性能,且不损失精度.(4)v-孪生支持向量回归机通过引入一组参数v1与v2自动调节ε1与ε2的值以控制训练样本的特定部分对两条回归超平面所能造成的最大误差,从而自适应给定数据的结构,提高孪生支持向量回归机的拟合精度.(5)ε-孪生支持向量回归机在孪生支持向量回归机的原问题中引入正则化项以达到结构风险最小化的目的,使对偶问题转化为稳定的正定二次规划问题,并通过SOR求解对偶问题,加快训练速度.(6)孪生参数不敏感支持向量回归机克服参数的选取对孪生支持向量回归机超平面构造的影响,使算法非常适合于存在异方差噪声数据的数据集,训练速度和泛化性能也有提升.本文同时对以上算法的数学模型、改进算法及应用进行了系统地分析与总结,给出了以上算法在9个UCI基准数据集上的回归性能与计算时间,并在模型结构层面逐一分析每个算法的表现与耗时的根本原因.对于其他不便于归类的孪生支持向量回归机改进算法及应用,本文也对其作逐一总结.整体来看,最小二乘孪生支持向量回归机在性能和计算时间方面表现最佳,拉格朗日孪生支持向量回归机、v-孪生支持向量回归机的性能并列次优且计算时间接近,加权孪生支持向量回归机、ε-孪生支持向量回归机和孪生参数不敏感支持向量回归机的性能不理想,但计算时间接近.本文旨在使读者对孪生支持向量回归机的不同改进算法之间的异同点与优缺点产生更深刻的理解与认识,从而将更多优秀的改进策略应用于孪生支持向量回归机,最终为进一步提高孪生支持向量回归机的性能以及扩展孪生支持向量回归机的应用范围提供较为清晰的思路.

一种优化支持向量机回归算法的印刷工序损耗值预测方法

针对印刷生产中物料需求计划的损耗值采用经验值的问题,提出一种优化支持向量机回归算法的印刷工序损耗值预测方法。通过皮尔逊相关系数量化特征值选取;采用布谷鸟搜索算法优化支持向量机回归算法的超参数选取,建立损耗预测模型;为验证模型的优越性,分别与不同的特征值选取方案、优化算法、回归算法的模型进行对比。实验结果表明该损耗预测方法具有更高泛化性和预测精度,决定系数、平均绝对百分误差、均方根误差分别为0.995、0.005、1.969,为解决后续相关问题提供了技术支持。

基于模拟退火算法优化的支持向量回归机对内螺旋槽切削力的预测

鉴于内螺旋槽加工领域缺少预测精度良好的切削力预测模型。基于ABAQUS软件对内螺旋槽的切削加工过程进行了有限元仿真,并由此得出切削力数值;通过模拟退火算法对支持向量回归机预测模型进行参数寻优,得出最优参数以及最优切削力预测值,为刀具设计提供依据,并经切削力实验对预测值进行验证。通过仿真以及切削力实验可知,模拟退火算法优化的支持向量回归机预测精度比优化前的预测精度提高了50%以上,且模拟退火优化的支持向量机模型能够应用于实际内螺旋槽的切削加工中。

基于人工蜂群优化支持向量机回归的隧道塌方风险预测

为预测隧道塌方风险等级,减少隧道塌方引起的灾害事故,建立基于人工蜂群(artificial bee colony,ABC)优化支持向量机回归(support vector machine regression,SVR)隧道塌方风险预测模型。首先,从工程地质、水文气象、设计因素、施工因素4个方面综合考虑,遴选13个主要影响因素,建立隧道塌方风险指标体系;其次,引入人工蜂群算法优化SVR的核参数C和惩罚参数g,解决传统SVR稳定性低的缺陷,提高模型的精确度,为验证模型性能采用相关系数(R 2)、均方误差(mean squared error,MSE)、均方根误差(root mean squared error,RMSE)评价参数对比分析;最后,以新疆北部某供水工程为研究对象,对隧道塌方风险测试样本进行预测,分别将ABC-SVR、PSO-SVR、GA-SVR及SVR模型对比分析。研究结果表明:ABC-SVR预测结果为100%,PSO-SVR预测结果为83.3%,GA-SVR和SVR均为66.67%,ABC-SVR的预测结果与实际工程结果一致性更高,可为隧道塌方风险评估提供科学的决策依据。

基于支持向量回归机SVR的钻削力在线预测分析

钻削力预测是深孔加工质量监测和工艺参数优化等工作的重要手段。针对现有预测方法样本需求量大、网络结构复杂以及易陷入局部极值等问题,提出了一种新的基于支持向量回归机的钻削力预测方法。首先,对钻削轴向力和扭矩预测的主要影响因素进行分析,然后确定预测模型的输入输出参数,进一步建立了基于支持向量回归机的钻削力预测模型。仿真实例的预测结果表明:利用所构建的SVR预测模型对10组样本扭矩和轴向力预测的平均相对误差分别为1. 13%和1. 26%,远小于其他预测方法,说明所建立的模型预测精度高,具有较强的泛化能力。

基于L1范数损失的非平行支持向量回归机

针对NPSVR训练速度和预测精度问题,提出一种基于L1范数损失的非平行支持向量回归机L1NPSVR模型,用于预测数值输出。L1NPSVR通过求解两个较小规模的凸规划问题,建立一个ε_(1)-不敏感的下界函数和一个ε_(2)-不敏感的上界函数。在L1NPSVR模型中,每个优化问题同时最小化训练样本的L1范数损失和铰链损失,以保证模型的稳定性,减轻噪声和异常值的影响。L1NPSVR通过求解一对更小的优化问题来提高模型的运行效率。仿真结果验证了所提出方法的可行性及有效性。

新型鲁棒孪生支持向量回归机

回归问题是模式识别与机器学习领域的基本问题之一,孪生支持向量回归机(TSVR)是在支持向量回归机(SVR)基础上发展而来的一种处理回归问题的新算法,它在处理无噪声数据时表现出较好的性能,但在处理有噪声数据时往往性能不佳。为了降低噪声对孪生支持向量回归机性能的影响,结合ε-不敏感损失函数与Huber损失函数构造了混合Hε损失函数,该损失函数可以有效地适应于不同分布类型的噪声;然后基于混合Hε损失函数和结构风险最小化(SRM)原则提出了一种鲁棒的孪生支持向量回归机(Hε-TSVR),并在原始空间中利用牛顿迭代法求解模型。分别在有噪声和无噪声的人工数据集、UCI数据集上进行实验,与支持向量回归机和孪生支持向量回归机等算法比较,实验结果验证了所提算法的有效性。

基于支持向量机回归算法的旅游短时客流量数据预测模型

传统的客流量数据预测模型获取的数据维数较高,难以消除冗余数据,导致预测结果误差较大。为此本文提出了基于支持向量机回归算法的旅游短时客流量数据预测模型。首先利用局部线性嵌入算法对旅游短时客流量数据样本点进行局部重构,减小重构误差,降低数据维数,并消除客流量数据中存在的噪声数据和冗余数据。然后利用支持向量机回归算法构建旅游短时客流量数据预测模型。实验结果表明:该模型预测结果的最大百分比误差、平均百分比误差和均方误差均较低,证明该模型实现了设计预期。

一种新的支持向量回归机TSVR

标准的支持向量回归机对于参数的选取有很强的依赖性.当选取的参数不恰当,或当数据受到噪声的污染时,回归的效果将受到较大的影响.笔者将训练点被正确划分的程度引入到支持向量回归机模型中,通过理论推导,提出了一种新的支持向量回归机TSVR,并给出了TSVR算法收敛的相关证明.同时,通过大量的数值实验,证明了TSVR具有较好的回归效果,其回归结果对参数的选取较不敏感,具有比标准的支持向量回归机更好的性质.

逻辑回归和支持向量机在客户信用分类中的应用

本文借助R语言,基于逻辑回归和支持向量机模型理论,分别建立客户存款信用分类模型来判断个人客户是否订阅定期存款的状况,通过对比两种模型的错判率和评估性能,选取出相对最优的逐步逻辑回归模型,刻画出最潜在的客户画像,预测订阅存款的可能性,进而对测试集数据分类和判别。这将作为商业银行界用来判断客户是否订阅定期存款的依据,同时也利于银行工作人员选择出更好的营销对策。

基于支持向量机回归算法陕西省降水量空间插值研究

为改善区域降水量空间插值精度,基于支持向量机回归(SVR)原理,建立降水量与环境变量之间非线性关系模型,并以陕西省为例,比较SVR模型与经典OK、IDW插值法的精度差异。结果表明,SVR模型具有良好拟合能力,陕西省降水量插值精度相比于OK和IDW模型的R2增加14.52%、20.34%;MAE降低16.30%、8.46%,RMSE减小9.18%、15.62%。SVR对100m分辨率的栅格点进行空间预测,科学反映降水量分布信息。SVR模型通过最大化有效边界并最小化训练误差来进行回归,在降水量空间预测性插值具有良好应用潜力。

Logistic回归和支持向量机在电缆老化状态评估中的应用与比较

电缆老化状态评估主要有物理模型和统计模型两大类,物理模型一般用于电缆个体老化评估,但难以用于在线评估,统计模型一般用于电缆整体老化评估,无法评估个体状态。为建立电缆运行数据与电缆老化状态之间的关联关系,在线评估电缆个体老化状态,文中提出了基于机器学习的电缆老化状态评估方法,建立了Logistic回归和支持向量机这两种机器学习模型,采用十折交叉验证对模型准确率进行了评估,同时计算了模型的F_(1-Score)。结果表明支持向量机采用多项式核时的总体样本准确率平均值为96%,高于Logistic回归;当召回率与精准度的权重比为1、2、0.5时,支持向量机的F_(1-Score)得分均高于Logistic回归,支持向量机优于Logistic回归。

基于贝叶斯支持向量回归机的稳健参数设计

稳健参数设计是一种质量改进的重要技术,能够从产品生产的源头上减少和控制波动的产生。双响应曲面法是其常用的方法,主要是利用低阶多项式模型来拟合均值和方差响应,但当样本较复杂(如为非线性或者高维样本)时,低阶多项式模型的拟合性能往往较差,求解优化问题效果不佳。支持向量回归机对非线性数据有良好的拟合潜力,但其性能依赖于参数的合理设置,文章将贝叶斯优化应用于支持向量回归机的参数选择,并将优化后的模型应用于稳健参数设计中响应曲面模型的构建,提出一种基于贝叶斯支持向量回归机的稳健参数设计方法。试验结果表明,所提方法和其他常见优化方法相比,可以获得更精确的响应曲面,可以在实际应用中近似得到可靠的最优因子搭配水平。