基于支持向量机分位数回归的部分变系数动态模型的估计

本文研究部分变系数动态模型,一些参数的值可以成为协变量的函数,并提出了参数和非参数函数系数的估计。本文提出一个基于支持向量机分位数回归的部分变系数动态模型,及它的三步估计法和迭代加权最小二乘法估计模型的参数和非参数函数,提出的方法能被简单有效地应用到线性和非线性分位数回归光滑变量的高维情况。同时,本文也提出模型的惩罚参数、核参数的选择方法——交叉验证方法。

基于逻辑回归和支持向量机耦合模型的滑坡易发性分析

滑坡灾害的发生具有累进性,进行滑坡易发性评价是防灾减灾的前提。以四川省旺苍县为例,使用频率比法判断12个滑坡影响因子的各分级区间滑坡敏感性,经波段集统计确定11个滑坡影响因子作为滑坡易发性评价因子,通过建立逻辑回归-支持向量机(logistic regression-support vector machine,LR-SVM)耦合模型,搭建滑坡易发性评价体系,完成旺苍县滑坡易发性评价并进行模型精度比较。研究结果表明:逻辑回归-支持向量机耦合模型的评价指标结果均优于逻辑回归模型,易发性分区结果更合理,预测精度更高;在低易发区选取非滑坡点为提高滑坡易发性评价性能作用明显;研究区内道路、高程和NDVI对滑坡发育的敏感性较强;高易发区主要分布于低海拔的水系和道路两侧。

基于主成分分析的果蝇算法优化支持向量机回归的红枣产量预测

随着大数据技术和人工智能的快速发展,针对当前红枣产量预测模型精度低、模型优化时间过长等问题,以山西省1993—2020年的红枣产量及17个维度的因素作为基础数据,提出一种基于主成分分析的果蝇算法优化支持向量机回归(principal component analysis-fruit fly optimization algorithm-support vector regression,PCA-FOA-SVR)的红枣产量预测模型。首先利用主成分分析(principal component analysis,PCA)对数据进行降维处理,以5维的指标作为输入变量,产量作为输出变量;其次以支持向量机回归(support vector regression,SVR)为基础模型,利用果蝇优化算法(fruit fly optimization algorithm,FOA)对SVR参数惩罚因子c和核函数参数g进行寻优,构建PCA-FOA-SVR模型。对试验结果进行验证。发现PCA-FOA-SVR的均方根误差(root mean square error,RMSE)、平均绝对误差(mean absolute error,MAE)、决定系数R 2分别为3.11、3.01、0.96,SVR的各指标分别为5.33、4.07、0.9,分别提高了41.7%、26%、6.7%,最后通过GM(1,1)对各维度的数据进行预测,利用PCA-FOA-SVR模型对未来10年山西省红枣产量进行预测,结果显示在2025年红枣产量会达到一个峰值,对后续相关研究提供了一定的科学依据。

基于支持向量回归和分位数的雷达K分布海杂波形状参数估计方法

针对传统的雷达K分布海杂波形状参数估计方法在异常样本存在情况下估计精度严重下降的问题,该文提出一种基于支持向量回归(SVR)和样本分位数比值的K分布海杂波形状参数估计方法。首先给定K分布杂波参数和分位数位置的值,根据K分布的累积分布函数计算样本分位数比值及其对数,然后建立以样本分位数比值对数为输入、待估计形状参数为输出的SVR模型,通过交叉验证确定SVR模型的超参数,最后训练SVR模型实现对K分布海杂波形状参数的稳健精确估计。仿真和实测雷达数据表明,所提方法的估计误差低于基于矩的估计方法的估计误差,并且与基于分位数的估计方法具有相近估计性能。此外,相比已有基于分位数的方法,所提方法的超参数容易确定,并且不依赖于查表。

基于支持向量机回归的粉煤灰混凝土氯离子质量分数预测

基于自然潮差环境下粉煤灰混凝土长期暴露试验,获取了3150组自由氯离子质量分数数据,建立了基于支持向量机回归方法(Support Vector Regression,SVR)的粉煤灰混凝土中自由氯离子质量分数预测模型。该模型研究了数据预处理方法,核函数以及超参数优化方法对自由氯离子质量分数预测精度的影响,分析了水灰比、粉煤灰掺量、暴露时间和渗透深度4个输入参数对自由氯离子质量分数预测结果的影响大小。同时,开展基于未测参数的自由氯离子质量分数预测。结果表明:当采用归一化的数据预处理方式,并使用径向基核函数及贝叶斯优化算法时,自由氯离子质量分数预测结果最佳。当自由氯离子质量分数小于0.1%时,所构建的SVR模型得到的预测值与实际氯离子质量分数存在较大差距。

机车前端薄壁吸能管仿真模型模糊参数的支持向量回归反求

为了获得影响耐撞性结构有限元计算精度的准确模型参数,提高冲击仿真的准确性,提出一种基于支持向量回归(support vector regression,SVR)模型进行参数优化反求的方法。以一种机车前端防爬结构中的预压薄壁吸能圆管为研究对象建立有限元模型,进行台车冲击试验验证仿真模型准确性。通过拉丁超立方试验设计驱动有限元模型进行少量计算获得数据集,有限元模型中的模糊参数为输入变量,计算与试验载荷的差异为目标响应,通过SVR方法构建映射关系,并采用增强精英保留遗传算法(strengthen elitist genetic algorithm,SEGA)对超参数进行优化,确定SVR模型最佳配置;通过该最优SVR模型再次使用SEGA优化反求,获得最佳模糊参数组合。使用这组参数组合设置有限元模型,其仿真结果相较初始计算耐撞性指标和载荷曲线匹配程度都得到了提高。研究结果为有限元模型中模糊参数的准确设定、碰撞仿真的精度提升提供了一种新的思路。

基于Logistic回归和支持向量机的早发性结直肠癌风险预测模型

目的:通过Logis tic回归和支持向量机(SVM)探究早发性结直肠癌(EOCRC)和晚发性结直肠癌(LOCRC)的危险因素,建立针对不同年龄段人群的风险预测模型并比较预测效果。方法:选择2012—2022年诊断为结直肠癌患者,记录人口学特征、临床表现、既往史、家族史、生活方式、体格检查、实验室检查及病理诊断,分别建立风险预测模型,比较两模型的ROC曲线下面积(AUROC)、准确率、精确率、召回率、F1分数。结果:综合两模型结果,EOCRC风险与出现消化道出血、腹胀腹痛、大便习惯改变等临床表现、体重减轻、肿瘤标志物升高具有较强的正相关性,与婚姻状况、阑尾切除史、糖尿病史、血脂异常病史、结直肠癌家族史也存在较弱的正相关;LOCRC风险与婚姻状况、出现临床表现、体重减轻、血脂异常、肿瘤标志物升高具有较强的正相关性,与年龄、吸烟、阑尾切除史、结直肠癌家族史也存在一定的正相关性。两模型的AUROC、准确率、F1分数相差不大,但Logistic回归模型的精确率更高而SVM模型的召回率更高。结论:EOCRC和LOCRC的危险因素不完全相同,婚姻状况、吸烟、血脂异常、肿瘤家族史在EOCRC中的贡献低于在LOCRC中的贡献。相较Logistic回归,SVM能发现更多的结直肠癌危险因素,能尽可能多的找出结直肠癌的可能患者。

基于变量敏感度筛选的回归型支持向量机的数控机床热误差预测

随着机械制造行业的迅猛发展,对于数控机床的定位精度要求越来越高。为了提高机床定位精度,建立了基于变量敏感度筛选与回归型支持向量机(SVR)混合模型,并将其用于数控机床热误差预测方法。该方法基于对变量敏感度分析,筛选掉敏感度低的干扰自变量。本方法与基本SVR模型对数控机床热误差预测值进行对比,结果表明基本SVR受到敏感度低的干扰自变量影响,预测结果与实测热误差结果偏差较大;经过变量敏感度筛选之后的SVR混合模型预测值具有更高的准确度,验证了此模型的可行性。

基于灰狼优化支持向量机回归与SHAP值的锡冶炼能耗预测

锡冶炼过程综合能源消耗占整个锡生产过程90%,存在很大节能潜力。针对锡冶炼过程综合能耗机理模型难以建立、导致预测准确度不高的问题,提出灰狼优化的支持向量机回归(GWO-SVR)模型用于锡冶炼过程综合能耗的预测,并以某锡冶炼厂为例,将所提模型与SVR、RF(随机森林)、BP(反向传播神经网络)、LR(线性回归)模型进行比较。结果表明,GWO-SVR模型可获得最理想的预测结果,在预测精度上相比于其他机器学习算法有着巨大优势。此外,使用SHAP值从全局解释和单样本解释两个方面解释所建立的GWO-SVR模型,可视化特征对输出的贡献,增加了GWO-SVR的可解释性,并以此制定可靠的节能策略。

粒子群算法优化支持向量回归的民机客舱座椅舒适度评价预测

为建立民机客舱座椅舒适度主客观评价之间复杂非线性的评价预测模型,同时提高模型的预测精度,本文将支持向量回归(Support vector regression,SVR)中的惩罚参数C、通道控制参数ε以及核函数参数σ作为优化目标,利用粒子群算法(Particle swarm optimization,PSO)寻找全局最优参数,建立PSO-SVR人-民机客舱座椅舒适度评价预测模型,并对预测结果进行对比分析。分析结果表明:与BP神经网络(Back propagation,BP)模型相比,支持向量回归模型具有良好的鲁棒性;与SVR模型相比,PSO-SVR模型预测精度更高,误差波动小,预测结果均方误差(MSE)降低了85.95%,决定系数(R2)提高了15.42%。因此粒子群算法可以有效提高支持向量回归模型的预测精度和泛化能力。

增量式稀疏密度加权孪生支持向量回归机

密度加权孪生支持向量回归机(DWTSVR)是一种能够反映数据内在分布的回归算法,具有预测精度高和鲁棒性强等优点,然而其并不适用于训练样本以增量形式提供的场景。针对该问题,提出一种增量式稀疏密度加权孪生支持向量回归机(ISDWTSVR)。首先,辨别新增数据是否为异常样本,并赋予有效样本适当的权重,减小异常样本对模型泛化性能的影响;其次,结合矩阵降维与主成分分析思想筛选出原始核矩阵中的一组特征列向量基代替原特征,实现核矩阵列稀疏化,以获得稀疏解;接着,借助牛顿迭代法和增量学习策略对上一时刻的模型信息进行调整,实现模型的增量更新,同时结合矩阵求逆引理避免增量更新过程中直接求解逆矩阵,进一步加快训练速度;最后,在UCI基准数据集上进行仿真实验,并与现有代表性算法进行比较。实验结果表明,ISDWTSVR继承了DWTSVR的泛化性能,在大规模数据集Bike-Sharing上,新增一个样本模型更新平均CPU时间为5.13 s,较DWTSVR缩短了97.94%,有效地解决了模型必须从头开始重新训练的问题,适用于大规模数据集的在线学习。

基于支持向量回归机的航空飞机零部件异常检测研究

为优化航空飞机零部件异常检测效果,准确地检测识别出航空飞机零部件的异常状态,利用支持向量回归机,开展了零部件异常检测研究。首先,实时采集飞机零部件的相关数据,提取零部件特征;其次,基于支持向量回归机,构建检测模型,判断数据点是否为异常值;在此基础上,利用劣化度,对飞机零部件的异常情况作出检测,识别零部件的健康状态。实验结果表明,提出方法应用后,零部件异常检测结果与实际情况更加接近,能够更准确地检测识别出航空飞机零部件的异常状态。

一种基于支持向量机回归的制氧系统寿命预估方法

随着我国老龄化程度的加深及后疫情时代大背景下国内医疗系统市场规模的不断扩大,制氧系统行业的发展进入快速扩容阶段。同时,制氧系统突发故障对吸氧人群生命与心理造成不可逆损伤的问题接踵而至。制氧行业迫切需要一种针对制氧系统寿命的预估方法,以解决制氧系统突发故障影响吸氧人群生命与财产安全的问题。该研究提出一种基于支持向量机回归(SVR)的制氧系统寿命预估方法。首先,基于SVR原理建立一种寿命预估模型,通过对某制氧系统3500h的氧浓度监测数据进行SVR训练,得到制氧系统的寿命预估模型。然后,规律选取300组氧浓度数据分别进行训练集预测和预测集预测,结果显示,该预测模型的准确性较高,且模型对预测集样本的预测结果与氧浓度监测的真实值基本保持一致。最后,对该制氧系统的吸附塔进行拆机验证,发现分子筛确有失效现象,经实际测量失效程度为6%,表明该模型可应用于制氧系统的寿命预估,并取得了良好的结果。因此,基于SVR的制氧系统寿命预估方法可以准确、有效地预估制氧系统的使用寿命,避免其突发故障,同时也为后续制氧系统的寿命预估方法提供了思路。

基于支持向量机回归算法的盾构下穿市政管线参数优化研究

随着盾构法施工在我国城市地铁隧道建设的广泛应用,盾构施工将面临越来越复杂的施工场景,尤其是在城市生活区的施工中,将不可避免地穿越各类复杂的市政管线。以合肥某地铁盾构工程下穿市政管线为背景,通过建立数值模型,构建了基于支持向量机回归(SVMR)算法的机器学习模型,并通过优化算法反向求解得到了符合施工要求的盾构参数优化方案。研究结果表明,方法的有效性通过了数值模拟试验和工程实践的验证,能够基于已有的少量盾构参数,针对关键掘进参数如推力、刀盘转速等进行优化,并提出最优组合方案,以确保施工的安全与高效,可为类似工程提供参考。

支持向量机回归算法的唐山市降水量空间插值研究

针对传统插值方法在处理小样本和非线性问题上的不足,运用支持向量机回归(SVR)算法对唐山市降水量进行空间插值研究,提出了SVR算法的解决方案,以提高降水预测的准确性。通过收集2020年唐山市32个气象站点观测数据,提取经度、纬度、经纬度乘积、海拔、坡度、坡向和GPM等参数作为特征变量,并利用SVR算法建立降水量空间插值模型。研究结果表明,SVR在解决小样本和非线性问题上具有显著优势,能够有效分析多维变量对降水量分布的影响;验证显示其插值精度R2为0.79, MAE和RMSE分别为33.57mm、39.29mm,该精度在可接受范围内。通过SVR插值法生成精确的降水量分布式信息,可为唐山市旱涝减灾、水资源利用及生态保护提供科学数据支持。

逻辑回归和支持向量机在客户信用分类中的应用

本文借助R语言,基于逻辑回归和支持向量机模型理论,分别建立客户存款信用分类模型来判断个人客户是否订阅定期存款的状况,通过对比两种模型的错判率和评估性能,选取出相对最优的逐步逻辑回归模型,刻画出最潜在的客户画像,预测订阅存款的可能性,进而对测试集数据分类和判别。这将作为商业银行界用来判断客户是否订阅定期存款的依据,同时也利于银行工作人员选择出更好的营销对策。

基于改进灰狼优化与支持向量回归的滑坡位移预测

针对滑坡位移难以预测、影响因素难以选择等问题,提出一种结合了二次移动平均(DMA)法、变分模态分解(VMD)、改进灰狼优化(IGWO)算法与支持向量回归(SVR)的模型进行滑坡位移预测。首先,利用DMA提取滑坡位移趋势项和周期项,采用多项式拟合对趋势项进行预测;其次,对滑坡周期项的影响因素进行分类,采用VMD对原始影响因子序列进行分解获得最优序列;再次,提出一种结合SVR与基于改进Circle多策略的灰狼优化算法CTGWO-SVR(Circle Tactics Grey Wolf Optimizer with SVR)对滑坡周期项进行预测;最后采用时间序列加法模型求出累计位移预测序列,并采用灰色预测的后验证差校验和小概率误差对模型进行评价。实验结果表明,与GA-SVR和GWO-SVR模型相比,CTGWO-SVR的预测精度更高,拟合度达到0.979,均方根误差分别减小了51.47%与59.25%,预测精度等级为一级,可满足滑坡预测的实时性和准确性要求。

孪生支持向量回归机研究进展

孪生支持向量回归机(Twin Support Vector Regression,TSVR or TWSVR)是一种基于统计学习理论的回归算法,它以结构风险最小化原理为理论基础,通过适当地选择函数子集及该子集中的判别函数,使学习机的实际风险达到最小,保证了在有限训练样本上得到的小误差分类器对独立测试集的测试误差仍然较小.孪生支持向量回归机通过将线性不可分样本映射到高维特征空间,使得映射后的样本在该高维特征空间内线性可分,保证了其具有较好的泛化性能.孪生支持向量回归机的算法思想基于孪生支持向量机(Twin Support Vector Machine,TWSVM),几何意义是使所有样本点尽可能地处于两条回归超平面的上(下)不敏感边界之间,最终的回归结果由两个超平面的回归值取平均得到.孪生支持向量回归机需求解两个规模较小的二次规划问题(Quadratic Programming Problems,QPPs)便可得到两条具有较小拟合误差的回归超平面,训练时间和拟合精度都高于传统的支持向量回归机(Support Vector Regression,SVR),且其QPPs的对偶问题存在全局最优解,避免了容易陷入局部最优的问题,故孪生支持向量回归机已成为机器学习的热门领域之一.但孪生支持向量回归机作为机器学习领域的一个较新的理论,其数学模型与算法思想都尚不成熟,在泛化性能、求解速度、矩阵稀疏性、参数选取、对偶问题等方面仍存在进一步改进的空间.本文首先给出了两种孪生支持向量回归机的数学模型与几何意义,然后将孪生支持向量回归机的几个常见的改进策略归纳如下.(1)加权孪生支持向量回归机由于孪生支持向量回归机中每个训练样本受到的惩罚是相同的,但每个样本对超平面的影响不同,尤其是噪声和离群值会使算法性能降低,并且在不同位置的训练样本应给予不同的处罚更为合理,因此考虑在孪生支持向量回归机的每个QPP中引入一个加权系数,给予不同位置的训练样本不同程度的惩罚.(2)拉格朗日孪生支持向量回归机由于孪生支持向量回归机的对偶问题中半正定矩阵的逆矩阵可能不存在,若存在,则对偶问题不是严格凸函数,可能存在多个解,因此考虑使用松弛变量的2范数代替原有的1范数,使对偶问题更简单,易于求解.(3)最小二乘孪生支持向量回归机由于孪生支持向量回归机的求解需要在对偶空间进行,得到的解为近似解,考虑通过最小二乘法将原问题的不等式约束转化为等式约束,使得原问题可以在原空间内求解,在很大程度上降低计算时间,提高泛化性能,且不损失精度.(4)v-孪生支持向量回归机通过引入一组参数v1与v2自动调节ε1与ε2的值以控制训练样本的特定部分对两条回归超平面所能造成的最大误差,从而自适应给定数据的结构,提高孪生支持向量回归机的拟合精度.(5)ε-孪生支持向量回归机在孪生支持向量回归机的原问题中引入正则化项以达到结构风险最小化的目的,使对偶问题转化为稳定的正定二次规划问题,并通过SOR求解对偶问题,加快训练速度.(6)孪生参数不敏感支持向量回归机克服参数的选取对孪生支持向量回归机超平面构造的影响,使算法非常适合于存在异方差噪声数据的数据集,训练速度和泛化性能也有提升.本文同时对以上算法的数学模型、改进算法及应用进行了系统地分析与总结,给出了以上算法在9个UCI基准数据集上的回归性能与计算时间,并在模型结构层面逐一分析每个算法的表现与耗时的根本原因.对于其他不便于归类的孪生支持向量回归机改进算法及应用,本文也对其作逐一总结.整体来看,最小二乘孪生支持向量回归机在性能和计算时间方面表现最佳,拉格朗日孪生支持向量回归机、v-孪生支持向量回归机的性能并列次优且计算时间接近,加权孪生支持向量回归机、ε-孪生支持向量回归机和孪生参数不敏感支持向量回归机的性能不理想,但计算时间接近.本文旨在使读者对孪生支持向量回归机的不同改进算法之间的异同点与优缺点产生更深刻的理解与认识,从而将更多优秀的改进策略应用于孪生支持向量回归机,最终为进一步提高孪生支持向量回归机的性能以及扩展孪生支持向量回归机的应用范围提供较为清晰的思路.

投资者高频情绪对股市成交量的异质性影响研究——基于分位数向量自回归模型

从高频视角分析股市情绪效应的异质性特征及机理,对我国金融风险管控具有重要意义。本文借助文本分析法抓取网络舆情数据,构造日内投资者高频情绪指数,在分位数Granger因果关系检验的基础上,构建分位数向量自回归模型并进行脉冲响应分析,探究不同极性投资者高频情绪对不同市场状态下及不同分位水平股市成交量的异质性影响。结果表明:(1)不同极性投资者情绪对股市成交量影响具有异质性,悲观情绪对股市成交量的脉冲强度明显大于乐观情绪且衰减较慢;(2)投资者情绪对股市成交量的影响随市场状态的变化而不同;(3)在相同市场状态下,情绪对不同分位水平股市成交量的影响也存在差异,投资者情绪对股市成交量的下分位点脉冲强度显著大于上分位点,中位点最弱。

基于改进人工蜂群优化支持向量机的睡眠分期

本研究提出通过改进人工蜂群算法优化支持向量机(IMABC-SVM)进行睡眠分期。对提取的离散小波变换分解数据分量、时域特征、非线性特征、微状态特征,使用ReliefF算法进行特征筛选,提取出最优特征矩阵,并由IMABC-SVM分类器对特征矩阵进行训练。为验证特征筛选与优化分类器效果,进行相关消融实验。结果表明IMABC-SVM方法精度可达89.97%。IMABC-SVM方法可为睡眠相关疾病的检测、预防和治疗提供有效的依据。