基于改进SFLA算法对SVM算法超参数的优化

机器学习算法具有强大的学习能力,其中超参数的选择很大程度上影响算法的性能。通过提出改进的混合蛙跳算法(Shuffled Frog Leaping Algorithm,SFLA)对支持向量机(Support Vector Machine,SVM)的超参数进行优化,以提高算法性能。针对混合蛙跳算法依赖于初始值、容易陷入局部最优、缺少参考指标的局限性,提出均匀分布初始值、“外来蛙”、增加评价指标的改进措施,对算法进行改进。利用改进的混合蛙跳算法对支持向量机的超参数进行寻优,得到最佳模型。通过公开数据集进行验证,与原始支持向量机模型、网格寻参-支持向量机模型、原始混合蛙跳算法寻参-支持向量机模型相比较,改进混合蛙跳算法寻参-支持向量机模型具有更高的准确率。

基于主元分析与支持向量机超参数调节的人脸识别研究

该文阐述了基于主元分析和支持向量机的人脸识别算法,并对算法进行了改进。实验使用的是ORL人脸库,该方法先用PCA方法进行特征提取,再用支持向量机构造分类器进行分类,最后利用支持向量机超参数调节的方法进一步提高了识别率,实验结果验证了该算法的可行性并得到了较好的识别率。

一种基于模拟退火的支持向量机超参数优化算法

基于统计学习理论的支持向量机技术以探求小样本情况下如何获得更好的机器学习规律而见长,与基于经验风险最小化原则的机器学习方法相比能够获得更佳的泛化能力,相关超参数的选择对其分类或回归性能有较大影响。针对径向基核支持向量机超参数优化问题,提出了一种改进的基于模拟退火算法的高效多目标优化算法,并详细讨论了优化寻优过程中搜索空间、初始可行解、初温和最优目标函数的设计方法。通过在多个标准数据集上的测试验证,证实了本文所提算法的可行性和有效性。

基于证据框架的模糊超球面支持向量机超参数优化

模糊超球面支持向量机(FHS-SVM)在处理一类分类问题时比超平面支持向量机泛化能力更强,特别是在雷达目标检测中得到了成功应用.FHS-SVM训练时需要预设一些超参数,不同的超参数得到的FHS-SVM性能差异很大.文中首先证明了FHS-SVM训练过程与证据框架第一层贝叶斯推理的等价性,然后在证据框架下提出了FHS-SVM超参数优化迭代方法.基于超宽带合成孔径雷达探雷数据,通过与穷举方法结果的对比检验了迭代优化方法的有效性.

基于序贯均匀设计的支持向量机超参数的优化方法

求解支持向量机超参数的优化问题可通过多因素多水平的试验设计来实现。运用序贯均匀设计的方法对高斯径向基核函数参数σ和惩罚因子C进行优化,可以快速且有效地找到最优参数。仿真结果表明,运用序贯均匀设计比直接运用均匀设计效果更佳,且比网格搜索法更具稳健性。

基于自适应双向加权最小二乘支持向量机的超短期负荷预测

应用模糊加权最小二乘支持向量机对超短期负荷进行预测,为了体现离预测点越远的历史负荷数据对预测点负荷值的影响越不明显的特点,即'近大远小'的原则,在双向,即横向(输入样本)与纵向(训练样本集)引入时间域的隶属分布。并用快速留一法在线优化模型的参数,实现了相关参数的自适应选择,克服了应用固定系数进行预测的缺点。应用某地区的负荷数据进行了仿真预测,并应用不同的方法进行了对比。结果表明,所提出的方法与传统方法相比提高了超短期负荷的预测精度。

一种自动选择参数的加权支持向量机算法

C-SVM分类算法在不同类别样本数目不均衡的情况下,训练时的分类错误倾向于样本数目小的类别。样本集中出现重复样本时作为新样本重新计算,增加了算法的训练时间。针对这两种问题,分析了产生的原因,提出了一种加权支持向量机算法,补偿了类别差异造成的不利影响,加快了重复样本的决策速度。为提高算法的推广性能,在模型训练过程中引入遗传算法自动选择惩罚因子和核函数宽度两个参数。实验结果表明了该算法可以有效地解决类别不均衡和重复样本问题,且训练模型具有良好的推广性能。

采用支持向量机算法优化电化学处理油田污水的工艺参数

采用支持向量机(SVM)算法,将Box-Behnken设计法与支持向量回归算法(SVR)实验参数优化软件相结合,优化电化学去除油田污水COD的工艺参数。通过量子粒子群算法对SVM算法参数进行优化,从建立的回归模型中找到工艺参数的全局最佳点:电解时间60 min,电解电流3 A,三维电极填充料中石英砂质量695 g。模型得到的COD理论最优去除率为92.48%,验证实验得到的COD去除率为91.43%。

基于改进的超球支持向量机的有杆抽油泵故障诊断研究

针对神经网络对有杆抽油泵系统进行故障诊断存在的缺陷以及支持向量机在大规模训练样本或训练样本严重不平衡时的多分类问题求解中能效不足,提出了基于改进分类策略的超球支持向量机多分类算法。赋予3种工作集选择方式的贯序最小优化算法用于支持网格搜索模型以便进行参数寻优,避免了参数选择的盲目性和随意性。根据训练样本规模适时引入核缓存技术和上三角矩阵策略,使得寻优耗时减少。开发了基于Java语言、功能完备的超球支持向量机工具箱HSSVM-1.17。利用HSSVM-1.17对抽油泵工况进行了多分类仿真试验,并与BP神经网络、支持向量机方法加以比较。试验结果表明:改进后的超球支持向量机算法理论严谨、参数寻优迅速、分类精度高、自适应好,适用于采油工程领域中大规模复杂的故障诊断问题。

基于Root-MUSIC和支持向量机的间谐波参数估计

为准确地检测电力系统中间谐波信号的参数,提出基于求根多重信号分类法(Root-MUSIC)和支持向量机(SVM)的间谐波参数估计方法。首先对采样数据构成的自相关矩阵进行特征分解,利用信号子空间和噪声子空间的正交性求得谐波和间谐波的个数及频率;然后通过支持向量机算法对间谐波信号的幅值和相位进行回归估计。Matlab仿真结果表明:该算法在低信噪比下频率估计准确,利用支持向量机在处理小样本数据上的优势,有效的提高了幅值和相位估计的精度。

基于混合梯度下降算法的支持向量机参数优化

在解决有限样本、非线性和高维度问题中,建立在统计学习理论和结构风险最小化原则上的支持向量机表现出良好的性能和独特的优势。然而,支持向量机参数对模型的识别精度和泛化能力有很大影响,基于这样的事实,运用混合梯度下降算法对支持向量机的参数进行优化选择,结合量子遗传算法出色的全局优化能力和梯度下降法局部寻优能力,较好地解决了传统的支持向量机中参数优化的难题。最后,用实例验证了该算法的有效性。

超球支持向量机的地下水水质参数自动监测技术研究

水质参数指标项相对较多,存在信息重叠等问题,导致水质参数监测精度降低,为此,提出基于超球支持向量机的地下水水质参数自动监测技术。通过主成分分析法消除信息重叠的影响,引入改进粒子群法,通过自适应调节惯性权重的方式,对动态变化学习因子进行融合,优化超球支持向量机模型运行参数,利用优化后的支持向量机对水质等级进行评价,构建评价指标体系,并将该体系作为建立模型训练样本集合的基础,可降低人为因素与监测数据对模型运行的干扰,完成自动监测与报警。依托地下水段,将其作为测试目标进行水质参数自动监测。监测结果表明,不同测试点测量结果与实际结果相同,表明基于超球支持向量机的地下水水质参数自动监测技术监测性能较高。

基于混合试验设计方法的支持向量回归机参数优化研究

研究高斯径向基核支持向量回归机参数优化问题。推导线性和非线性支持向量回归机公式,分析影响支持向量回归机精度的主要控制参数,将拉丁超立方设计方法与Powell法相结合,提出一种快速有效的支持向量回归机参数优化方法。将支持向量回归机用于近似建模,提供仿真算例,并与Kriging函数和径向基函数近似性能进行比较。结果表明,设计的支持向量回归机能实现近似精度和近似效率的良好折中,参数估计简单,易于编程实现,是有效的近似建模方法,可为飞行器多学科设计优化用近似建模方法研究提供理论参考。

基于DYCORS算法的OVA-SVM参数优化与应用研究

目的现有的参数优化方法普遍存在时间成本较大、内存占用较大、难以解决高维数据情况、难以找到全局最优解等问题,DYCORS算法可以在节约时间成本和内存的前提下,对高维数据问题也能找到全局最优解,故针对现有参数优化方法存在的问题,提出了针对OVA-SVM模型参数分块优化的YDYCORS算法。方法OVA-SVM的参数中对模型影响较大的有惩罚参数C、核函数类型k、RBF核函数参数γ、ploy核函数参数d以及迭代终止参数t,由于同时调节5个参数计算量较大,难以找到最优解,而DYCORS算法可以减少迭代次数,对于高维数据问题也同样适用,在DYCORS算法的基础上进行参数分块调节:先调节影响最大的参数C、k、γ,再固定最优参数C、k、γ,调节剩余参数中影响较大的参数d和t,最后同时调节已获得的5个最优参数,如此对参数进行分块调节,提升参数优化的效果。结果通过MNIST和IRIS两个数据集上的实验结果对比可以发现:运用YDYCORS算法对OVA-SVM参数进行分块调节后,能得到与手动调参和直接用DYCORS同时调节5个参数更高的模型准确率,从而也能进一步提升模型性能。结论最终实验结果表明:DYCORS算法能有效解决OVA-SVM参数优化中时间成本较大、内存占用较大、难以解决高维数据、难以找到全局最优解等问题,尤其是改进后的YDYCORS算法能进一步提升OVA-SVM的模型准确率,获得较佳的模型效果。

基于PSO-LSSVM算法的隧道掘进机掘进参数预测方法

为了规避隧道掘进机(tunnel boring machine,TBM)掘进参数人为设定的主观性,提出了一种基于粒子群-最小二乘支持向量机算法(PSO-LSSVM)的TBM掘进参数预测方法。通过从海量TBM工程掘进数据中探寻参数变化规律,降低了TBM主司机设定掘进参数的主观性,辅助其合理选择掘进参数,有利于提高掘进效率、规避工程风险,经实验和工程数据验证,PSO-LSSVM算法通过对样本粒子全局迭代寻优来优化参数,提升了预测算法泛化能力和预测精度,对推力、扭矩和推进速度参数预测数值偏差满足要求,可辅助指导主司机设定掘进参数。

基于互信息系数和支持向量机的无线传感器链路质量估计方法研究

准确估计链路质量是提高无线传感器网络(WSN)协议性能的基础,针对目前WSN链路质量估计模型中存在的特征选择以及分类方法没有统一的标准、缺少公开数据集等问题,提出了一种基于支持向量机的WSN链路质量分类估计模型APSO-SVM,利用互信息系数选择模型输入特征,通过APSO粒子群优化算法获得模型的最优超参数,根据输入特征的特点对缺失值进行填充。在多种场景和不同的干扰及竞争条件下进行实验,实验结果表明,与现有算法相比,本文提出的APSO-SVM具有更好的性能,查准率和查全率分别达到97.21%和96.47%。

基于超像素和支持向量机的阴道细菌自动检测

阴道受到细菌感染引发的阴道炎疾病可能导致异位妊娠、不孕、急慢性盆腔炎等严重疾病,目前形态学人工观察是临床诊断该类疾病的主要方法,但容易引起误诊和漏诊。本研究提出一种基于超像素和支持向量机(SVM)的阴道细菌自动检测方法,对革兰染色的阴道细菌图像,采用简单线性迭代聚类(SLIC)方法计算超像素;对超像素区域计算形状特征、颜色特征和方向梯度直方图(HOG)特征;最后用SVM对超像素区域进行识别。在专业医生的指导下挑选了40幅正常图像和60幅有细菌性阴道病(BV)的图像进行实验,其中10幅正常图像和20幅有细菌性阴道病(BV)的图像用于训练分类器,剩下的70幅用于测试算法。实验结果表明,所提出的自动检测算法获得了89.27%的细菌检出率,具有较大的临床应用价值。

支持向量机参数选择方法分析

在分析支持向量机原理的基础上,分析了SVM中核函数、核参数及惩罚参数C的影响,介绍了三种SVM参数选择方法,并讨论了其优点和不足。

基于粒子群优化算法的支持向量机参数选择

由于支持向量机的主要参数的选择能够在很大程度上影响分类性能和效果,并且目前参数优化缺乏理论指导,提出一种粒子群优化算法以优化支持向量机参数的方法.该方法通过引入非线性递减惯性权值和异步线性变化的学习因子策略来改善标准粒子群算法的后期收敛速度慢、易陷入局部最优的缺陷.实验结果表明,相对于标准粒子群算法,本方法在参数优化方面具有良好的鲁棒性、快速收敛和全局搜索能力,具有更高的分类精确度和效率.

基于数据分布特性的支持向量机核参数选择方法

针对支持向量机(SVM)核参数选择困难的问题,通过对SVM分类的原理分析,提出一种新的基于数据分布特性衡量SVM核参数优劣的标准,即使包含正负样本的两个超球体应该尽可能地远且不相交;利用粒子群优化算法(PSO)求出在该衡量标准下的最优核参数。通过对UCI标准数据集的实验,验证了该算法所得到的核参数能在一定程度上提高SVM的泛化能力。