求解非半正定核Huber-支持向量回归机问题的序列最小最优化算法

序列最小最优化(SMO)算法是求解大型支持向量机(SVM)问题的有效算法.已有的算法都要求核函数是正定的或半正定的,从而使其应用受到限制.针对这种缺点,本文提出一种新的的SMO算法,可求解非半正定核Huber-SVR问题.提出的算法在保证收敛的前提下可使非半正定Huber-SVR能够达到比较理想的回归精度,因而具有一定的理论意义和实用价值.

基于量子遗传算法与多输出混合核相关向量机的堆石坝材料参数自适应反演研究

为进一步提高堆石坝材料参数反演模型的计算精度与适用性,建立了基于量子遗传算法(QGA)与多输出混合核相关向量机(MMRVM)的自适应反演模型。通过引入混合核函数,使所构建的MMRVM能够高精度地模拟材料参数与大坝沉降间的复杂非线性关系,从而代替耗时较长的有限元(FEM)计算。通过利用参数较固化的QGA优化确定MMRVM核参数,使反演模型具有自适应性。以实测沉降数据为依据,充分发挥QGA的全局搜索能力反演筑坝材料本构模型参数。在分析模型所需测点个数与信噪比对计算结果影响的基础上,通过公伯峡堆石坝应用实例证明:QGA-MMRVM可快速、精确地反演堆石坝筑坝材料本构模型参数,模型凭借其自适应性在实际工程中具有良好的应用前景和推广价值。

多输出数据依赖核支持向量回归快速学习算法

针对基于递推下降法的多输出支持向量回归算法在模型参数拟合过程中收敛速度慢、预测精度低的情况,使用一种基于秩2校正规则且具有二阶收敛速度的修正拟牛顿算法(BFGS)进行多输出支持向量回归算法的模型参数拟合,同时为了保证模型迭代过程中的下降量和全局收敛性,应用非精确线性搜索技术确定步长因子。通过分析支持向量机(SVM)中核函数的几何结构,构造数据依赖核函数替代传统核函数,生成多输出数据依赖核支持向量回归模型。将模型与基于梯度下降法、修正牛顿法拟合的多输出支持向量回归模型进行对比。实验结果表明,在200个样本下该算法的迭代时间为72.98 s,修正牛顿法的迭代时间为116.34 s,递推下降法的迭代时间为2 065.22 s。所提算法能够减少模型迭代时间,具有更快的收敛速度。

基于核路径算法的支持向量回归机参数选择

参数选择是支持向量机研究领域的重要问题。针对核参数的选择,提出一种基于二分法的核参数解路径算法。由于解为核参数的非线性光滑函数,该算法随着参数的更新,可以在已有参数得出的解的基础上通过更新公式进行推导计算,从而求得当前参数所对应的解,其目标函数的极值所对应的参数值即为最优参数解。该算法可以快速地求得最优参数。将该方法应用于双酚A生产过程的质量指标软测量建模,仿真结果表明了该算法的可行性和有效性。

基于改进灰狼算法优化多核支持向量回归机及其应用

为更好发现数据中的复杂规律,避免核函数选择的盲目性和局部最优等非线性优化问题,本文提出一种基于改进灰狼算法优化多核支持向量回归机算法.首先,基于全局核函数和局部核函数构建多核支持向量机采油速度预测模型;其次,利用基于云模型和二次插值算法改进灰狼优化算法对核函数权值和参数的选取进行优化;最后,应用灰色关联分析理论确定采油速度影响因素集,并作为多核支持向量回归机预测模型的输入.与6种采油速度预测方法进行对比,所提方法具有较好的全局寻优能力和较高的预测率的优点.

基于固定半径包围球的核向量回归算法

为了进一步提高核向量回归算法用于大样本回归问题的训练速度,提出了一种改进的核向量回归算法。该算法利用样本数据在特征空间中的映射点确定包围球半径,并使该半径在迭代过程中保持不变。通过缩小核心数据集,提高了回归算法的训练速度。对几组回归时间序列预测的仿真实验表明,改进的核向量回归算法的训练时间和支持向量的数目均小于核向量回归算法,但二者具有相似的回归精度,从而验证了改进的核向量回归算法的有效性。

基于支持向量机的大样本回归算法比较研究

支持向量机的研究是当前人工智能领域的研究热点。基于支持向量机的大样本回归问题一直是一个非常具有挑战性的课题。最近,基于递归最小二乘算法,Engel等人提出了核递归最小二乘算法。文中基于块增量学习和逆学习过程,提出了自适应迭代回归算法。为了说明两种方法的性能,论文在训练速度、精度和支持向量数量等方面,对它们做了比较。模拟结果表明:核递归最小二乘算法所得到的支持向量个数比自适应迭代回归算法少,而训练时间比自适应迭代回归算法的训练时间长,训练和测试精度也比自适应迭代回归算法差。

采用多核相关向量机的人体步态识别

为进一步提升人体步态识别的准确率,参考人体步态特点,选择下肢表面肌电信号(SEMG)、髋关节角度、膝关节角度作为步态识别信息源,提出一种基于多核相关向量机(MKRVM)的人体步态识别方法.该方法以多源信息特征值作为多核相关向量机的输入,通过实验对不同信号选取合适的核函数,利用萤火虫优化(GSO)算法确定核函数参数,输出为不同步态的概率.利用训练好的模型直接对新样本进行分类,将概率最高的步态模式作为识别结果.实验结果表明,该方法对于平地行走、上楼、下楼、上坡、下坡等步态的平均识别率为94.64%,优于单核支持向量机(SVM)等方法.

基于一类分类的线性规划支持向量回归算法

根据一类分类思想,提出一种基于线性规划的支持向量回归算法,该算法揭示了一类分类和回归之间的关系。实验在一个正弦函数、一个混沌时间序列和一个实际的数据上进行。实验结果表明,所给算法的泛化性能优于标准的支持向量回归算法(ε-SVR)、线性规划支持向量回归算法(LP-SVR)和最小二乘支持向量回归算法(LS-SVR),实验结果也说明了所给算法的有效性和可行性。

基于多蚁群算法的支持向量回归机参数选择方法

核函数是支持向量回归机的重要部分,每种核函数都有其优势和不足。本文基于支持向量机回归机模型相关参数的选取原则,给出了一种具有混合核函数的支持向量机,以基于网格搜索的多蚁群算法为基础,给出了此类混合核函数支持向量回归机参数优化的一种新方法。该方法以最小化交叉验证误差为目标,对包括混合比例和各类核函数的参数在内的5个参数进行优化。仿真结果表明,与遗传算法相比,本方法在参数优化方面有良好的性能,建立的预测模型精度较高。

基于非线性核脊回归算法的海洋微生物发酵参数软测量

针对海洋微生物溶菌酶发酵工艺中参数实时测量,采用根据发酵过程中主辅变量关系的相关灵敏度矩阵绝对值最大元素排序选择辅助变量,运用非线性核脊回归(NKRR)算法预测主导参数的软测量方法。相关灵敏度矩阵反映主辅变量联系,根据发酵实际实验得到。改进直接优化的非线性核脊回归算法辨识发酵非线性系统,将空间Rn中主导变量和辅助变量非线性函数映射关系转化为空间H中的线性划分,运用M ercer条件的核函数求解回归方程,避免直接计算变量映射函数及其内积。通过仿真研究和比对SVM、径向基神经网络(RBFNN)两种算法的实际运行结果表明,该软测量方法具有较好的泛化性能,实时性和准确性可以满足要求。

基于复数支持向量回归机的盲均衡算法

基于复数支持向量回归机(CSVR)的框架,提出了一种针对复数信号的新的盲均衡算法,将多模算法的误差函数代入CSVR的惩罚项构造代价函数,利用广泛线性估计建立回归关系,并采用迭代重加权最小二乘方法确定均衡器系数。不同于支持向量回归机对复数信号的实数化处理方式,CSVR利用Wirtinger微积分,将复数信号直接在复数再生核希尔伯特空间进行解析。仿真实验表明,针对QPSK调制信号,在线性信道和非线性信道下,与基于SVR的盲均衡算法相比,通过选取合适的核函数和迭代优化方法,所提算法的均衡性能显著提升。

一种优化支持向量机回归算法的印刷工序损耗值预测方法

针对印刷生产中物料需求计划的损耗值采用经验值的问题,提出一种优化支持向量机回归算法的印刷工序损耗值预测方法。通过皮尔逊相关系数量化特征值选取;采用布谷鸟搜索算法优化支持向量机回归算法的超参数选取,建立损耗预测模型;为验证模型的优越性,分别与不同的特征值选取方案、优化算法、回归算法的模型进行对比。实验结果表明该损耗预测方法具有更高泛化性和预测精度,决定系数、平均绝对百分误差、均方根误差分别为0.995、0.005、1.969,为解决后续相关问题提供了技术支持。

多核相关向量机优化模型的锂电池剩余寿命预测方法

基于相关向量机的剩余寿命预测方法,核函数是影响相关向量机模型预测性能的重要因素.目前的相关向量机预测模型以单核为主,且核函数的选择存在较大主观性,导致所构建的预测模型性能有限.本文提出一种融合多个核函数构建相关向量机预测模型的方法,通过果蝇算法优化多个核函数优化组合的线性方程系数,提高了模型的预测性能,并将该方法应用于预测锂离子电池的循环剩余寿命.分别采用美国NASA和马里兰大学的电池退化数据集,对本文的方法进行了实验验证.实验结果表明:多核相关向量机预测方法的平均绝对误差和均方根误差都小于最优的单核相关向量机预测方法.

基于不同核函数的某重力拱坝相关向量机模型精度比较

鉴于相关向量机的模型精度受核函数的影响较大,建立了基于修正高斯核函数、多项式核函数及其混合核函数的某重力拱坝相关向量机模型,并利用自适应粒子群算法对核函数的参数进行寻优。实例应用结果表明,混合核函数的性能最优,可提高大坝安全预测精度。

优化的混合核函数相关向量机在发酵过程建模中的应用

针对相关向量机中核函数选择问题进行研究,提出一种局部性高斯核函数和全局性sigmoid核函数结合的相关向量机建模方法.采用差分进化算法对混合核函数构成的相关向量机的参数进行优化,提高了模型的预测精度.将参数优化后的混合核函数相关向量机用于青霉素发酵过程的软测量建模,得到比单一核函数所建模型更优的预测精度.

一种新的回归型约简多分辨率相关向量机

提出一种新的稀疏贝叶斯回归算法.基于相关向量机,首先通过尺度核和小波核构造完备基以提高预测精度;然后利用保局投影对输入矩阵的列进行主成分提取以减少训练时间,从而形成算法的初步模型.为进一步减小较大规模训练数据集的回归时间压力,算法对训练数据集的分层采样建立了初步模型,进而产生实际较小规模的训练数据集.实验结果表明,算法在预测精度和鲁棒性上优于传统支持向量机和相关向量机,且其训练时间较相关向量机少.

支持向量回归机的参数择优算法

在使用支持向量回归机(SVR)对样本数据进行定量分析时,其关键参数惩罚系数C和核参数g的选择直接决定了算法的精度和耗时,甚至决定了是否能求得最优解。近年来智能算法在测量控制类领域的普及,对SVR算法在计算时间和计算精度上提出了更为严格的要求。故本文分别介绍了使用网格搜索法、遗传算法以及粒子群算法搜索SVR最优参数对(C,g)的原理,并对网格搜索法(GRID)、粒子群算法(PSO)以及遗传算法(GA)这三种启发式算法优化下的支持向量回归机回归的学习能力、预测能力以及计算时间进行了比较。

一种改进的相关向量机算法

在相关向量机模型的基础上,通过组合高斯核函数和柯西核函数构造混合核函数,利用布谷鸟算法对混合核函数的参数进行优化选择,建立基于布谷鸟算法的混合核函数相关向量机模型.并将其应用到油路诊断中,通过吸油油路的油压和低压油路的油压判断油路中是否存在漏油等故障.实验表明,该改进算法较相关向量机算法具有更好的分类准确率.

基于多核支持向量回归的浓香型白酒风味成分逐步预测模型研究

目的探究白酒感官品评与白酒风味成分之间的关系,实现通过感官品评对风味成分进行预测。方法采用变分自编码器(variational auto encoder,VAE)对原始数据进行增强,以多核支持向量回归(multi-kernel support vector regression,MKSVR)结合遗传算法(genetic algorithm,GA)建立单预测模型,再采取逐步预测的方式按照酸、酯、醇、醛类物质的顺序进行预测,从而构建最终模型。结果在经过VAE对数据进行增强的条件下,多元线性回归(mixed logistic regression,MLR)对酸、酯、醇、醛类物质预测的拟合优度分别为0.9660、0.9106、0.8767、0.8686,随机森林(random forests,RF)对酸、酯、醇、醛类物质预测的拟合优度分别为0.9663、0.9186、0.8805、0.8708,GA-MKSVR对酸、酯、醇、醛类物质预测的拟合优度分别为0.9715、0.9423、0.9072、0.8809,GA-MKSVR逐步预测对酸、酯、醇、醛类物质预测的拟合优度分别为0.9715、0.9447、0.9102、0.8851,GA-MKSVR逐步预测的效果均为最优。结论GA-MKSVR逐步预测方法相较于传统的机器学习方法,具有更好的性能,对数据具有更高的适应性,能更好地构建白酒感官与风味成分之间的关系模型。