基于最小二乘孪生支持向量机的不确定数据学习算法

孪生支持向量机通过计算2个二次规划问题,得到2个不平行的超平面,用于解决二分类问题。然而在实际的应用中,数据通常包含不确定信息,这将会对构建模型带来困难。对此,提出了一种用于求解带有不确定数据的最小二乘孪生支持向量机模型。首先,对于每个实例,该方法都分配一个噪声向量来构建噪声信息。其次,将噪声向量结合到最小二乘孪生支持向量机,并在训练阶段得到优化。最后,采用一个2步循环迭代的启发式框架求解得到分类器和更新噪声向量。实验表明,跟其他对比方法比较,本方法采用噪声向量对不确定信息进行建模,并将孪生支持向量机的二次规划问题转化为线性方程,具有更好的分类精度和更高的训练效率。

支持向量机(SVM)主动学习方法研究与应用

文中介绍了一种用SVM进行主动学习的方法 ,解决在某些机器学习问题中 ,训练样本获取代价过大带来的问题。实验表明 ,该方法与普通SVM方法相比 ,在保证SVM分类器性能的前提下 ,可有效减少学习所需的样本数量。最后设计了一个基于该思想的邮件过滤器模型 ,依据该模型设计的邮件过滤器将有实时监控、自动更新邮件过滤模块的能力。

基于递归定量分析与多核学习支持向量机的玻璃纤维增强复合材料缺陷识别技术

为了提高玻璃纤维增强复合材料(Glass Fiber Reinforced Polymer,GFRP)超声检测中缺陷识别技术的准确性,提出基于递归定量分析(Recurrence Quantitative Analysis,RQA)与多核学习支持向量机(MKLSVM)相结合的检测模型,以提高检测GFRP中不同类型缺陷的能力。结果表明,该模型能够准确识别GFRP中的分层缺陷与夹杂缺陷,检测识别率达到92.92%,并且与基于离散小波变换(Discrete Wavelet Transform,DWT)和经验模态分解(Empirical Mode Decomposition,EMD)的MKLSVM检测模型的识别率相比,所提出的检测模型的识别率分别提高了7.5%和3.75%。

基于支持向量机(SVM)的古代玻璃制品分类

古代玻璃制品是古丝绸之路交易的商品之一,一般依据化学成分对玻璃制品进行分类.但是风化会改变玻璃制品化学成分的含量,从而影响玻璃制品类型的鉴别.本文尝试先预测风化前的化学成分以消除风化的影响,再采用灰色关联分析化学成分的关联关系以及差异,最后建立支持向量机(SVM)模型对古代玻璃制品进行分类.

弱监督场景下的支持向量机算法综述

支持向量机(Support Vector Machine,SVM)是一种建立在结构风险最小化原则上的统计学习方法,以其在非线性、小样本以及高维问题中的独特优势被广泛应用于图像识别、故障诊断以及文本分类等领域.但SVM是一种监督学习算法,它旨在利用大量的、唯一且明确的真值标记样本来训练学习器,在不完全监督、不确切监督以及多义监督等弱监督场景下难以取得较好的效果.本文首先阐述了弱监督场景的概念和SVM的相关理论,然后从弱监督场景角度出发,系统地梳理了目前SVM算法的研究现状和发展,包括基于半监督学习、多示例学习以及多标记学习的方法;其中基于半监督学习的方法根据数据假设可细分为基于聚类假设和基于流形假设的方法,基于多标记学习的方法根据解决方案可细分为基于示例水平空间、基于包水平空间以及基于嵌入空间的方法,基于多标记学习的方法根据处理思路可细分为基于问题转换和基于算法自适应的方法;随后,本文总结了部分代表性算法在公开数据集上的实验结果;最后,探讨并展望了未来可能的研究方向.

深埋长大隧道地温预测的机器学习算法对比研究

地热对隧道施工、工程结构及运营安全等均有较大的危害,随着我国基础设施建设布局西移,隧道建设的地质条件愈发复杂,隧道埋深和长度不断增加,隧道施工期高温热害问题频发。针对传统地温预测方法中预测精度不高、数据运用不充分,单一机器学习模型解译性差等问题,以A隧道为研究对象,将决策树(decision tree,DT)、支持向量机(support vector machine,SVM)、随机森林(random forest,RF)进行耦合,提出了基于DT-SVM-RF模型的深埋长大隧道地温预测方法。在分析隧道综合测井、地应力及岩石热物理试验、航空物探数据后,选取深度、声波波速等10个影响因子作为模型的输入,采用随机交叉验证和空间交叉验证对模型的鲁棒性、泛化能力进行检验,构建LASSO回归、随机森林、互信息3种回归模型,分析10个影响因子的特征重要性排序。结果表明:在测试集上多元线性回归、支持向量机、人工神经网络和决策树-支持向量机-随机森林(decision tree-support vector machinerandom forest,DT-SVM-RF)模型决定系数(R^(2))分别为0.76、0.91、0.88、0.93,均方误差MSE分别为17.64、6.25、8.46、5.20,DT-SVM-RF模型具有相对更优的预测性能,深度、岩石导温系数、岩石导热系数、最大水平主应力特征较为重要,说明DT-SVM-RF模型能有效地提高地温预测的准确率。研究结果可为类似隧道地温预测提供一种精度更高的可行新思路。

基于机器学习与红外光谱技术的变压器油老化行为研究

为解决现阶段油品老化分析工作复杂、误差大等问题,提出一种红外光谱与机器学习(ML)相融合的技术。借助傅里叶变换中红外(FT-MIR)光谱仪采集三种变压器油在不同老化时间的样本光谱,运用多种预处理方法对样本光谱进行预处理,以自动寻峰并求得特征峰面积之和。采用偏最小二乘回归(PLSR)和粒子群优化-支持向量机回归(PSO-SVR)算法建立了变压器油老化程度定量分析模型,研究并分析了多种光谱数据预处理方法对红外光谱降噪、基线校正等处理效果以及对两种模型定量分析效果的影响。结果表明,油品光谱预处理效果最好的是平滑法,其中SG+SVR和SG+PLSR模型拟合优度(R^(2))分别为0.9814、0.9913,平均绝对误差(MAE)为0.3124、0.2880,均方根误差(RMSE)仅有0.0977、0.3790。在合适的预处理条件下,两种机器学习算法鲁棒性和可靠性均较强,模型预测值与实际值间差异极小。

基于斑马算法优化支持向量回归机模型预测页岩地层压力

针对陇东地区三叠系延长组7段(长7段)页岩孔隙结构复杂、非均质性强、地层压力预测精度较低等问题,提出了一种基于斑马算法优化支持向量回归机(ZOA-SVR)模型预测地层压力的方法,并在实际钻井中进行了应用,将预测结果与基于机器算法的模型和常规地层压力预测方法结果进行了对比。研究结果表明:①ZOA-SVR模型以实测地层压力数据为目标变量,优选与陇东地区长7段页岩地层压力数据关联度达到0.70以上的深度、声波时差、密度、补偿中子、自然伽马、深侧向电阻率、泥质含量等7个参数作为输入特征参数,设置训练样本数为40,交叉验证折数为5,初始化斑马种群数量为10,最大迭代次数为70,对惩罚因子和核参数进行优化并建模,参数优化后拟合优度指标R2达到0.942,模型预测的地层压力数据在训练集和测试集上的绝对误差均低于1 MPa,预测测试集地层压力数据与实测压力数据的平均相对误差为2.42%。②ZOA-SVR模型在研究区长7段地层压力预测中优势明显,比基于粒子群优化算法、灰狼算法和蚁群算法的模型具有更好的参数调节及优化能力,R2分别提高了0.209,0.327,0.142;比等效深度法、Eaton法、有效应力法预测的地层压力精度更高,相对误差分别降低了32.53%,15.31%,5.91%。③ZOA-SVR模型在实际钻井中的应用结果显示,研究区长7段地层压力在垂向上分布较稳定,泥页岩段的地层压力高于砂岩段,地层压力系数主要为0.80~0.90,整体上属于异常低压环境,与实际地层情况相符。

支持向量机(SVM)在傅里叶变换近红外光谱分析中的应用研究

支持向量机(SVM)用于两类问题的识别研究,它是统计学习理论中最年轻的分支,所建分析模型有严格的数学基础。同时介绍了SVM学习的基本原理和方法,并将该方法引入化学计量学,以103个中药大黄样品为实验材料,通过SVM近红外光谱法建立了大黄样品真伪识别模型。对学习集中33个样品模型识别准确率为100%;对70个预测样品的识别准确率为9677%,为中药大黄的快速识别提供了参考。研究结果表明了SVM近红外光谱法建立生物样品识别模型的可行性。通过旨在介绍SVM学习方法的基本思想,以引起化学计量学工作者的进一步关注。

应用多分类多核学习支持向量机的变压器故障诊断方法

提出一种基于多分类多核学习支持向量机的变压器故障诊断方法,相对于传统的2分类支持向量机,该方法有如下特点:算法针对单一的优化目标函数求解,只需设计1组参数,降低了支持向量机在解决多类问题中模型构造和参数选择的难度;核函数是多个基核函数的组合,提高了分类的精度;将模型分解为2个凸优问题进行求解,问题的复杂度低,求解速度快。诊断实例表明,该方法能保证较高的诊断准确率,具有较好的实用性和推广性。

基于支持向量机的增量学习算法

通过对支持向量机KKT条件和样本间关系的研究,分析了新增样本加入训练集后支持向量的变化情况,提出一种改进的Upper Limiton Increment增量学习算法.该算法按照KKT条件将对应的样本分为3类:位于分类器间隔外,记为RIG;位于分类间隔上,记为MAR;位于分类间隔内,记为ERR.并在每次训练后保存ERR集,将其与下一个增量样本合并进行下一次训练.实验证明了该算法的可行性和有效性.

基于支持向量机增量学习的电力系统暂态稳定评估

基于传统支持向量机的暂态稳定评估模型,通常将所有的学习样本同时参与学习,如果有新样本加入,则需要对所有样本重新学习。针对传统暂态稳定评估模型不能在线更新的不足,提出了一种支持向量机增量学习的暂态稳定评估方法。该方法利用一种快速支持向量机增量学习方法,构造递归解法将新数据增加到解中,并对模型更新前的训练数据保持Karush-Kuhn-Tucker条件。通过一次1个样本的增量学习更新暂态稳定评估模型。新英格兰39节点测试系统的仿真实验表明:所提出的方法能有效更新评估模型且大幅减少学习时间,为基于机器学习的电力系统暂态稳定在线学习提供了新思路。

基于协同最小二乘支持向量机的Q学习

针对强化学习系统收敛速度慢的问题,提出一种适用于连续状态、离散动作空间的基于协同最小二乘支持向量机的Q学习.该Q学习系统由一个最小二乘支持向量回归机(Least squares support vector regression machine,LS-SVRM)和一个最小二乘支持向量分类机(Least squares support vector classification machine,LS-SVCM)构成.LS-SVRM用于逼近状态-动作对到值函数的映射,LS-SVCM则用于逼近连续状态空间到离散动作空间的映射,并为LS-SVRM提供实时、动态的知识或建议(建议动作值)以促进值函数的学习.小车爬山最短时间控制仿真结果表明,与基于单一LS-SVRM的Q学习系统相比,该方法加快了系统的学习收敛速度,具有较好的学习性能.

基于支持向量机(SVM)的回采工作面瓦斯涌出混沌预测方法研究

针对瓦斯涌出传统的线性预测方法存在的问题,根据瓦斯涌出时间序列固有的确定性和非线性,利用混沌动力系统的相空间延迟坐标重构理论,结合基于机器学习理论的支持向量机(SVM),建立基于SVM理论的瓦斯涌出混沌时间序列预测模型。经Ⅱ1024回采工作面瓦斯涌出时间序列仿真计算,仿真结果显示该预测模型具有比传统的回归方法更好的泛化能力,预测方法具有很高的预测精度。同时,该模型具有以往传统机器学习的瓦斯涌出预测模型建立简便、训练速度快等优点。由于充分考虑瓦斯涌出时间序列的混沌性,并利用SVM预测的优良特性,使得预测更科学。

基于单分类支持向量机和主动学习的网络异常检测研究

对基于支持向量机和主动学习的异常检测方法进行了研究,首先利用原始数据采用无监督方式建立单分类支持向量机模型,然后结合主动学习找出对提高异常检测性能最有价值的样本进行人工标记,利用标记数据和无标记数据以半监督方式对基于单分类支持向量机的异常检测模型进行扩展。实验结果表明,所提方法能够利用少量标记数据获取性能提升,并能够通过主动学习减小人工标记代价,更适用于实际网络环境。

基于支持向量机的渐进直推式分类学习算法

支持向量机(support vector machine)是近年来在统计学习理论的基础上发展起来的一种新的模式识别方法,在解决小样本、非线性及高维模式识别问题中表现出许多特有的优势.直推式学习(transductive inference)试图根据已知样本对特定的未知样本建立一套进行识别的方法和准则.较之传统的归纳式学习方法而言,直推式学习往往更具普遍性和实际意义.提出了一种基于支持向量机的渐进直推式分类学习算法,在少量有标签样本和大量无标签样本所构成的混合样本训练集上取得了良好的学习效果.

基于贝叶斯理论和在线学习支持向量机的短期负荷预测

该文将贝叶斯理论用于短期负荷预测(STLF)中输入特征的自适应选取。该理论将所有能够获得的信息,包括样本信息和先验知识结合在一起加以利用,不但避免了过拟合问题,而且简化了预测模型。文中同时建立了基于支持向量机(SVM)在线学习的短期负荷预测模型。在充分利用SVM解的稀疏性并结合KKT条件的基础上,以递增和递减算法可直接得到新的回归函数而无需重新训练,从而提高了一般SVM方法进行负荷预测的计算速度。多个实际系统的预测算例表明了该方法在预测精度和预测速度方面的有效性。

基于支持向量回归与极限学习机的高炉铁水温度预测

选取某4000 m^(3)级别高炉2014年至2019年时间范围内的日平均数据,以铁水温度为目标函数,首先对铁水温度的特征参量进行线性与非线性相关性分析、特征选择与规范化处理,获取了显著影响铁水温度的正负相关性特征参量.在此基础上,基于支持向量回归与极限学习机两种算法对铁水温度构建预测模型,模型均可对铁水温度实现有效预测,基于支持向量回归算法构建的预测模型较优,预测平均绝对误差为4.33℃,±10℃误差范围内的命中率为94.0%.

基于深度学习特征提取和粒子群支持向量机状态识别的齿轮智能故障诊断

针对齿轮故障诊断问题,利用数理统计特征提取方法、深度学习神经网络、粒子群算法和支持向量机等技术,提出了一种基于深度学习特征提取和粒子群支持向量机状态识别相结合的智能诊断模型。该模型利用深度学习自适应提取的频谱特征与数理统计方法提取的时域特征相结合组成联合特征向量,然后利用粒子群支持向量机对联合特征向量进行故障诊断。该模型在对多级齿轮传动系统试验台的故障诊断中实现了中速轴大齿轮不同故障类型的可靠识别,获得了满意的诊断结果。应用结果也验证了基于深度学习自适应提取频谱特征的有效性。

一种自主核优化的二值粒子群优化–多核学习支持向量机变压器故障诊断方法

支持向量机(support vector machine,SVM)对于核函数及模型参数十分敏感,多核学习可降低模型的参数敏感性。提出了基于二值粒子群优化(binary particle swarmoptimization,BPSO)的多核学习SVM分类方法(BPSO-MKSVC)进行变压器故障诊断。多核学习支持向量机(multi-kernel support vector classifier,MKSVC)采用由多个基核线性组合的多核进行学习,其中每一个基核完成从特定样本空间提取故障特征,通过多面故障特征的线性组合,将学习分类问题转化为相应的凸规划问题进行迭代求解。采用BPSO优化算法对MKSVC中的基核数及模型参数进行优化,实现了参数的自主选择。与常用诊断算法相比,BPSO-MKSVC具有更高的诊断精度;与PSO优化的SVM方法相比,其具有更低的参数敏感性和更好的鲁棒性。