基于最小二乘孪生支持向量机的不确定数据学习算法

孪生支持向量机通过计算2个二次规划问题,得到2个不平行的超平面,用于解决二分类问题。然而在实际的应用中,数据通常包含不确定信息,这将会对构建模型带来困难。对此,提出了一种用于求解带有不确定数据的最小二乘孪生支持向量机模型。首先,对于每个实例,该方法都分配一个噪声向量来构建噪声信息。其次,将噪声向量结合到最小二乘孪生支持向量机,并在训练阶段得到优化。最后,采用一个2步循环迭代的启发式框架求解得到分类器和更新噪声向量。实验表明,跟其他对比方法比较,本方法采用噪声向量对不确定信息进行建模,并将孪生支持向量机的二次规划问题转化为线性方程,具有更好的分类精度和更高的训练效率。

基于递归定量分析与多核学习支持向量机的玻璃纤维增强复合材料缺陷识别技术

为了提高玻璃纤维增强复合材料(Glass Fiber Reinforced Polymer,GFRP)超声检测中缺陷识别技术的准确性,提出基于递归定量分析(Recurrence Quantitative Analysis,RQA)与多核学习支持向量机(MKLSVM)相结合的检测模型,以提高检测GFRP中不同类型缺陷的能力。结果表明,该模型能够准确识别GFRP中的分层缺陷与夹杂缺陷,检测识别率达到92.92%,并且与基于离散小波变换(Discrete Wavelet Transform,DWT)和经验模态分解(Empirical Mode Decomposition,EMD)的MKLSVM检测模型的识别率相比,所提出的检测模型的识别率分别提高了7.5%和3.75%。

弱监督场景下的支持向量机算法综述

支持向量机(Support Vector Machine,SVM)是一种建立在结构风险最小化原则上的统计学习方法,以其在非线性、小样本以及高维问题中的独特优势被广泛应用于图像识别、故障诊断以及文本分类等领域.但SVM是一种监督学习算法,它旨在利用大量的、唯一且明确的真值标记样本来训练学习器,在不完全监督、不确切监督以及多义监督等弱监督场景下难以取得较好的效果.本文首先阐述了弱监督场景的概念和SVM的相关理论,然后从弱监督场景角度出发,系统地梳理了目前SVM算法的研究现状和发展,包括基于半监督学习、多示例学习以及多标记学习的方法;其中基于半监督学习的方法根据数据假设可细分为基于聚类假设和基于流形假设的方法,基于多标记学习的方法根据解决方案可细分为基于示例水平空间、基于包水平空间以及基于嵌入空间的方法,基于多标记学习的方法根据处理思路可细分为基于问题转换和基于算法自适应的方法;随后,本文总结了部分代表性算法在公开数据集上的实验结果;最后,探讨并展望了未来可能的研究方向.

火箭发动机故障检测的快速增量单分类支持向量机算法

为解决液体火箭发动机故障诊断正负样本不平均问题,以及实现发动机稳态工作段自适应故障检测,建立了基于快速增量单分类支持向量机的异常检测模型。采取特征工程方法,对传感器获得的多变量时间序列进行特征提取。通过增量学习方法,对单分类支持向量机模型进行改进,并应用于液体火箭发动机异常检测,使单分类支持向量机检测模型具备对不同台次、不同工况的自适应性,提高了模型的计算速度。对多台次热试车数据的分析结果表明,该模型十分有效,训练速度快,具备实用价值。

基于自动编码器和支持向量机的飞机机动智能识别方法

飞机机动动作识别是空战意图识别和智能决策的基础。针对传统机动动作识别方法存在的高维数据分析和特征提取能力不足、识别准确率不高的问题,考虑到机动数据的高维性、时序性的特点,提出基于正则化自动编码器-支持向量机(RAE-SVM)的飞机机动动作识别方法。依据机动动作数据变化规律和专家经验知识,构建了基于时间段数据特征的机动动作样本库;将无监督的自动编码器神经网络强大的特征提取能力和有监督的支持向量机优异的分类性能相结合,构建基于RAE-SVM的机动识别模型,采用机动动作样本库训练模型;通过引入正则化提高了RAE网络的泛化性能和预测准确率;最后与多种现有方法进行准确性与实时性对比,并选取空战机动动作数据进行实例验证。结果表明:所提方法识别准确率为92.75%,对一组机动数据识别仅需2 ms,满足实时性要求。因此,该方法可以快速准确地进行飞机机动动作识别,具有一定实用价值。

基于支持向量机的电力系统状态估计多类型数据异常检测

为了解决异常数据严重影响电力系统状态估计性能的问题,提出了一种基于支持向量机(SVM)的电力系统预测辅助状态估计(FASE)多类型数据异常检测方法。首先,针对传统FASE的预测准确率欠佳的问题,提出了基于极限学习机的FASE方法,并利用SVM并基于预测数据、量测数据与估计值,实现了对坏数据、负荷突变和单相接地等多种类型的数据异常检测。其次,针对惩罚因子和核函数参数会影响分类精度的问题,提出采用灰狼算法对SVM参数进行优化,在兼顾计算速度的同时提高了数据异常检测的准确率。最后,在IEEE 33和丹麦DTU 7K 47节点主动配电网系统上进行仿真测试,所提方法在正常工况下提升26.08%与26.76%,计算速度提升46.05%,在数据异常情况下准确率综合提升32.04%与29.27%,结果表明,所提方法具备较强的通用性与实时性,可以有效地检测电力系统中各种类型的数据异常,并提高状态估计的性能。

增量式稀疏密度加权孪生支持向量回归机

密度加权孪生支持向量回归机(DWTSVR)是一种能够反映数据内在分布的回归算法,具有预测精度高和鲁棒性强等优点,然而其并不适用于训练样本以增量形式提供的场景。针对该问题,提出一种增量式稀疏密度加权孪生支持向量回归机(ISDWTSVR)。首先,辨别新增数据是否为异常样本,并赋予有效样本适当的权重,减小异常样本对模型泛化性能的影响;其次,结合矩阵降维与主成分分析思想筛选出原始核矩阵中的一组特征列向量基代替原特征,实现核矩阵列稀疏化,以获得稀疏解;接着,借助牛顿迭代法和增量学习策略对上一时刻的模型信息进行调整,实现模型的增量更新,同时结合矩阵求逆引理避免增量更新过程中直接求解逆矩阵,进一步加快训练速度;最后,在UCI基准数据集上进行仿真实验,并与现有代表性算法进行比较。实验结果表明,ISDWTSVR继承了DWTSVR的泛化性能,在大规模数据集Bike-Sharing上,新增一个样本模型更新平均CPU时间为5.13 s,较DWTSVR缩短了97.94%,有效地解决了模型必须从头开始重新训练的问题,适用于大规模数据集的在线学习。

基于特征向量信息支持向量机的RC框架易损性曲线预测

易损性曲线将结构破坏等级与地震动强度相关联,能够直观地反映结构破坏的概率,但在建立易损性曲线的过程中需要大量的结构非线性时程分析结果,因而计算效率不高。机器学习方法已被证明能较好地解决这一问题,但当训练数据的规模较大时,由于训练过程涉及求解大规模逆矩阵致使计算效率依然低下。为此,本文提出了一种特征向量信息支持向量机(EILS-SVM)的新方法克服此类方法的不足。在大规模数据集下,EILS-SVM能够筛选小规模子样本建立低秩核矩阵。这使得其训练过程只需求解小规模低秩矩阵的逆矩阵,进而极大提高计算效率。为了验证EILS-SVM的准确性和高效性,基于16500个钢筋混凝土(RC)框架在地震作用下的破坏数据,分别与支持向量机(LS-SVM)、随机森林、神经网络、线性判别分析(LDA)、贝叶斯作对比。结果表明,EILS-SVM能准确预测RC框架的易损性曲线,其计算效率最高能提升近27倍。

基于改进支持向量机的致密砂岩储层参数预测研究

致密砂岩储层的评价技术既是油气勘探开发的重点,也是难点。目前对致密砂岩储层的储层参数的预测与评价,依然采用传统的储层参数预测方法,结合测井曲线进行建模,用以对渗透率、孔隙度等参数进行拟合,主要运用的方法有经验公式、回归分析等,其中大部分方法都是基于线性的,无法反映致密储层特有的沉积和成岩作用所导致的非均质性强的特点,无法揭示致密储层中测井曲线与储层参数之间的复杂非线性关系。针对此问题,提出在传统储层参数预测模型的基础上,对测井曲线与储层参数的非线性关系进行分析,挖掘更多现有测井信息,进行支持向量机储层参数预测模型的建构,并采用粒子群算法、头脑风暴算法、布谷鸟算法等三种支持向量机的改进优化算法对模型参数进行测试,筛选出最优的储层参数预测模型。将该模型应用于研究区储层参数预测评价中,有效提高了预测评价精度,为致密储层精细预测评价和非常规油气田的高效开发提供了有力的技术保障。

基于Optuna框架的L_(p)范数约束下多核支持向量机在违约风险预测中的应用

针对违约数据存在数据量大、维度多、不平衡及噪声大等缺点,提出一种改进的支持向量机方法,即基于Optuna框架的L_(p)范数约束的代价敏感的多核支持向量机(L_(p)-Optuna-SVM)。该方法采用成本矩阵对不同预测错误赋予不同数值,通过多核学习引入多核混合核函数组合;同时采用Optuna优化框架对犯错成本、核函数的参数和权重实现了自动化的调优过程;还在核函数权重上引入L_(p)范数约束,以提高模型对噪声和异常数据的鲁棒性。最后,对4种常用的基础核函数组合的L_(p)-Optuna-SVM进行探讨,并与单核支持向量机以及K邻近法、逻辑回归、高斯贝叶斯进行对比。结果表明,在给定数据集上,L_(p)-Optuna-SVM在违约数据上的g-mean和AUC均高于其他算法,并且在加了不同方差的噪声数据集上,该算法整体依旧保持较好的鲁棒性。

基于支持向量机的电声信号故障诊断方法

针对电力设备状态监测领域中变压器的故障诊断问题,以电声技术为核心,结合支持向量机方法,提出一种新的故障诊断方案。首先,以变压器为例,研究电气设备状态监测系统。其次,引入一种集成学习方法,利用支持向量机模型诊断故障。最后,在MATLAB上进行仿真实验。实验结果表明,该方法能够有效识别正常状态和异常状态,具有较高的准确性、精确性及召回率。

基于多类模糊支持向量机的风电机组故障诊断方法研究

针对风电机组的故障诊断,提出了一种基于多类模糊支持向量机的故障诊断方法。首先,采用经验模态分解从振动信号中提取故障特征向量。用于含噪声信号的分类问题,其中采用核模糊C-均值聚类算法和粒子群优化算法分别计算模糊隶属度并优化核函数参数。然后,为了研究所提出方法的性能,对反向传播神经网络和标准支持向量机进行了研究和对比并使用离散小波变换提取故障特征向量。最后,为了验证所提出方法的有效性,以直驱式风电机组的进行仿真测试,实验结果表明,该方法能够有效实现风电机组的故障诊断,具有较好的性能和较高的诊断准确率。

基于邻域粗糙集与支持向量极端学习机的瓦斯传感器故障诊断

针对于瓦斯传感器故障诊断速度慢、诊断精度不高的问题,以常见的冲击型、漂移型、偏置型和周期型传感器输出故障作为研究对象,提出一种基于邻域粗糙集(NRS)和支持向量极端学习机(SVM-ELM)的故障诊断方法。首先对瓦斯传感器的特征属性值进行归一化处理,然后利用NRS信息约简理论降低属性维度,提取出影响瓦斯传感器的关键属性构成约简集。将约简集作为SVM-ELM的输入进行训练,利用训练好的SVM-ELM对测试样本进行模式识别。最后通过实验对比验证该方法具有训练速度快、分类精度高的特点,辨识正确率在95%以上,能够显著提高故障诊断的速度和准确性。

基于机器学习与DBN网络的网络入侵检测方法研究

随着计算机网络的发展,网络入侵的情况也越来越严重。传统网络入侵检测方法存在检测效率低、误判率高的情况,为了解决这些问题,提出了一种基于支持向量机的深度置信网络(SVM-DBN)的入侵检测方法。通过对支持向量机(SVM)进行优化,将支持向量机与深度信念网络(DBN)融合,利用SVM、DBN与SVM-DBN在网络入侵数据集中进行对比。结果表明,SVM-DBN算法的误差率最低,比DBN和SVM的误差率平均值分别低了8.95%,12.70%,且SVM-DBN算法在训练次数为140次时最大绝对百分比误差为4.8%,均优于对比方法。这说明SVM-DBN网络能够有效地提高网络入侵检测的精度和效率。

三种机器学习模型用于空气质量等级预测的比较研究——以保定市为例

目的 利用支持向量机(support vector machine, SVM)、随机森林(random forest, RF)和多层感知器(multilayer perceptron, MLP)三种机器学习方法分别构建保定市未来三日空气质量等级预测模型,通过对参数调优和预测结果比较选择三种模型中的最佳模型。方法 基于保定市2014—2022年的空气污染物日均浓度监测数据和同期气象数据,采用SVM、RF和MLP三种机器学习模型,利用前四日数据为未来三日分别构建了每日的空气质量等级预测模型并评估特征变量的重要性。对模型参数进行调优,采取十折交叉验证法进行验证,通过准确率和AUC等指标来评估模型性能。结果 SVM模型未来三日准确率分别为69.8%、63.5%、62.3%,AUC分别为77.4、70.8、70.7;RF模型未来三日准确率分别为75.9%、68.2%、67.1%,AUC分别为0.84、0.74、0.72;MLP模型未来三日准确率分别为73.2%、66.4%、65.7%,AUC为0.83、0.74、0.73,综合对比RF模型表现最优;空气质量特征变量重要性高于气象因素特征变量。结论 通过对比研究,RF机器学习模型能够相对有效地预测未来一日空气污染等级,并提供空气质量等级预警。

基于Stacking算法集成学习的页岩油储层总有机碳含量评价方法

总有机碳含量(TOC)是页岩油储层评价的重要参数,而传统总有机碳含量测井评价方法精度较低且普适性较差,机器学习模型在一定程度上提高了总有机碳含量预测精度,但结果存在不稳定性。为了进一步提高页岩油储层总有机碳含量预测精度,基于有机质岩石物理特征和不同总有机碳含量测井响应特征的深入分析,优选出深侧向电阻率、声波时差、补偿中子和密度测井曲线作为总有机碳含量的敏感测井响应,并将其作为输入特征,以岩心分析总有机碳含量作为期望输出值,分别建立了决策树模型、支持向量回归机模型、BP(Back Propagation)神经网络模型,并建立了以决策树模型为基模型、支持向量回归机模型为元模型的Stacking算法集成学习模型。利用B油田A区块的岩心样本数据和实际井数据对不同模型预测总有机碳含量结果进行了验证,结果表明,基于Stacking算法的集成学习模型的总有机碳含量预测精度最高,相较于决策树模型、支持向量回归机模型、BP神经网络模型和改进的ΔlgR法,预测精度有较大提高。因此,基于Stacking算法的集成学习模型为该研究区最有效的总有机碳含量计算方法,这为准确地评估页岩油储层的生烃潜力、确保页岩油储层的高效开采及资源利用奠定了基础。

基于机器学习的卵巢恶性肿瘤预测模型

目前临床使用的检验项目多达1000余项,采用逻辑回归二分类和支持向量机分别构建卵巢恶性肿瘤预测模型,探讨检验项目与诊断结果的相关性。实验结果表明,2种机器学习算法构建的卵巢恶性肿瘤预测模型具有较高的预测水平,红细胞体积分布宽度和平均血小板体积等非特异性检验项目与卵巢恶性肿瘤诊断结果具有较强的相关性。

血管性高危因素预测血管性轻度认知障碍:支持向量机模型构建及应用

背景:随着人口老龄化的不断进展,轻度认知障碍患者逐步增多。越来越多的证据表明,血管性高危因素与血管性认知障碍有显著的相关性。因此,血管性高危因素也可作为识别和预测血管性认知障碍的方法之一。目的:探索以血管性高危因素构建的支持向量机模型在识别血管性轻度认知障碍中的临床价值,以期作为一种简易的筛查工具应用于基层机构、社区以及居家康复中。方法:纳入研究的受试者行认知功能评估,根据评估结果分为正常组、血管性轻度认知障碍组和痴呆组;同时采用方差分析筛选出3组间有统计学差异的血管性高危因素,从而构建血管性轻度认知障碍筛查的支持向量机模型,使用敏感度、特异度、阳性预测值、阴性预测值及曲线下面积评估模型的预测性能。结果与结论:①符合纳入标准的80例受试者中,根据认知功能评估结果分为正常组(39例)、血管性轻度认知障碍组(24例)和痴呆组(17例);②组间单因素方差分析结果发现收缩压、空腹血糖、总胆固醇、低密度脂蛋白、血尿酸5个血管性高危因素组间存在统计学意义(P<0.05);③故用上述5个因素构建模型,结果显示筛查血管性轻度认知障碍的灵敏度为0.8453,特异度为0.9194,阳性预测值为0.8180,阴性预测值为0.9327,受试者工作曲线结果显示曲线下面积为0.8923;④提示基于常规体检项目中血管性高危因素构建支持向量机模型在血管性轻度认知障碍筛查中具有较高的辨别效能,且其简单易行,可作为一种筛查的方法应用于基层机构、社区以及居家康复中。

基于支持向量机的高含CO_(2)凝析气藏油环体积预测方法

准确、高效地预测高含CO_(2)凝析气藏油环体积对于开发方案的制定至关重要,但海上深水凝析气藏难以通过大规模钻探来探明油环体积,且高浓度CO_(2)的萃取作用使油环体积变化更加复杂。首先通过CO_(2)充注实验还原高含CO_(2)凝析气藏成藏过程,以数值模拟结果为基础数据开展数据预处理,建立样本数据库,并通过关联分析优选其主控因素,明确不同地层条件和气顶组成下油环体积的变化规律,最后基于支持向量机开展油环体积预测训练,搭建油环体积的预测模型,实现输入主控因素以精确、快速预测油环体积的目的。预测结果表明,采用三次核函数的机器学习模型与数值模拟、物理模拟、矿场实际的油环体积误差分别为3.43%、5.10%和7.21%。

应用多分类多核学习支持向量机的变压器故障诊断方法

提出一种基于多分类多核学习支持向量机的变压器故障诊断方法,相对于传统的2分类支持向量机,该方法有如下特点:算法针对单一的优化目标函数求解,只需设计1组参数,降低了支持向量机在解决多类问题中模型构造和参数选择的难度;核函数是多个基核函数的组合,提高了分类的精度;将模型分解为2个凸优问题进行求解,问题的复杂度低,求解速度快。诊断实例表明,该方法能保证较高的诊断准确率,具有较好的实用性和推广性。