求解双边加权模糊支持向量机的序贯最小优化算法

高的计算复杂度限制了双边加权模糊支持向量机在实际分类问题中的应用。为了降低计算复杂度,提出了应用序贯最小优化算法(SMO)解该模型,该模型首先将整个二次规划问题分解成一系列规模为2的二次规划子问题,然后求解这些二次规划子问题。为了测试SMO算法的性能,在三个真实数据集和两个人工数据集上进行了数值实验。结果表明:与传统的内点算法相比,在不损失测试精度的情况下,SMO算法明显地降低了模型的计算复杂度,使其在实际中的应用成为可能。

基于特征加权混合隶属度的模糊孪生支持向量机

模糊孪生支持向量机(FTSVM)忽略了不同特征间的差异,导致核函数或距离的计算无法准确反映样本间的相似性,使FTSVM在处理含有大量不相关或弱相关特征的高维数据分类时,难以达到良好分类效果;且隶属度的设计未有效区分离群点或噪声。针对以上问题,提出了一种基于特征加权混合隶属度的FM-FTSVM。首先计算每个特征的信息增益,并依据信息增益值的大小为特征赋予权重,降低不相关或弱相关特征的作用,使其能更好地应用于高维数据分类;然后,为每一类样本构造一个最小包围球计算基于紧密度的特征加权隶属度,并结合基于距离的特征加权隶属度得到特征加权混合隶属度,综合考虑样本点到类中心的特征加权欧式距离和样本间的紧密程度,可更好识别离群点或噪声数据;最后,融合特征加权核函数,降低不相关特征对核函数或距离计算产生的影响。与对比算法在人工数据集、高维数据集和UCI数据集上进行比较,发现本文提出的方法在区分离群点、噪声和有效样本上有明显优势,且在高维数据集上可获得更好分类效果。

直觉模糊的结构化最小二乘孪生支持向量机

针对最小二乘孪生支持向量机(least squares twin support vector machine,LSTSVM)对噪声或是异常数据敏感和忽略数据内在结构信息的问题,提出了一种直觉模糊的结构化最小二乘孪生支持向量机(intuition fuzzy and structural least squares twin support vector machine,IF-SLSTSVM)。首先采用孤立森林对输入样本点进行预处理;然后通过直觉模糊数的概念,赋予输入样本点不同的权重以减少噪声或是异常数据对分类超平面产生的影响;最后采用K-Means算法,以协方差的形式获取输入样本点之间的结构信息。IFSLSTSVM在LS-TSVM的基础上,考虑了输入样本点在特征空间中的分布信息及输入样本点之间的关系,提高了模型的鲁棒性。实验采取UCI数据集,在0%、5%、10%以及20%的不同比例噪声环境对IF-SLSTSVM算法的有效性进行验证。结果显示相较于6种对比算法,IF-SLSTSVM算法有更好的鲁棒性。

增量式稀疏密度加权孪生支持向量回归机

密度加权孪生支持向量回归机(DWTSVR)是一种能够反映数据内在分布的回归算法,具有预测精度高和鲁棒性强等优点,然而其并不适用于训练样本以增量形式提供的场景。针对该问题,提出一种增量式稀疏密度加权孪生支持向量回归机(ISDWTSVR)。首先,辨别新增数据是否为异常样本,并赋予有效样本适当的权重,减小异常样本对模型泛化性能的影响;其次,结合矩阵降维与主成分分析思想筛选出原始核矩阵中的一组特征列向量基代替原特征,实现核矩阵列稀疏化,以获得稀疏解;接着,借助牛顿迭代法和增量学习策略对上一时刻的模型信息进行调整,实现模型的增量更新,同时结合矩阵求逆引理避免增量更新过程中直接求解逆矩阵,进一步加快训练速度;最后,在UCI基准数据集上进行仿真实验,并与现有代表性算法进行比较。实验结果表明,ISDWTSVR继承了DWTSVR的泛化性能,在大规模数据集Bike-Sharing上,新增一个样本模型更新平均CPU时间为5.13 s,较DWTSVR缩短了97.94%,有效地解决了模型必须从头开始重新训练的问题,适用于大规模数据集的在线学习。

基于模糊支持向量机的开关柜运行故障实时监测方法

常规的开关柜运行故障实时监测方法主要使用GSY20测量传感器采集故障信号,易受局部放电作用影响,导致监测的异常幅值与实际异常幅值相差较大。因此,需要基于模糊支持向量机设计一种全新的开关柜运行故障实时监测方法。利用模糊支持向量机进行了故障实时监测分类,构建了开关柜运行故障实时监测中心,从而实现了开关柜运行故障实时监测。实验结果表明,所设计的监测方法监测的异常幅值与实际异常幅值接近,监测效果较好。

基于两步特征加权的模糊支持向量机算法

提出一种基于两步特征加权的模糊支持向量机算法.首先,利用信息增益算法获取样本的特征权重.然后,计算最大权重的特征与其他特征间的斯皮尔曼相关系数,并将二者相乘后再与原有的特征权重相加,得到新的特征权重,减少弱相关和不相关特征对分类造成的影响.最后,在设计样本模糊隶属度时,不仅考虑样本与类中心的距离,还引入了样本间的亲和度,并将二者进行融合,以此减弱样本分布不均对分类精度的影响.在UCI数据集上的实验表明,与现有流行的几种模糊支持向量机算法相比,所提算法在准确率和F1值上得到了提升.

基于协同模糊支持向量机的工业机器人故障诊断研究

先进的故障诊断方法对保证工业机器人高效稳定运行具有重要作用。针对传统机器学习故障诊断的不足,利用模糊理论提高处理不确定信息的能力,构建一种协同模糊支持向量机(Synergetic Fuzzy Support Vector Machine,SFSVM)工业机器人故障诊断模型,并对其进行机制优化。在多论域空间结构下,综合处理工业机器人的不确定性信息运行状态监测数据和专家先验知识,提高了工业机器人故障诊断的适用性和鲁棒性。

一种改进的鲁棒模糊孪生支持向量机算法

针对模糊孪生支持向量机算法(FTSVM)对噪声仍然敏感,容易过拟合以及不能有效区分支持向量和离群值等问题,提出了一种改进的鲁棒模糊孪生支持向量机算法(IRFTSVM)。将改进的k近邻隶属度函数和基于类内超平面的隶属度函数结合,构造了一种新的混合隶属度函数;在FTSVM算法的目标函数中引入正则化项和额外的约束条件,实现了结构风险最小化,避免了逆矩阵运算,且非线性问题可以像经典的SVM算法一样直接从线性问题扩展而来;将铰链损失函数替换为pinball损失函数,以此降低对噪声的敏感性。此外,在UCI数据集和人工数据集上对该算法进行评估,并与SVM、TWSVM、FTSVM、PTSVM和TBSVM五个算法进行比较。实验结果表明,该算法的分类结果是令人满意的。

基于加权模糊支持向量描述的旋转机械故障分类

基于支持向量数据描述良好的分类性能,针对旋转机械故障诊断中故障样本获取的特点,提出了基于正负类样本的加权模糊支持向量数据描述多类分类器,不仅考虑了正类样本,而且也充分考虑了负类样本对分类结果的影响。利用模拟故障样本对系统进行了实验,结果表明提出的方法在系统中具有良好的分类能力。

一种模糊加权的孪生支持向量机算法

虽然孪生支持向量机(Twin Support Vector Machine,TSVM)的处理速度优于传统的支持向量机,但其并没有考虑输入样本点对最优分类超平面所产生的不同影响。通过为每个训练样本赋予不同的样本重要性,以及减少样本点对非平行超平面的影响,提出了模糊加权孪生支持向量机(Fuzzy TSVM,FTSVM)。在UCI标准数据集上,对FTSVM进行了实验研究并与TSVM、FSVM和SVM方法进行了比较,实验结果表明FTSVM方法是有效的。

面向不均衡分类的隶属度加权模糊支持向量机

针对不均衡分类问题,提出了一种基于隶属度加权的模糊支持向量机模型。使用传统支持向量机对样本进行训练,并通过样本点与所得分类超平面之间的距离构造模糊隶属度,这不仅能够消除噪点和野值点的影响,而且可以在一定程度上约减样本;利用正负类的平均隶属度和样本数量求得平衡调节因子,消除数据不平衡时造成的分类超平面的偏移现象;通过实验结果验证了该算法的可行性和有效性。实验结果表明,该算法能有效提高分类精度,特别是对不平衡数据效果更加明显,在训练速度和分类性能上比传统支持向量机和模糊支持向量机有进一步的提升。

基于模糊支持向量机的新型风电场相变储能功率分配研究

常规的新型风电场相变储能功率分配,主要采用自适应的控制规律来实现储能功率的分配,忽略了风电场的剩余功率对分配结果的影响,导致分配结果功率波动量较大。因此,提出基于模糊支持向量机的新型风电场相变储能功率分配研究,对新型风电场相变储能功率调节范围进行设定,通过概率分布曲线确定剩余功率最大值,计算分配节点能量熵,将其代入到建立的模糊支持向量机模型中,对功率分配能量熵进行优化,代入节点电路完成相变储能功率的分配。实验结果表明:所提方法应用后得出的功率分配结果,表现出的功率波动量较小,均值为1.55 MW,分配结果显著,满足了新型风电场的运行需求。

一种基于动态类中心模型选择的模糊支持向量机

模糊支持向量机的核心思想是赋予样本模糊隶属度,给每个样本以不同的权重,从而克服标准支持向量机对噪声和异常点敏感的问题.现有的模糊支持向量机算法通常以样本与类中心距离为基础,给每个样本赋予一个固定的隶属度,没有根据样本分布对隶属度做进一步修正.提出了一种新的动态方式赋予样本隶属度,利用萤火虫算法不断地更新样本中心的位置和隶属度函数,同时利用粒子群算法优化模糊支持向量机参数.在UCI数据集上的实验结果表明,该算法可以有效减少噪声和野点对超平面的影响,分类性能要优于几类常用的模糊支持向量机算法.

基于模糊加权近似支持向量机的Web文本分类

Web文本分类是数据挖掘领域的研究热点。针对Web文本数据集高维和不平衡的特点,将模糊隶属度和平衡因子引入近似支持向量机,提出模糊加权近似支持向量机。首先计算样本的平均密度,并结合样本数量求得平衡因子,克服传统加权算法仅以样本数为依据设置权值的缺陷,缓解数据不平衡造成的分类超平面偏移;再计算样本的模糊隶属度,消除噪声和奇异点造成的分类误差;近似支持向量机相比标准支持向量机具有明显的速度优势,更加适用于高维数据分类。实验表明,算法能有效提高不平衡数据的分类精度,在Web文本的训练速度和分类质量上有一定提高。

基于特征加权FDCT和模糊最小二乘支持向量机的虹膜识别算法

为了克服小波变换在二维空间分析的缺陷,提出了基于快速离散曲波(Curvelet)变换的虹膜识别改进算法。利用能有效捕捉图像边缘信息的Curvelet变换对虹膜图像进行分解,提取低频子带系数矩阵的均值方差和高频子带能量,然后根据不同子带特征的分类能力不同,对各子带特征的离散度进行加权,为分类能力较强的特征向量赋予较大权值,构成虹膜图像的特征向量。利用最优二叉树多类模糊最小二乘支持向量机分类器进行分类与识别。仿真实验结果表明,该算法具有较高的识别性能,具有可行性。

面向XRF的竞争性自适应重加权算法和粒子群优化的支持向量机定量分析研究

研究高效、准确、便捷的土壤重金属检测方法对于了解土壤的污染状况以及开展污染防治工作具有重要的意义。由于X射线荧光光谱分析(XRF)技术具备快速、准确、无损检测、样品制备简单等优势,在土壤重元素定量检测获得广泛应用。XRF仪器测试标准样品的荧光光谱并建立校准曲线,通过反演计算得到待测样品的元素含量。由于样品元素间存在基体效应,以及荧光谱特征峰存在叠加干扰,未经优化的校准曲线的线性度较差,这给反演计算来困难。为了解决上述问题,分别利用小波变换、非对称加权惩罚最小二乘法(arPLS)对光谱进行去噪和扣除本底基线,提高校准曲线的决定系数(R2);运用竞争性自适应重加权算法(CARS),针对不同目标元素优化变量选取;进一步地,基于选取的变量建立粒子群算法(PSO)优化的支持向量机回归(SVR)模型,并通过该模型反演计算各元素含量,提高定量分析的准确度和预测的泛化能力。实验结果显示,经过小波去噪和arPLS本底扣除后的校准曲线的决定系数(R2)有明显提升,Cr、Cu、Zn、As、Pb分别从0.965、0.979、0.971、0.794、0.915提高为0.979、0.987、0.981、0.828、0.953;通过CARS选取的谱线变量的个数大幅度减少,从2 048个通道降低到30个以下,为原来变量个数的1.5%,提高了变量选择的精准性;与偏最小二乘法(PLS)、未优化的SVR模型进行对比,采用CARS变量选择和PSO优化的SVR模型进行含量预测,训练集RC2与测试集RP2的决定系数分别在0.99、0.90以上,预测准确性有明显提高。因此,所提出的竞争性自适应重加权算法和PSO优化的SVR定量分析模型对于土壤重金属元素定量分析具有较好的理论指导和应用价值。

基于后验概率加权的模糊支持向量机

针对支持向量机对训练样本内的噪音和孤立点特别敏感、极大地影响了支持向量机分类性能的弱点,提出了一种基于后验概率的加权模糊支持向量机.在模糊支持向量机中引入样本后验概率加权系数后,得到的样本点的隶属度在减弱噪音及孤立点对支持向量机分类的影响的同时,不影响支持向量对分类超平面的作用.实验结果证明,在抗击孤立点和噪音点的干扰方面,该法取得了很好的效果,提高了支持向量机分类的泛化能力和应用范围.

基于模糊支持向量机的智能站继电保护设备隐性故障检测方法

针对智能站继电保护设备运行工况不稳定,误动率和拒动率较高的问题,提出了基于模糊支持向量机的智能站继电保护设备隐性故障检测方法。采用多小波变换方法处理采集的继电保护设备信号数据噪声,将处理后的信号输入模糊支持向量机网络中,计算隐性故障样本类别隶属度函数以及训练该网络,建立模糊支持向量机模型;通过组合二类分类器,分类检测继电保护设备隐性故障;利用采用布谷鸟算法优化模型的隶属度函数和惩罚函数,提升故障检测精度。测试结果显示:隐性故障检测相对误差结果均低于0.2,检测效果较好,并且应用后保护的误动率和拒动率均低于0.3%;能够可靠完成继电保护设备隐性故障运行工况下的故障类别检测。

基于Relief-F特征加权的模糊支持向量机的分类算法

传统基于样本与类中心的欧氏距离构造模糊支持向量机隶属度函数的方法将所有特征同等对待,并未考虑不同特征对样本与类中心距离的影响。针对这一问题,提出基于Relief-F特征加权的模糊支持向量机分类算法。首先通过Relief-F算法计算各特征权重并剔除权重较小的特征;然后应用特征权重计算样本到所属类中心的加权欧氏距离;最后,基于加权欧氏距离构造隶属度函数。该方法在考虑到特征重要性对分类效果影响的同时,通过权重阈值剔除权重较小的特征,从而将数据降维,提高了分类准确度和训练效率。实验结果表明:与支持向量机和传统基于距离构造隶属度的模糊支持向量机相比,基于Relief-F特征加权的模糊支持向量机具有更高的训练效率和分类准确率。

基于模糊支持向量机的赖氨酸糖化位点预测

能否准确识别糖化位点对理解糖化的分子机制有着重要意义。传统的实验方法工作量大、耗时长,因此迫切需要开发计算辅助方法来预测糖化位点。设计了一种新的模糊支持向量机算法,该算法放大了重要特征与弱相关特征间的权重之差,同时考虑了样本内部的分布情况,能够有效地处理糖化修饰位点预测中含有噪声数据的问题。基于所提出的模糊支持向量机算法结合双剖面贝叶斯(Bi-Profile Bayes,BPB)特征提取方法构建了一个新的赖氨酸糖化位点的模型——FSVM_GlySite。十折交叉验证结果表明,FSVM_GlySite的预测效果优于现有的几种糖基化位点预测器。