基于特征加权混合隶属度的模糊孪生支持向量机

模糊孪生支持向量机(FTSVM)忽略了不同特征间的差异,导致核函数或距离的计算无法准确反映样本间的相似性,使FTSVM在处理含有大量不相关或弱相关特征的高维数据分类时,难以达到良好分类效果;且隶属度的设计未有效区分离群点或噪声。针对以上问题,提出了一种基于特征加权混合隶属度的FM-FTSVM。首先计算每个特征的信息增益,并依据信息增益值的大小为特征赋予权重,降低不相关或弱相关特征的作用,使其能更好地应用于高维数据分类;然后,为每一类样本构造一个最小包围球计算基于紧密度的特征加权隶属度,并结合基于距离的特征加权隶属度得到特征加权混合隶属度,综合考虑样本点到类中心的特征加权欧式距离和样本间的紧密程度,可更好识别离群点或噪声数据;最后,融合特征加权核函数,降低不相关特征对核函数或距离计算产生的影响。与对比算法在人工数据集、高维数据集和UCI数据集上进行比较,发现本文提出的方法在区分离群点、噪声和有效样本上有明显优势,且在高维数据集上可获得更好分类效果。

回归型模糊最小二乘支持向量机

为了克服最小二乘支持向量机对于孤立点过分敏感的问题,将模糊隶属度概念引入最小二乘支持向量机中,提出了基于支持向量域描述的模糊最小二乘支持向量回归机.该方法先对样本进行数据域描述得到一个包含该组数据的最小半径的超球,再根据特征空间中样本与超球球心的距离确定它们的隶属度,减少了奇异点(噪声)的影响;把所要求解的约束凸二次优化问题转化为正定线性方程组,并采用快速Cholesky分解的方法求解该方程组.实验结果表明该方法在不牺牲训练速度的前提下,比支持向量机和最小二乘支持向量机具有更高的预测精度.

基于数据域描述的模糊支持向量回归

针对支持向量机中由于噪声和孤立点带来的过拟合问题,提出了一种基于支持向量数据域描述的模糊隶属度函数模型,根据样本到特征空间最小包含超球球心的距离来确定其模糊隶属度.将提出的隶属度模型用于模糊支持向量回归中,二维数据集仿真以及工业PTA氧化过程中 4 CBA浓度预测的实例表明,提出的模型可以有效减小回归误差,提高支持向量机抗噪声的能力.*

基于模糊支持向量机的数据域描述

受模糊支持向量机的启发,本文系统论述了带有模糊隶属度的数据域描述方法,称为模糊支持向量域描述。适用于数据集中的数据不完全肯定来自于假设总体的情形,不同的数据对数据集的域描述可以有不同的贡献。

基于不平衡数据分类的一种平衡模糊支持向量机

鉴于不平衡数据集中类不平衡比较大的分类问题,利用样本点的特性建立类不平衡调节因子和模糊隶属度,提出了平衡模糊支持向量机。首先计算样本协方差矩阵,求得类不平衡调节因子,然后计算各样本点的模糊隶属度,得到各样本对分类超平面的贡献率。类平衡调节因子和模糊隶属度同时对分类器的误差项产生影响。结果表明,这种平衡模糊支持向量机对类不平衡比较大的分类问题具有很好的分类效果。

基于模糊核聚类的图像SVM分类辨识

提出一种结合特征场和模糊核聚类支持向量机的图像分类辨识方法。首先,构造符合人类视觉特性的图像彩色和纹理特征数据场,一方面,引入新阈值,建立图像纹理特征;另一方面,在图像彩色特征上,对能够引起注意的像素区域的像素点进行加权处理,并使用彩色空间分布离散度来描述彩色的空间分布。其次,采用模糊核聚类支持向量机对图像进行分类研究。在使用特征空间时,不仅考虑了样本与类中心间的关系,还考虑了类中各个样本间的关系,以模糊连接度来度量类中各个样本间的关系,并以二叉树方式构造子分类器。实验结果表明,该方法可以获得较好的图像分类效果。

基于改进SVM的车辆传动系统故障诊断方法

利用车辆传动系统试验数据对车辆进行故障诊断和性能评价可以实现车辆故障预警,提高可靠性,从而提高车辆性能,但测试数据有数据量大、不平衡、维度高、噪声多的特征,使得传统数据分析算法会产生次优的分类模型.针对上述问题,提出了一种改进的不平衡数据分类支持向量机算法.该算法赋予各样本不同的权值,用马氏距离改进模糊隶属度的设计以排除变量相关性干扰,同时可以输出正常状态下的故障概率.实验结果表明,该算法能够有效提高故障诊断的准确性,概率输出模型可用于故障预警和性能分析.

基于核主分量分析和支持矢量数据描述的雷达目标模糊识别方法

针对雷达目标高分辨距离像(HRRP)存在大量的信息冗余,易受到噪声的污染,可分性较差等问题,本文利用核方法解决非线性问题的优点,提出了基于核主分量分析(KPCA)的雷达目标HRRP特征提取与基于支持矢量数据描述(sVDD)的雷达多目标模糊识别方法。在特征提取过程中,利用KPCA对雷达目标HRRP做降噪与降维处理,使得HRRP降低噪声和姿态角的敏感性;在识别过程中,首先在特征空间求得包含每一类目标训练样本的最小超球体,然后根据各个测试样本到最小超球体球面的距离构造属于各个类别的模糊隶属度,根据模糊隶属度的大小判断测试样本所属的类别。仿真实验结果表明,本文提出的算法应用于雷达多目标识别时,具有较高的正确识别率;同时基于SVDD多目标模糊识别算法训练过程只需对每一类目标进行训练,因此具有计算量小,稳健性能优等优点。所以本文提出的KPCA特征提取与SVDD雷达多目标模糊识别方法有很强的实用性。

一种新的支持矢量数据描述模糊识别方法

支持矢量机(SVM)是一种两类分类器,而支持矢量数据描述(SVDD)是一种单类数据分类方法,通过在特征空间寻找包含某类样本的最小超球体来对样本分类,该方法只需已知某类数据即可构造分类器。但是在SVDD方法中,直接根据超球体构造的分类器对样本数据正确识别能力不高。针对这个问题,根据样本在特征空间中到各个超球体球心的距离构造了样本属于各个类别的模糊隶属度函数,提出了FSVDD多目标识别方法。在FSVDD的训练过程中采用了乘性迭代规则的快速优化算法,该快速算法降低了优化的复杂度和缩短了优化时间。在针对不同类型数据集的识别实验中,证明了提出的FSVDD多目标识别算法具有训练速度快、识别率高的优点,有很强的实用性。

基于数据域描述的模糊临近支持向量机算法

针对传统支持向量机由于样本中存在孤立点或噪声而导致的过学习问题,通过分析模糊支持向量机和临近支持向量机的特点,借鉴它们的优点:模糊隶属度和临近超平面,提出了一种数据处理方法。该方法考虑了样本点到类中心的距离与样本对分类的贡献率的关系。这种改进使分类更为清晰和准确。结果表明:采用新的模糊隶属度模糊临近支持向量机算法有较高的识别率,但也耗费了较多的训练时间。

一种改进的模糊多类支持向量机算法

支持向量机是基于统计学习理论的新一代机器学习技术;由于使用结构风险最小化原则代替经验风险最小化原则,使它较好地解决了小样本情况下的学习问题;针对目前模糊支持向量机方法中,一般使用样本与类中心之间的距离关系构建隶属度函数的不足,以统计学习理论和支持向量机为基础,提出了一种改进的模糊多类支持向量机方法,它是在全局优化分类的基础上,引入模糊隶属函数,然后利用改进的序列最小最优化算法求解模糊多类支持向量机,实验结果显示运行时间减少了,方法是可行的和有效的。

基于流形模糊双支持向量机的恒星光谱分类方法

支持向量机(support vector machine,SVM)具有良好的学习性能和泛化能力,因而被广泛应用于恒星光谱分类中。然而实际应用面临的数据规模往往很大,SVM便暴露出计算量大、分类速度慢等问题。为了解决上述问题,Jayadeva等提出双支持向量机(twin support vector machine,TWSVM),将计算时间减少至SVM的1/4。然后上述方法仅关注数据的全局特征,对每类数据的局部特征并未关注。鉴于此,提出基于流形模糊双支持向量机(manifold fuzzy twin support vector machine,MF-TSVM)的恒星光谱分类方法。利用流形判别分析获得数据的全局特征和局部特征,模糊隶属度函数的引入将各类数据区别对待,尽可能减少噪声点和奇异点对分类结果的影响。与C-SVM,KNN等传统分类方法在SDSS恒星光谱数据集上的比较实验表明了该方法的有效性。

基于模糊机会约束SVDD的故障诊断方法

针对使用不确定性数据进行多故障模式诊断问题,以模糊事件的可能性测度为基础,提出一种基于模糊机会约束支持向量数据描述的诊断方法。为有效地求解故障分类模型,提出模糊机会约束规划的对偶规划,根据贯序最小算法(sequential minimal optimization,SMO)思想提出快速训练算法,利用支持向量数据描述使用一类数据求解分类面的优势,构建多类分类器。数值试验表明,本方法可以有效处理基于不确定数据的故障诊断问题,在故障类别较多的情况,速度有较大提高,具有一定实践意义。

面向大规模数据的模糊支持向量数据描述

针对支持向量数据描述面临的噪声数据敏感问题和大规模数据分类问题,提出面向大规模数据的模糊支持向量数据描述。该方法引入模糊理论和核心向量机,不仅在构造最小超球体时忽略对分类结果影响较小的数据,而且将支持向量数据描述的适用范围从中小规模数据扩展到大规模数据。人工数据集和标准数据集上的实验表明新算法的有效性。

基于模糊加权近似支持向量机的Web文本分类

Web文本分类是数据挖掘领域的研究热点。针对Web文本数据集高维和不平衡的特点,将模糊隶属度和平衡因子引入近似支持向量机,提出模糊加权近似支持向量机。首先计算样本的平均密度,并结合样本数量求得平衡因子,克服传统加权算法仅以样本数为依据设置权值的缺陷,缓解数据不平衡造成的分类超平面偏移;再计算样本的模糊隶属度,消除噪声和奇异点造成的分类误差;近似支持向量机相比标准支持向量机具有明显的速度优势,更加适用于高维数据分类。实验表明,算法能有效提高不平衡数据的分类精度,在Web文本的训练速度和分类质量上有一定提高。

广义最大间隔球形支持向量机

针对多类分类问题,提出一种超球支持向量机算法——广义最大间隔球形支持向量机,该算法利用两同心超球将正负类样本分隔开来,最大化两超球半径的差异,从而挖掘正负类样本的鉴别信息,同时对超球类支持向量机算法判决规则进行改进,引入模糊隶属度补充判决,弥补二类分类器投票决策的缺陷。理论分析了算法的相关性质,通过仿真实验验证了该算法的有效性。

乳腺癌患者特征基因优化识别仿真

乳腺癌基因识别技术可以筛选出基因芯片中与乳腺癌相关的特异基因,为乳腺癌的早期的诊断提供参考。传统的分类方法难以解决基因谱数据高维、高噪、数据量庞大的问题。提出基于模糊支持向量机(FSVM)技术的乳腺癌基因识别,通过对乳腺癌患者的特征基因进行提取,剔除与病变无关的基因、删除突变基因中的冗余信息、构造KNN几何平均隶属度函数的模糊支持向量机,并嵌入新的内核函数L-KMOD,对不同的样本点赋予不同的惩罚参数,克服样本数据少维数高的影响,提高了乳腺癌基因辨识的正确率。选用美国国立生物信息中心共享数据库下载的乳腺癌基因芯片进行识别试验,结果的平均错分率为3. 89%,最高正确率达到了98. 9%,训练时间和识别时间均在合理范围内。

改进的模糊多类支持向量机算法在瓦斯预警中的应用

煤与瓦斯危险性的准确预测一直是矿山安全领域的关键技术难题和重大研究课题。支持向量机是在瓦斯预警中广泛使用的一种技术,以统计学习理论和支持向量机为基础,通过研究基于模糊支持向量机的多类分类方法,对原算法进行改进,采用模糊多类支持向量机,并构造模糊隶属函数,同时使用序列最小最优化算法进行求解,以期提高算法的精度和速度。

一种Vague集的模糊支持向量数据描述

针对支持向量数据描述中噪声和孤立点带来的过拟合问题,提出了一种Vague集的支持向量数据描述(VFSVDD),利用模糊k-均值聚类方法生成每个训练样本的真、假隶属度,可以精细地控制训练样本对超球面边界的影响。用UCI机器学习数据集的数据实验验证了VFSVDD的有效性。

用于不平衡数据分类的模糊支持向量机算法

作为一种有效的机器学习技术,支持向量机已经被成功地应用于各个领域.然而当数据不平衡时,支持向量机会产生次优的分类模型;另一方面,支持向量机算法对数据集中的噪声点和野点非常敏感.为了克服以上不足,提出了一种新的用于不平衡数据分类的模糊支持向量机算法.该算法在设计样本的模糊隶属度函数时,不仅考虑训练样本到其类中心距离,而且考虑样本周围的紧密度.实验结果表明,所提模糊支持向量机算法可以有效地处理不平衡和噪声问题.