基于特征加权混合隶属度的模糊孪生支持向量机

模糊孪生支持向量机(FTSVM)忽略了不同特征间的差异,导致核函数或距离的计算无法准确反映样本间的相似性,使FTSVM在处理含有大量不相关或弱相关特征的高维数据分类时,难以达到良好分类效果;且隶属度的设计未有效区分离群点或噪声。针对以上问题,提出了一种基于特征加权混合隶属度的FM-FTSVM。首先计算每个特征的信息增益,并依据信息增益值的大小为特征赋予权重,降低不相关或弱相关特征的作用,使其能更好地应用于高维数据分类;然后,为每一类样本构造一个最小包围球计算基于紧密度的特征加权隶属度,并结合基于距离的特征加权隶属度得到特征加权混合隶属度,综合考虑样本点到类中心的特征加权欧式距离和样本间的紧密程度,可更好识别离群点或噪声数据;最后,融合特征加权核函数,降低不相关特征对核函数或距离计算产生的影响。与对比算法在人工数据集、高维数据集和UCI数据集上进行比较,发现本文提出的方法在区分离群点、噪声和有效样本上有明显优势,且在高维数据集上可获得更好分类效果。

基于最小二乘孪生支持向量机的不确定数据学习算法

孪生支持向量机通过计算2个二次规划问题,得到2个不平行的超平面,用于解决二分类问题。然而在实际的应用中,数据通常包含不确定信息,这将会对构建模型带来困难。对此,提出了一种用于求解带有不确定数据的最小二乘孪生支持向量机模型。首先,对于每个实例,该方法都分配一个噪声向量来构建噪声信息。其次,将噪声向量结合到最小二乘孪生支持向量机,并在训练阶段得到优化。最后,采用一个2步循环迭代的启发式框架求解得到分类器和更新噪声向量。实验表明,跟其他对比方法比较,本方法采用噪声向量对不确定信息进行建模,并将孪生支持向量机的二次规划问题转化为线性方程,具有更好的分类精度和更高的训练效率。

基于支持向量机与蛇优化算法的氧化锆陶瓷磨削工艺参数优化

为探究磨削工艺参数对氧化锆陶瓷的磨削温度和法向磨削力的影响,通过单因素实验和支持向量机方法建立磨削温度、法向磨削力的一元模型,模型决定系数均大于0.93。基于一元模型对多元模型进行假设,由正交实验结果和蛇优化算法求解得到多元模型,并对模型进行验证。以温度、法向磨削力的多元数值模型作为目标函数,对温度和法向磨削力进行优化;基于蛇优化算法对工艺参数进行双目标优化,获得磨削工艺参数的最优解,验证实验结果表明,模型具有较高的精度,得到的最优工艺参数合理。

具有间隔分布优化的最小二乘支持向量机

最小二乘支持向量机(Least Squares Support Vector Machine,LSSVM)通过求解一个线性等式方程组来提高支持向量机(Support Vector Machine,SVM)的运算速度。但是,LSSVM没有考虑间隔分布对于LSSVM模型的影响,导致其精度较低。为了增强LSSVM模型的泛化性能,提高其分类能力,提出一种具有间隔分布优化的最小二乘支持向量机(LSSVM with margin distribution optimization,MLSSVM)。首先,重新定义间隔均值和间隔方差,深入挖掘数据的间隔分布信息,增强模型的泛化性能;其次,引入权重线性损失,进一步优化了间隔均值,提升模型的分类精度;然后,分析目标函数,剔除冗余项,进一步优化间隔方差;最后,保留LSSVM的求解机制,保障模型的计算效率。实验表明,新提出的分类模型具有良好的泛化性能和运行时间。

基于参数间隔孪生支持向量机的增量学习算法

针对处理大量时间序列数据或数据流时,参数间隔孪生支持向量机(TPMSVM)分类训练速度依然较慢的问题.本文证明了样本满足TPMSVM的KKT条件所对应的数值条件,并根据结论提出一种适用于TPMSVM的增量学习算法用于处理时间序列数据.该算法选取新增数据中违背广义KKT条件和部分满足条件的原始数据,参加分类器训练.实验证明:本文提出的增量算法在保持一定分类精度的同时提高了TPMSVM的训练速度.

基于混合孪生支持向量机的径流区间预测

径流具有非线性和随机性特征,单一点预测模型难以精确刻画和描述径流演化过程。为此,提出了一种可有效量化径流波动范围的智能区间预测方法。首先采用自适应噪声完备集合经验模态分解将非线性径流序列划分为若干子序列,并采用样本熵方法重构得到修正序列;其次以孪生支持向量机为基础,分别对复杂度较高的子序列构建区间预测模型、复杂度较低的子序列建立点预测模型,同时采用鲸鱼优化方法寻求满意的模型参数组合;最后将各子模型的预测结果叠加得到最终的预测区间。结果表明:所提方法具有良好的稳健性和可靠性,在点预测、区间预测等不同场景、不同预见期的性能指标均优于对比模型;如预见期为3 d时,对于黄河流域唐乃亥水文站,所得预测区间具有较高的可靠度与清晰度,其预测区间覆盖率PICP值为98.30%,预测区间平均宽度PINAW值为0.0792,可靠度、清晰度分别平均提高了9.47%和32.66%。研究成果可为智能化径流预测提供行之有效的方法。

基于改进支持向量机的电磁信号参数优选方法

在电子对抗中构建动态博弈的电磁环境,需要根据电子对抗装备行为,以及对抗策略和历史试验数据,动态改变电磁环境构建装备的电磁行为。电磁环境构建装备的电磁行为通常是由若干组电磁信号参数来控制,选择一组最优的电磁信号参数控制其电磁行为,对于构建电磁环境至关重要。为此,提出了一种基于改进支持向量机的电磁信号参数优选方法,能够根据对抗博弈策略和历史试验数据,选择最优的电磁信号参数。首先,对反映电磁环境构建装备工作状态的电磁信号参数进行建模。其次,根据历史数据和博弈对抗策略,构建电磁信号参数数据集。然后,设计基于改进支持向量机的电磁信号参数优选模型,利用构建的数据集对模型进行训练。最后,对模型进行实验验证。实验结果表明,所提出方法的电磁信号参数优选精度优于现有典型方法。

增量式稀疏密度加权孪生支持向量回归机

密度加权孪生支持向量回归机(DWTSVR)是一种能够反映数据内在分布的回归算法,具有预测精度高和鲁棒性强等优点,然而其并不适用于训练样本以增量形式提供的场景。针对该问题,提出一种增量式稀疏密度加权孪生支持向量回归机(ISDWTSVR)。首先,辨别新增数据是否为异常样本,并赋予有效样本适当的权重,减小异常样本对模型泛化性能的影响;其次,结合矩阵降维与主成分分析思想筛选出原始核矩阵中的一组特征列向量基代替原特征,实现核矩阵列稀疏化,以获得稀疏解;接着,借助牛顿迭代法和增量学习策略对上一时刻的模型信息进行调整,实现模型的增量更新,同时结合矩阵求逆引理避免增量更新过程中直接求解逆矩阵,进一步加快训练速度;最后,在UCI基准数据集上进行仿真实验,并与现有代表性算法进行比较。实验结果表明,ISDWTSVR继承了DWTSVR的泛化性能,在大规模数据集Bike-Sharing上,新增一个样本模型更新平均CPU时间为5.13 s,较DWTSVR缩短了97.94%,有效地解决了模型必须从头开始重新训练的问题,适用于大规模数据集的在线学习。

近邻密度辅助模糊优化孪生支持向量机的钢板表面缺陷分类

为提升钢板表面缺陷分类精度,提出一种选择性弱化样本的分类模型。首先,在图像预处理阶段引入显著性检测算法来减少二值化后图像出现失真的影响;其次,为了降低不利的边缘样本点对模型的影响,同时又能提高有利的边缘样本点对模型的贡献,构造了一种新的密度模糊隶属度函数对样本进行权重赋值;最后,在孪生支持向量机(TWSVM)的基础上,将构造的密度模糊隶属度函数作为优化条件嵌入模型内,提出了近邻密度辅助模糊优化的TWSVM算法,以提高分类效果。在数据集NEU上的实验结果表明,引入显著性检测算法后,重新设计的特征在整体准确率上提高了1.66%,同时采用优化后的算法进行缺陷分类,准确率达到98.33%,进一步提高了分类性能。

基于改进支持向量机的致密砂岩储层参数预测研究

致密砂岩储层的评价技术既是油气勘探开发的重点,也是难点。目前对致密砂岩储层的储层参数的预测与评价,依然采用传统的储层参数预测方法,结合测井曲线进行建模,用以对渗透率、孔隙度等参数进行拟合,主要运用的方法有经验公式、回归分析等,其中大部分方法都是基于线性的,无法反映致密储层特有的沉积和成岩作用所导致的非均质性强的特点,无法揭示致密储层中测井曲线与储层参数之间的复杂非线性关系。针对此问题,提出在传统储层参数预测模型的基础上,对测井曲线与储层参数的非线性关系进行分析,挖掘更多现有测井信息,进行支持向量机储层参数预测模型的建构,并采用粒子群算法、头脑风暴算法、布谷鸟算法等三种支持向量机的改进优化算法对模型参数进行测试,筛选出最优的储层参数预测模型。将该模型应用于研究区储层参数预测评价中,有效提高了预测评价精度,为致密储层精细预测评价和非常规油气田的高效开发提供了有力的技术保障。

基于支持向量机回归算法的盾构下穿市政管线参数优化研究

随着盾构法施工在我国城市地铁隧道建设的广泛应用,盾构施工将面临越来越复杂的施工场景,尤其是在城市生活区的施工中,将不可避免地穿越各类复杂的市政管线。以合肥某地铁盾构工程下穿市政管线为背景,通过建立数值模型,构建了基于支持向量机回归(SVMR)算法的机器学习模型,并通过优化算法反向求解得到了符合施工要求的盾构参数优化方案。研究结果表明,方法的有效性通过了数值模拟试验和工程实践的验证,能够基于已有的少量盾构参数,针对关键掘进参数如推力、刀盘转速等进行优化,并提出最优组合方案,以确保施工的安全与高效,可为类似工程提供参考。

孪生支持向量回归机研究进展

孪生支持向量回归机(Twin Support Vector Regression,TSVR or TWSVR)是一种基于统计学习理论的回归算法,它以结构风险最小化原理为理论基础,通过适当地选择函数子集及该子集中的判别函数,使学习机的实际风险达到最小,保证了在有限训练样本上得到的小误差分类器对独立测试集的测试误差仍然较小.孪生支持向量回归机通过将线性不可分样本映射到高维特征空间,使得映射后的样本在该高维特征空间内线性可分,保证了其具有较好的泛化性能.孪生支持向量回归机的算法思想基于孪生支持向量机(Twin Support Vector Machine,TWSVM),几何意义是使所有样本点尽可能地处于两条回归超平面的上(下)不敏感边界之间,最终的回归结果由两个超平面的回归值取平均得到.孪生支持向量回归机需求解两个规模较小的二次规划问题(Quadratic Programming Problems,QPPs)便可得到两条具有较小拟合误差的回归超平面,训练时间和拟合精度都高于传统的支持向量回归机(Support Vector Regression,SVR),且其QPPs的对偶问题存在全局最优解,避免了容易陷入局部最优的问题,故孪生支持向量回归机已成为机器学习的热门领域之一.但孪生支持向量回归机作为机器学习领域的一个较新的理论,其数学模型与算法思想都尚不成熟,在泛化性能、求解速度、矩阵稀疏性、参数选取、对偶问题等方面仍存在进一步改进的空间.本文首先给出了两种孪生支持向量回归机的数学模型与几何意义,然后将孪生支持向量回归机的几个常见的改进策略归纳如下.(1)加权孪生支持向量回归机由于孪生支持向量回归机中每个训练样本受到的惩罚是相同的,但每个样本对超平面的影响不同,尤其是噪声和离群值会使算法性能降低,并且在不同位置的训练样本应给予不同的处罚更为合理,因此考虑在孪生支持向量回归机的每个QPP中引入一个加权系数,给予不同位置的训练样本不同程度的惩罚.(2)拉格朗日孪生支持向量回归机由于孪生支持向量回归机的对偶问题中半正定矩阵的逆矩阵可能不存在,若存在,则对偶问题不是严格凸函数,可能存在多个解,因此考虑使用松弛变量的2范数代替原有的1范数,使对偶问题更简单,易于求解.(3)最小二乘孪生支持向量回归机由于孪生支持向量回归机的求解需要在对偶空间进行,得到的解为近似解,考虑通过最小二乘法将原问题的不等式约束转化为等式约束,使得原问题可以在原空间内求解,在很大程度上降低计算时间,提高泛化性能,且不损失精度.(4)v-孪生支持向量回归机通过引入一组参数v1与v2自动调节ε1与ε2的值以控制训练样本的特定部分对两条回归超平面所能造成的最大误差,从而自适应给定数据的结构,提高孪生支持向量回归机的拟合精度.(5)ε-孪生支持向量回归机在孪生支持向量回归机的原问题中引入正则化项以达到结构风险最小化的目的,使对偶问题转化为稳定的正定二次规划问题,并通过SOR求解对偶问题,加快训练速度.(6)孪生参数不敏感支持向量回归机克服参数的选取对孪生支持向量回归机超平面构造的影响,使算法非常适合于存在异方差噪声数据的数据集,训练速度和泛化性能也有提升.本文同时对以上算法的数学模型、改进算法及应用进行了系统地分析与总结,给出了以上算法在9个UCI基准数据集上的回归性能与计算时间,并在模型结构层面逐一分析每个算法的表现与耗时的根本原因.对于其他不便于归类的孪生支持向量回归机改进算法及应用,本文也对其作逐一总结.整体来看,最小二乘孪生支持向量回归机在性能和计算时间方面表现最佳,拉格朗日孪生支持向量回归机、v-孪生支持向量回归机的性能并列次优且计算时间接近,加权孪生支持向量回归机、ε-孪生支持向量回归机和孪生参数不敏感支持向量回归机的性能不理想,但计算时间接近.本文旨在使读者对孪生支持向量回归机的不同改进算法之间的异同点与优缺点产生更深刻的理解与认识,从而将更多优秀的改进策略应用于孪生支持向量回归机,最终为进一步提高孪生支持向量回归机的性能以及扩展孪生支持向量回归机的应用范围提供较为清晰的思路.

基于PSO优化孪生支持向量机的自然语言处理

为了进一步提高孪生支持向量机(Twin support vector machine,TWSVM)的自然语言文本分类准确度,提出了一种改进的粒子群优化(Particle swarm optimization,PSO)算法,并采用改进的PSO算法对TWSVM核心参数进行优化。根据迭代次数来选择自适应权重从而对传统PSO算法进行改进,以防止收敛速度过快而错过全局最优解。采用Word2Vec对自然语言样本进行向量化处理,并通过PSO算法对TWSVM惩罚因子进行优化求解,解决因为惩罚因子设置不合理而造成自然语言文本分类准确率不高的问题。试验证明,通过合理设置PSO算法的速度权重初始值和稳定值,结合自适应递减权重策略,能够获得较高的惩罚因子优化性能,从而提高TWSVM的分类准确率,相比于常见自然语言文本分类算法,PSO-TWSVM的分类准确率更高,均方根误差值更低,在自然语言文本分类中的适用度高。

基于聚类分析和支持向量机的非等间隔应力谱编制方法

为保证根据实测应力-时间历程数据编制的应力谱最大程度反映载荷实际作用特性,提出了一种基于疲劳损伤的非等间隔应力谱编制方法。通过引入非等间隔自适应比值系数,根据损伤等效原则,建立应力谱分级数与疲劳损伤关系数学模型;考虑每个应力循环的属性特征,采用聚类分析对所有应力循环进行分类,结合支持向量机多分类进行判别,得到不同分级数下的准确率和预测图;综合考虑数学模型得到的损伤相对误差和支持向量机分类准确率,选取应力谱最佳分级数,编制了相应的非等间隔应力谱,并与目前常用的等间隔和非等间隔8级谱进行比较。分析结果表明:基于损伤等效原则,采用聚类分析和支持向量机进行应力谱分级,不仅考虑了所有应力循环的整体特征,很大程度保留了应力的局部信息和属性,且根据疲劳累积损伤理论得到的损伤与实际损伤结果差异明显降低,从而更能准确反映实测数据的应力特性和疲劳效应,可为其他实测载荷-时间历程数据进行非等间隔分级和载荷谱编制提供参考。

基于改进支持向量机的超声参数与受载混凝土应力状态研究

在研究支持向量机模拟受载混凝土5个超声参数(波速、首波幅值、主频幅值、非线性系数和超声波谱面积)与应力的关系时,为提高其运算效率和寻优结果。通过数值模拟,对比了不同的归一化方式和核函数对寻找超声参数与应力相关性效果的影响;并采用试验探究了经验参数、遍历算法优化参数和粒子群算法优化参数三种支持向量机的模拟效果。结果表明:提出的首项归一化方式更适用于超声参数与应力这一特殊问题,核函数选择径向基核函数效果更优;不同的支持向量机模拟效果差异明显。简单支持向量机模拟效果较差,在低应力阶段尤为明显;遍历算法优化的模型得到的结果效果较好,但是计算时间过长,在低应力阶段判断误差较大,预测的结果高于真实值;粒子群算法优化支持向量机相比于遍历算法大幅减少了计算时间,模拟的结果效果也最好。

线性判别分析优化孪生支持向量机的网络入侵检测

为了提高大规模网络数据入侵类型实时检测的准确率,采用线性判别分析(LDA)对网络样本特征进行降维处理,降低孪生支持向量机(TWSVM)的运算复杂度,增强TWSVM的网络入侵检测适用度;首先,采用LDA基于类内和类间散度计算获得网络入侵检测样本的降维特征变量;然后,建立LDA-TWSVM网络入侵检测算法,分别求解TWSVM一次规划和二次规划的核心参数;最后,输入降维特征变量,通过TWSVM输出获得网络入侵检测结果。结果表明:LDA网络样本特征降维对网络入侵检测的正向激励效果较为显著,使得所提出的算法在网络入侵检测中具有较高的适应度;相比于几种常用入侵检测算法,所提出的算法具有更高的检出率(0.9943)和更优的均方根误差(1.1328)。

基于支持向量机参数优化的高温合金表面缺陷磁异常定量研究

研究基于支持向量机参数优化的高温合金表面缺陷磁异常定量方法,对解决涡轮盘表面裂纹检测的工程问题具有重要意义。以弱磁检测得到的16个预置表面缺陷磁异常特征值构成样本库,建立支持向量机预测模型对缺陷尺寸进行反演定量,通过已知缺陷试件验证参数优化和支持向量机模型的有效性。研究结果表明,参数优化后长度、宽度、深度的预测结果比默认参数的预测结果都有提高,尤其是长度和深度的反演效果有显著提高,且遗传算法比交叉验证法的预测精度更高;当缺陷与母材的磁导率差异较大时(如高温合金表面的铁磁性夹杂),磁异常特征值幅值偏大,对特征值幅值和面积减半后进行反演,得到的结果准确度提高了20%以上;遗传算法参数优化的支持向量机模型对样本库之外的数据仍表现出较好的预测能力,预测准确度接近85%。

群智能算法在月径流预测支持向量机建模中的适应性研究

变化环境下,径流的精准预测愈加困难,集成稳健的优化算法是近年来机器学习发展的动力,也是提高径流预测精度的有效途径。为规避支持向量机(SVM)建模时适应度函数选取的不足,提出基于群智能算法的SVM参数优化范式,并以新疆克孜尔水库月平均径流量预测为例,对粒子群算法(PSO)、差分算法(DE)、灰狼算法(GWO)、鲸鱼算法(WOA)和麻雀算法(SSA)5个典型算法进行仿真验证。结果表明,PSO建立SVM模型合格率(QR)小于60%,预测精度不达标,其余4类算法的平均绝对相对误差和纳什系数分别介于10%~20%和0.75~1之间,预测效果良好;20次独立运算结果中,PSO、WOA、SSA和DE存在预测结果较差的情况,其中PSO的稳定性最差。综合而言,GWO优化的SVM(SVMGWO)在月径流预测中精度、稳定性和可靠性更佳。

改进鲸鱼算法优化支持向量机实现乳腺癌预测

为了更好地通过人体肥胖的相关指数预测乳腺癌的存在,以抵抗素、葡萄糖、年龄和身体质量指数作为数据特征构造预测模型,通过研究支持向量机(SVM)的参数对模型的性能影响,提出一种基于自适应机制策略改进的鲸鱼算法,即参数自适应鲸鱼优化算法(PAWOA)用来寻找最优参数。采用Tent映射对种群位置初始化,引入自适应参数p^(*)代替随机阈值加速收敛速度,针对给定的目标函数对每个搜索个体进行求解,计算适应度后找到全局最优解,增强种群的全局寻优性能。实验结果表明,优化后的模型精确度提升12.44%,召回率提升13.57%,F_(1)评分提升13.14%。可见,该预测模型拥有更好的效果可以用于辅助判断乳腺癌。

基于主成分分析-支持向量机的电脱盐工艺预测方法研究

原油电脱盐工艺水平直接影响常减压装置腐蚀状态和工艺催化剂活性。综合考虑电脱盐工艺参数,选择脱盐前盐质量浓度、含水量及电场强度等40个工艺参数共440组工况数据,进行电脱盐效果评价研究。根据脱后盐含量数据箱型图特征,将电脱盐效果等级分为3级,采用主成分分析法,提取原始数据累积贡献率90.91%以上的前3个主成分,与电脱盐等级建立数据集,最后通过支持向量机建立电脱盐等级评价模型。结果表明:该方法对指导电脱盐工艺优化具有较好的工程适用性。