在雷达HRRP识别中多特征融合多类分类器设计

在传统线性关联向量机的基础上,设计了一种多特征融合的多类分类器.该分类器基于多类Probit回归模型将传统的两类线性关联向量机推广为多类关联向量机,利用线性关联向量机的特征选择功能,对融合的高维特征向量进行降维和合理的幂次扩展,使线性关联向量机具有构造非线性分类界面的能力,以保证对非线性多类分类问题稳健的融合识别性能.针对雷达高分辨距离像目标识别问题,提取3种平移不变特征,使用提出的多特征融合的多类分类器在基于实测数据的识别实验中得到了稳健的融合识别结果.

一种基于支持向量机决策树多类分类器

提出一种基于支持向量机决策树的多类分类器SVMDT(Support Vector Machines based Decision Tree)。训练时,SVMDT采用样本类间最小距离原则进行决策树分叉,综合考虑局部类簇,生成一棵平衡的分类二叉树。分类时,SVMDT采用最大距离原则匹配决策。SVMDT训练时采用的距离为等效距离,综合考虑特征空间中样本类的中心距离以及样本类自身的分布特点,使得训练过程中确定各个SVM的优先级别更加合理,由此生成的决策树将特征空间严格划分开,避免了拒识区域的出现。UCI样本数据集实验结果表明,和传统的1对多SVM分类器相比,SVMDT具有训练速度快、分类速度快,分类精度高的特点。

基于SVM多类分类器的字符识别

针对字符识别相似字符识别能力差,速度慢等问题,提出基于支持向量机的识别方法。首先提取预处理后的字符特征,然后进行降维处理,再设计多类分类器并进行训练,最后选取合适的核函数进行识别。实验表明,该方法识别率高达97.65%,且具有适应性强和效率高的特点,具有较高的实用价值。

基于SVM的粉末冶金零件的多类分类器的研究

传统的SVM特别适合解决两类分类问题,而对于多类分类,则需将其转化为多个两类分类问题,相应地需要构造多个两类子分类器,这样不但使得分类器结构复杂,而且分类速度受到很大的影响。为了快速地进行多类分类,本文使用LIBSVM中的svmtrain实现对训练数据集的训练,从而获取SVM多分类模型,利用获取的模型进行测试与预测,不仅使得子分类器数目大大减少,而且使分类速度明显提高。最后从粉末冶金零件图库中选取的8张图像进行了分类实验,取得较好的分类结果。

类依赖的相关性多类分类器

典型相关分析(CCA)是利用样本的相关性进行特征提取的一种重要的降维方法,而相关性判别分析(CDA)则是在特征空间中最大化同类样本对间的相关性,同时最小化不同类样本对间的相关性,可看作类依赖的典型相关分析。这两种方法的特征提取与其后的分类器是两个相互独立的过程,如此不可避免地会影响分类器的性能。借助正则单纯形的顶点等距并具有仿射不变性的特性,将其作为类标号编码,把样本中包含的类信息结合到分类器设计中,最大化各个样本与其类标号的相关性,同时最小化样本与其余类标号之间的相关性,得到类依赖的相关性多类分类器(CCMC)。进一步通过与经验核相结合,获得了具有更强分类性能的核化版非线性分类器EK-CCMC。人工数据集和部分UCI数据集上的实验结果表明,利用类依赖的相关性直接设计分类器可以提高分类性能。

基于条件对数似然的BP神经网络多类分类器

BP神经网络分类器存在收敛速度慢的缺陷,为了提高分类器性能,针对这一缺陷对BP算法进行改进.提出将条件对数似然(CLL)准则融入到监督性BP神经网络多类型分类过程中,利用CLL的可分解性优势,计算测试样本的条件概率,在误差反向传播时利用条件概率对权值进行相应的加权降权操作,简化误差反馈过程中的计算量.在实验中对改进算法的收敛速度和准确率进行了测试,说明了该算法的有效性及实用性.

基于弱分类器调整的多分类Adaboost算法

Adaboost.M1算法要求每个弱分类器的正确率大于1/2,但在多分类问题中寻找这样的弱分类器较为困难。有学者提出了多类指数损失函数的逐步添加模型(SAMME),把弱分类器的正确率要求降低到大于1/k(k为类别数),降低了寻找弱分类器的难度。由于SAMME算法无法保证弱分类器的有效性,从而并不能保证最终强分类器正确率的提升。为此,该文通过图示法及数学方法分析了多分类Adaboost算法的原理,进而提出一种新的既可以降低弱分类器的要求,又可以确保弱分类器有效性的多分类方法。在UCI数据集上的对比实验表明,该文提出的算法的结果要好于SAMME算法,并达到了不弱于Adaboost.M1算法的效果。

一种代价敏感的三类分类器评估方法的研究与应用

以代价敏感的二类分类器性能评估方法ROCCH为理论基础,采用"一对多"思想,提出基于MBNC平台的三类分类器性能评估方法 F-ROCCH,通过实验证明了该方法的可行性和健壮性,比AUC方法更具可区分性,表达直观,容易理解.

分类器评估方法A-ROCCH的研究与实现

以ROCCH为理论基础,根据多类转二类思想,采用ECOC完全编码,提出了一种代价敏感的三类分类器性能评估方法 A-ROCCH。在MBNC平台上对该方法进行了实现,与基于ECOC的AUC评估方法的实验数据作比较,证明了AROCCH方法的有效性、敏感性和健壮性。

基于线性迭代的分类器最小扰动评估方法

当数据集包含对抗性扰动样本时,其分类结构缺乏稳定性,传统的扰动评估方法效率低且准确率不高.针对该问题,提出一种高效准确的扰动评估方法.首先,根据样本与分类器间的物理属性,定义样本的对抗性扰动,利用线性迭代方法评估计算二类分类器的鲁棒性;然后,为了适应更加一般的情况,将该方法扩展到更加普遍的多类非线性分类器,即超平面包围的区域变为不规则多面体;最后,标记扰动样本对分类器进行优化调整,并对当前估计进行更新,以进一步提高分类器性能.不同数据集和分类器的实验结果表明:与FGSM方法、 L-BFGS方法和未标记方法相比,提出的方法具有更稳定高效的扰动评估性能,且可以构建鲁棒性更高的分类器.

多类支持向量域分类器及其在入侵检测中的应用

在对网络连接数据进行分析和研究的基础上,针对传统多类支持向量机分类法分类精度较低的现象,提出了一种新的MSVDC的入侵检测方法,将SVDC在两类问题的应用推广到多类问题中.在KDDCUP1999数据集上的实验结果表明,其相对于传统的多类支持向量机方法,在保证较低的误报率的情况下,有较高的分类精度和较好的检测效果.

基于RS与LS-SVM多分类法的故障诊断方法及其应用

针对密闭鼓风炉熔炼过程工艺复杂、工况变化较大的特点,提出应用粗糙集(RS)和最小二乘支持向量机(LS-SVM)进行鼓风炉故障诊断的方法。该方法首先利用RS对炉子的故障样本进行知识约简,获得各故障类型的征兆最小条件属性作为特征向量,然后,输入到由多个最小二乘支持向量机构成的多故障分类器中进行故障识别和分类。研究结果表明:该方法具有较强的泛化能力,诊断准确率达到90%以上。

多类SVM分类算法的研究

支持向量机(Support Vector Machine,SVM)是上世纪九十年代提出的一种基于小样本的新的统计学习方法,较好地解决了非线性、高维数、局部极小点等实际问题.文中分析了SVM基础理论并总结了目前存在的基于支持向量机的主要分类方法,包括"一对多"方法、"一对一"方法、决策有向无环图方法、基于二叉树的多类分类方法和其它方法,并对各自的优缺点及性能做了比较.

支持向量机多类分类方法的精度分析

为了更好的选择合适的支持向量机多类分类器,对多类分类器one-against-the-rest及二叉树多类分类器的分类精度进行了理论分析,给出了定量的分类精度公式。公式表明,二叉树多类分类器的分类精度通常大于one-against-the-rest多类分类器的分类精度。在所有的二叉树多类分类器中,均衡二叉树多类分类器的分类精度最高,最不均衡二叉树多类分类器的分类精度最低。最后通过实验验证了理论分析的正确性。

一种最大分类间隔SVDD的多类文本分类算法

文本分类是信息检索和文本挖掘的关键技术之一。提出了一种基于支持向量数据描述(SVDD)的多类文本分类算法,用支持向量描述训练求得包围各类样本的最小超球体,并使得分类间隔最大化,在测试阶段,引入基于核空间k-近邻平均距离的判别准则,判断样本所属类别。实验结果表明,该方法具有很好的泛化能力和很好的时间性能。

一种多类支持向量机概率建模新方法

在支持向量机多类分类问题输出概率建模中,提出了一种直接求解后验概率的概率建模新方法。在对多个两类支持向量机分类器的输出概率进行组合时,该方法充分考虑了各个两类支持向量机分类器的差异,并以后验概率作为各个两类支持向量机分类器的权系数。仿真图像的实验结果表明,该文提出的直接求解后验概率方法与投票法及PairwiseCoupling方法相比,不仅具有较好的分类性能,而且得到的后验概率具有较好的概率分布形态。

基于SVM决策树的文本分类器

研究了SVM决策树分类器在文本分类中的应用,提出了一种有效的SVM决策树分类器的优化构建方法。该方法利用类间距离衡量两类间的可分性,并进一步用来描述各结点分类器类集合间的可分性。基于综合考虑结点分类器的类集合可分性,该方法能够获得优化的结点分类器类划分算法,由此构建的SVM决策树分类器在整体性能上得到优化,在文本分类中获得良好效果。

基于支持向量机的液压调节器多类故障辨识

针对目前故障诊断中故障数据样本获取及特征提取困难的问题,分析了液压调节器的4种典型故障,建立了基于支持向量机的多类故障分类器,并直接将少量的时间序列信号作为分类器的输入。实验结果表明,在小样本情况下,不必对信号预处理以提取特征,该分类器便可实现液压调节器的多类故障分类,证明该方法是有效、可行的。

一种基于有向无环图的多类SVM分类器

本文提出了一种多类SVM分类器——ACDMSVM,它是基于决策有向无环图和积极约束的多类SVM分类器。对于k类问题,它将k(k-1)/2个改进的二类SVM分类器进行组合。为了提高分类器的训练及决策速度,对标准的二类SVM分类器进行三个方面的改进:利用大间隔方法,对软间隔错误变量采用2-范数形式并应用积极约束。在训练阶段,使用含有根的二元有向无环图进行节点的选择,该有向无环图含k(k-1)/2个内部节点和k个叶节点。数值实验表明这是一种快速的多类SVM分类器。

一种新的基于平衡决策树的SVM多类分类算法

为了有效地减少样本训练时间,提高多类分类器的识别率,同时使模型具有较好的推广能力,在综合考虑待分类样本数和类别易分性能的基础上,在"先分样本数较大的类"和"先分易分的类"之间折衷考虑,提出一种基于样本的新的类划分方案.采用平衡决策树结构,得到了一种新的决策树支持向量机多类分类算法.实验结果表明,该算法在不降低识别率的情况下,能大大减少系统的训练时间,是一种有效的多类分类算法.