引入激活扩散的类分布关系近邻分类器

针对同质性关系分类器基于一阶Markov假设简化处理的局限性,在类分布关系近邻分类器构建类向量和参考向量时,引入局部图排序激活扩散方法,并结合松弛标注的协作推理方法,通过适当扩大分类时邻居节点的范围增加网络数据中待分类节点的同质性,从而降低分类错误率.对比实验结果表明,该方法扩大了待分类节点的邻域,在网络数据上分类精度较好.

基于DAG-SVMS的SVM多类分类方法

本文介绍了几种常用的支持向量机多类分类方法,分析了其存在的问题及缺点。在有向无环图支持向量(DAG-SVMS)多类分类方法的基础上,提出了一种新的多类分类方法。该方法采用了最小超球体类包含作为层次分类依据。试验结果表明,采用该方法进行多类分类,跟已有的分类方法相比有更高的分类精度。

One-Class分类器研究

传统的多类分类问题需要多类样本训练分类器,然而由于样本获取(复杂性或代价)的原因很多情况下只能获取一类样本,故只能利用这一类样本进行学习,形成数据描述从而实现分类,故称之为One-Class分类.鉴于目前单类分类研究存在领域相关方法和通用方法百花齐放的格局,本文首先给出了当前One-Class分类器的研究综述,然后重点针对基于核方法的单类分类器进行分析,将该类方法分为对偶方式和核距离方式两类,并分析各自的特点.最后论文介绍了目前的单类分类器的应用领域,指出其在故障分析、异常检测、疾病诊断和敌我识别等现实问题中的重要作用.

基于支持向量机与无监督聚类相结合的中文网页分类器

提出了一种将支持向量机与无监督聚类相结合的新分类算法 ,给出了一种新的网页表示方法并应用于网页分类问题 .该算法首先利用无监督聚类分别对训练集中正例和反例聚类 ,然后挑选一些例子训练 SVM并获得 SVM分类器 .任何网页可以通过比较其与聚类中心的距离决定采用无监督聚类方法或 SVM分类器进行分类 .该算法充分利用了 SVM准确率高与无监督聚类速度快的优点 .实验表明它不仅具有较高的训练效率 ,而且有很高的精确度 .

基于弱分类器调整的多分类Adaboost算法

Adaboost.M1算法要求每个弱分类器的正确率大于1/2,但在多分类问题中寻找这样的弱分类器较为困难。有学者提出了多类指数损失函数的逐步添加模型(SAMME),把弱分类器的正确率要求降低到大于1/k(k为类别数),降低了寻找弱分类器的难度。由于SAMME算法无法保证弱分类器的有效性,从而并不能保证最终强分类器正确率的提升。为此,该文通过图示法及数学方法分析了多分类Adaboost算法的原理,进而提出一种新的既可以降低弱分类器的要求,又可以确保弱分类器有效性的多分类方法。在UCI数据集上的对比实验表明,该文提出的算法的结果要好于SAMME算法,并达到了不弱于Adaboost.M1算法的效果。

在雷达HRRP识别中多特征融合多类分类器设计

在传统线性关联向量机的基础上,设计了一种多特征融合的多类分类器.该分类器基于多类Probit回归模型将传统的两类线性关联向量机推广为多类关联向量机,利用线性关联向量机的特征选择功能,对融合的高维特征向量进行降维和合理的幂次扩展,使线性关联向量机具有构造非线性分类界面的能力,以保证对非线性多类分类问题稳健的融合识别性能.针对雷达高分辨距离像目标识别问题,提取3种平移不变特征,使用提出的多特征融合的多类分类器在基于实测数据的识别实验中得到了稳健的融合识别结果.

决策树支持向量机多分类器设计的向量投影法

针对如何有效地设计决策树支持向量机(SVM)多类分类器的层次结构这个关键问题,提出一种基于向量投影的类间可分性测度的设计方法,并给出一种基于该类间可分性测度设计决策树SVM多分类器层次结构的方法.为加快每个SVM子分类器的训练速度且保持其高推广性,将基于向量投影的支持向量预选取方法用于每个子分类器的训练中.通过对3个大规模数据集和手写体数字识别的仿真实验表明,新方法能有效地提高决策树SVM多类分类器的分类精度和速度.

基于新型集成分类器的非平衡数据分类关键问题研究

针对非平衡数据分类问题,提出了一种基于差异采样率的重采样算法(differentiated sampling rate algorithm,DSRA),基于DSRA设计了一种新的集成分类器(SVM-Ripper ensemble classifier,SREC)。SREC采用独特的分类器选择策略、分类器集成策略、分类决策方案,可获得较高的分类精度。同时,利用SREC对影响非平衡数据分类的关键问题进行了研究。结果表明,非平衡数据分类问题本质上是由正负样本类间非平衡、类内非平衡、样本规模以及样本非平衡度等诸多因素引起的,只有综合考虑这些因素才能更好地解决非平衡数据分类问题。

基于簇相似的多分类器目标跟踪算法

由于跟踪过程中目标和背景的变化,传统的单分类器跟踪算法学习到大量的非目标信息而导致跟踪精度降低.针对该问题,本文提出使用树形结构保存历史分类器.在每一帧,根据树中路径距离选择分类器集对测试样本分类.提出了一种基于簇相似性比较的分类算法.通过建立以方差为尺度的特征空间,比较测试样本到簇中心的距离计算相似度,快速计算出目标样本.实验表明本算法能够在复杂条件下实现对目标的鲁棒跟踪.

基于自助平均的朴素贝叶斯文本分类器

针对单词簇上训练朴素贝叶斯文本分类器概率估计偏差较大所导致的分类精度较低问题,在概率分布聚类算法得到的单词簇的基础上,根据单词与簇间互信息建立有序单词子序列,采用有放回随机抽样对序列构造规模相当的样本集,并将估计出的参数的平均值作为训练得到的参数对未知文本进行分类。公共文本实验数据集上的实验结果表明,该文提出的训练方法相对于传统的朴素贝叶斯分类器训练方法能够获得更高的分类精度且过程相对简单。

集成学习的多分类器动态组合方法

为了提高数据的分类性能,提出一种集成学习的多分类器动态组合方法(DEA)。该方法在多个UCI标准数据集上进行测试,并与文中使用的基于Adaboost算法训练出的各个成员分类器的分类效果进行比较,证明了DEA的有效性。

基于k-means聚类的神经网络分类器集成方法研究

针对差异性是集成学习的必要条件,研究了基于k-means聚类技术提高神经网络分类器集成差异性的方法。通过训练集并使用神经网络分类器学习算法训练许多分类器模型,在验证集中利用每个分类器的分类结果作为聚类的数据对象;然后应用k-means聚类方法对这些数据聚类,在聚类结果的每个簇中选择一个分类器代表模型,以此构成集成学习的成员;最后应用投票方法实验研究了这种提高集成学习差异性方法的性能,并与常用的集成学习方法bagging、adaboost进行了比较。

基于搜索树的告警高效聚类算法和Bayes分类器的设计和研究

如何从IDS等安全产品每天产生的海量告警和日志中挖掘出有价值的信息,帮助管理员找到那些真正具有威胁的攻击,然后采取措施,有效地保护系统安全,这是入侵检测系统急待解决的问题。本文利用搜索树可以减少搜索空间和覆盖向量的特点提出了基于搜索树的高效告警聚类算法;考虑到把新来的告警事件归类到先前通过聚类得到的类中,让其与其他的告警事件可以关联起来,提出了基于贝叶斯事件分类器的告警分类方法。最后使用KDDCup1999Data的数据进行了性能测试。实验测试结果表明,此算法和方法是快速有效的。在原型系统“多信息源智能化安全强审计系统”中的实际应用也展现了其良好的应用前景。

基于共享最近邻聚类和模糊集理论的分类器

提出一种基于共享最近邻聚类和模糊集理论的分类器.首先,在提出与核点密切相关的核半径概念的基础上,应用共享最近邻聚类得到正常类空间的部分核点和核半径,建立求解正常类空间补充核点的多目标优化模型,从而获得刻画正常类空间的全部核点和核半径.然后,将模糊集理论引入正常类的类属划分中,利用核点和核半径定义正常类的隶属度函数,建立基于隶属度函数的分类函数或分类器.实验表明,该分类器能处理包含噪音、孤立点和不规则子类的高维数据集的分类问题.

基于聚类选择的分类器集成

提出了一种基于聚类选择的分类器集成方法,通过聚类把模式特征空间划分成不相交的区域,对于初始分类器集合,各区域给出分类器的删除分值,各分类器总分值确定其删除优先级别,由删除优先级别选择一组分类器组成集成。理论分析和实验结果表明,基于聚类选择的分类器集成方法能够更好地对模式进行分类。

一种新的分裂层次聚类SVM多值分类器

提出一种分裂层次聚类SVM分类树分类方法.该方法通过融合模糊聚类技术和支持向量机算法,利用分裂的层次聚类策略,有选择地重新构造学习样本集和SVM子分类器,得到了一种树形多值分类器.研究结果表明,对于k类别模式识别问题,该方法只需构造k-1个SVM子分类器,克服了SVM子分类器过多以及存在不可区分区域的缺点,具有良好的分类性能.实验结果验证了该方法的优越性.

一种基于混淆矩阵的分类器选择方法

为充分利用分类器的差异性来提高分类器集成的准确率,提出一种分类器选择方法。基本思想是构造所有基分类器的混淆矩阵作为聚类算法的数据对象,根据各聚类中样本的分布选择出一定数量的分类器作为代表,构成新的待集成分类器集合。将该方法应用于Bagging算法的训练过程,通过实验对比,验证了该方法确实可以提高分类器集成性能。

基于AdaBoost-SVM级联分类器的行人检测

针对实时行人检测中AdaBoost级联分类算法存在的问题,改进AdaBoost级联分类器的训练算法,提出了Ada-Boost-SVM级联分类算法,它结合了AdaBoost和SVM两种算法的优点。对自定义样本集和PET图像库进行行人检测实验,实验中选择固定大小的窗口作为候选区域并利用类Haar矩形特征进行特征提取,通过AdaBoost-SVM级联分类器进行分类。实验结果表明AdaBoost-SVM级联分类器的分类器准确率达到99.5%,误报率低于0.05%,优于AdaBoost级联分类器,训练时间要远远小于SVM分类器。

基于AUC方法评估多类别贝叶斯分类器的性能

分类器评估一般采用准确性评估。理论证明,基于AUC方法评估分类器优于准确性评估方法,但该方法局限于二类分类问题。提出一种将二类分类问题推广到多类分类问题的新方法,用纠错输出码转换得到转换矩阵,通过转换矩阵把多类分类问题转换成二类分类问题,计算二类分类的平均值来评估分类器的性能。新方法在MBNC实验平台下编程实现,并评估贝叶斯分类器的性能,实验结果表明,这种方法是有效的。

一种基于支持向量机决策树多类分类器

提出一种基于支持向量机决策树的多类分类器SVMDT(Support Vector Machines based Decision Tree)。训练时,SVMDT采用样本类间最小距离原则进行决策树分叉,综合考虑局部类簇,生成一棵平衡的分类二叉树。分类时,SVMDT采用最大距离原则匹配决策。SVMDT训练时采用的距离为等效距离,综合考虑特征空间中样本类的中心距离以及样本类自身的分布特点,使得训练过程中确定各个SVM的优先级别更加合理,由此生成的决策树将特征空间严格划分开,避免了拒识区域的出现。UCI样本数据集实验结果表明,和传统的1对多SVM分类器相比,SVMDT具有训练速度快、分类速度快,分类精度高的特点。