使用SK算法构造组合凸线性感知器

组合凸线性感知器(multiconlitron)是用来构造分片线性分类器的一个通用理论框架。基于此框架,引入一种典型的凸包间最近点求解方法——Schlesinger-Kozinec(SK)算法,来计算线性可分样本间的分类超平面;然后构造可处理凸可分数据的凸线性感知器和处理叠可分数据的组合凸线性感知器。在人工合成数据集和标准数据集上的实验说明,所构造的感知器具有良好的分类性能,与其他典型分片线性分类器的对比也说明了该方法的有效性。

组合凸线性感知器的极大切割构造方法

组合凸线性感知器(Multiconlitron)是用来构造分片线性分类器的一个通用理论框架,对于凸可分和叠可分情况,分别使用支持凸线性感知器算法(Support conlitron algorithm,SCA)和支持组合凸线性感知器算法(Support multiconlitron algorithm,SMA)将两类样本分开.本文在此基础上,提出了一种基于极大切割(Maximal cutting)的组合凸线性感知器构造方法.该方法由两阶段训练构成,第一阶段称为极大切割过程(Maximal cutting process,MCP),通过迭代不断寻求能够切开最多样本的线性边界,并因此来构造尽可能小的决策函数集,最大程度减少决策函数集中线性函数的数量,最终简化分类模型.第二阶段称为边界调整过程(Boundary adjusting process,BAP),对MCP得到的初始分类边界进行一个二次训练,调整边界到适当位置,以提高感知器的泛化能力.数值实验说明,此方法能够产生更为合理的分类模型,提高了感知器的性能.同其他典型分片线性分类器的性能对比,也说明了这种方法的有效性和竞争力.

软间隔组合凸线性感知器设计

组合凸线性感知器是用来构造分片线性分类器的一个通用理论框架.对于凸可分和叠可分情况,分别使用支持凸线性感知器算法和支持组合凸线性感知器算法将两类样本分开.在此基础上,文中提出一种软间隔的组合凸线性感知器设计方法.该方法首先映射原空间数据到高维特征空间,然后利用K均值算法将其中一类样本聚类成多个簇,并在每一簇与另一类样本间构造凸线性感知器,最后集成组合凸线性感知器.该方法能解决原感知器模型不适用非叠可分数据的问题,并且在一定程度上简化模型结构,在保证分类精度的前提下,提高泛化能力.实验结果证实文中方法的有效性,同其它分片线性分类器的对比也说明了它的优势.

基于组合凸线性感知器的文本分类模型

针对文本分类问题,从分片线性学习的角度出发,提出了一种文本分类的组合凸线性感知器模型.首先,对文本样本集进行预处理,包括特征选择、特征项赋权等;然后,分别利用生长支持组合凸线性感知器算法(growing support multiconlitron algorithm,GSMA)和支持组合凸线性感知器算法(support multiconlitron algorithm,SMA)构造组合凸线性感知器,对样本集进行分类.该模型基于支持向量机的最大间隔思想,通过集成线性分类器,实现了对2类数据的划分,具有计算简单、适应能力强的优点.在标准文本数据集上的实验结果表明:该模型所构造的分类器具有良好的文本分类性能,与其他典型文本分类方法的对比也说明了该方法的有效性.