最大向量夹角间隔核分类

提出了一种最大向量夹角间隔MAMC分类方法,其核心思想是在样本特征空间中寻找一个尽可能靠近训练样本中心的向量c,进而强化更小的VC维,同时未知样本点可以根据向量c和训练样本点之间的最大向量夹角间隔ρ进行分类.提出的MAMC方法可以通过核化提高算法的灵活性,而在MAMC方法的实现上,只需解决一个对应的二次凸优化问题,实现简单.同时,MAMC的v×v1参数属性构成了支持向量个数的下界和错分训练样本数的上界;而其所对应的硬划分版本可以等价于一种特殊和核化的最小包含球,因此能够训练较大样本.最后,人造和真实数据集实验结果表明,MAMC整体上具有较好的性能优势.

适合大样本快速训练的最大夹角间隔核心集向量机

许多核化形式的分类方法如SVM,SVDD等都是对应一个二次规划(QP)问题,而核矩阵计算需要O(m2)空间复杂度,求解QP需要O(m3)时间复杂度,限制了这类方法对大样本数据的训练.本文基于一种新的分类间隔概念提出最大向量夹角间隔分类器MAMC,目标是在样本空间找到最优向量c,测试样本通过c与训练样本之间的最大化向量夹角间隔ρ(称为Margin)实现分类.同时,文中证明了该方法的核化形式等价于核化的最小包络球MEB问题,并通过引入核心集向量机CVM将MAMC扩展为MAM-CVM,进而快速实现对大样本的训练和分类.人造和真实数据集实验表明了MAMC和MAM-CVM算法的有效性.

最大间隔对数向量机

通过ISE准则逼近真实密度差的L2-核分类器没有显式地考虑到分类间隔,在一定程度上不利于提高分类器精度;同时,权向量的求解最终转化为一个二次规划问题,导致L2-核分类器训练速度较慢,特别是对于较大样本.基于这两个问题,利用样本间的密度差构造了分类间隔并最大化此间隔,而此问题最终转化为一个对数优化问题,故称其为最大间隔对数向量机(maximum margin logistic vector machine,简称MMLVM),进而利用梯度下降法求解最优权.同时,分别从权的全局最优性、一般化误差界及算法复杂度这3方面进行了理论分析.最后,人工和UCI,PIE及USPS数据集的实验结果表明,算法理论正确,解决了上述两个问题并获得了较好的效果.

融合多类别基分类器的序列标注算法

为了提高小规模数据的序列标注的准确度及提升序列标注算法的适用性,提出一种融合多类别基分类器的序列标注算法,将条件随机场(CRF)、结构化支持向量机(SVM)、最大间隔马尔科夫网进行了有效的融合进行序列标注任务。实验结果表明:提出的算法相较于传统序列标注算法在性能上有明显的改进,并能与深度神经网络完美结合。

支持向量机及其在模式分类中的应用

支持向量机作为一种新的机器学习技术,由于它具有结构简单,泛化能力强的优良性能,越来越受到人们的关注.为此,介绍了支持向量机的一些新的进展,及其在分类器设计中的应用.

基于非平衡数据分类的单文档自动文摘方法

自动文摘是自然语言处理领域的一个重要研究话题,基于机器学习的自动文摘方法则是该项研究中的一个热点。然而,自动文摘问题中的数据分布有一个重要现象,即文摘句子与非文摘句子的数量相差非常悬殊,该现象将给传统机器学习算法的应用效果带来负面影响。为此,本文针对自动文摘中句子类别分布严重不平衡这一现象,以支持向量机算法为基础,设计了两种有效的处理非平衡自动文摘数据的分类方法。在第一种方法中,将传统支持向量机中正负类平衡的分类间隔转换为不平衡的分类间隔;在第二种方法中,通过将数据集进行切分,设计了一种支持向量机集成学习算法。通过在DUC2001数据集上的实验证明,本文设计的两种基于非平衡数据分类的单文档自动文摘方法显著优于基于传统分类算法的自动文摘方法。

基于迁移共享空间的分类新算法

为解决来自不同但相关领域的大量无标签数据和少量带标签数据的分类问题,首先构造一个联系源域到目标域的共享特征空间,并将该空间引入经典的支持向量机算法使其获得迁移能力,最终得到一种新的基于支持向量机的迁移共享空间的分类新算法,即迁移共享空间支持向量机.具体地,该方法以迁移学习理论为基础,结合分类器最大间隔原理,通过最大化无标签数据和带标签数据的联合概率分布来构建无标签数据和带标签数据的共享空间;为充分考虑少量带标签数据之数据分布,在其原始特征空间和共享空间组成的扩展空间中训练分类模型.相关实验结果验证了该迁移学习分类器的有效性.

加权最大夹角间隔核心集向量机的不平衡数据分类

为了处理大规模数据和不平衡数据分类问题,提出了一种新的分类方法,利用基于最大夹角间隔的核心集向量机算法实现对大样本数据的分类;针对不平衡数据分类问题,通过对不同的样本给予不同的权重,来提高算法的分类性能。加权最大夹角间隔核心集向量机方法不仅能够有效地解决不平衡数据的分类问题,而且能够实现对大样本数据的快速训练。

中心向量夹角间隔正则化核向量机

针对大数据集如何有效地进行训练的问题,基于最大向量夹角间隔分类器(maximum vector-angular margin classifier,MAMC),提出了求解最优向量d的不同方法来得到中心向量夹角间隔分类器(central vector-angular margin classifier,CAMC),进而证明了CAMC等价于最小包围球问题(minimum enclosed ball,MEB).但是鉴于MEB对参数的敏感性,又提出了正则化核向量机(regularized core vector machine,RCVM),将CAMC与RCVM结合得到中心向量夹角间隔正则化核向量机(regularized core vector machine with central vector-angular margin,CAMCVM).基于基准数据集的实验表明,CAMC具有更好的分类性能且CAMCVM可以有效快速地训练大规模数据集.

BOF模型的特征融合锂电池极片瑕疵分类方法

在锂电池极片生产过程中,传统的人工检测对瑕疵分类的效率及质量都不高,并且对于企业的生产工序优化不利。研究提出一种基于Bof模型的特征融合锂电池极片瑕疵分类方法。首先提取瑕疵特征并构建Bof模型用于对提取到的SURF特征点进行量化。然后对提取所有特征进行特征融合并归一化,使所有特征向量量纲相同。最后构建软间隔SVM分类器并搜索最佳参数实现极片瑕疵分类。经过与其他方法进行性能比较,证明该方法在性能方面具有一定优势,且准确率为98.62%。

基于间隔二肽组分和递归特征消除法的DNA结合蛋白的鉴定

DNA结合蛋白(DNA-binding proteins,DBPs)的鉴定在原核和真核生物的基因和蛋白质功能注释研究中具有十分重要的意义.本研究首次运用间隔二肽组分(gapped-dipeptide composition,Gap DPC)结合递归特征消除法(recursive feature elimination,RFE)鉴定DBPs.首先获得待测蛋白质氨基酸序列的位置特异性得分矩阵(position specific scoring matrix,PSSM),在此基础上提取蛋白质的Gap DPC特征,通过RFE法选择最优特征,然后利用支持向量机(support vector machine,SVM)作为分类器,在蛋白质序列数据集PDB396和LB1068中进行夹克刀交叉验证(jackknife cross validation test).研究结果显示,基于PDB396和LB1068数据集,DBPs预测的准确率、Matthews相关系数、敏感性和特异性分别达到93.43%、0.86、89.04%和96.00%,以及86.33%、0.73、86.49%和86.18%,明显优于文献报道中的相关方法,为DBPs的鉴定提供了新的模型.

共享隐空间迁移SVM

在机器学习中,迁移学习被证明能有效使用一个领域信息提高另一个领域中受训模型的分类精度.迁移学习总是假设相关领域间共享某些隐含因素,但在当前的迁移学习方法中,该部分隐含因素依然未得到充分探讨.本研究引入低维共享隐空间的迁移学习方法,基于经典支持向量机(Support vector machine,SVM)分类模型得到融入共享隐空间的迁移支持向量机,该模型较以往相关方法能更好地利用隐空间这一有效信息,从而提高所得分类器的泛化性能.相关实验结果亦验证了所提方法的有效性.