基于间隔最大化的自动文本分类模型

总结了文本分类的若干统计特性,然后以间隔最大化原理为基本目标,直接利用支持向量机的分类原理对自动文本分类任务的机器学习本质进行了探索,从平均文挡映射出发得到ADM-FSM原理模型,以定理的形式给出了对基于间隔最大化自动文本分类器泛化能力的估计,最后通过在标准测试数据集上的实验,验证了这些理论成果。

结合掩膜机制的间隔最大化相关滤波跟踪算法

相关滤波跟踪方法中经由循环移位得到的密集样本一方面会包含有非真实的边界,另一方面样本会存在冗余性且正负比例不平衡,这两点因素很大程度上降低了相关滤波器的训练效果。为解决以上问题,基于最大化间隔思想引入了一种掩膜机制,使得滤波器能够更有效地学习净化过的正负样本。在求解目标函数的过程中,先利用对偶变量将间隔最大化问题转换成损失最小化问题,再通过交叉方向乘子法交叉迭代求出最终的相关滤波器。实验结果表明,间隔最大化与掩膜机制结合后能够有效地提升相关滤波器的跟踪性能,且相比其他跟踪算法具有明显的速度与定位精确度优势。

基于最大化间隔准则和成对约束的鲁棒半监督聚类研究

针对现有半监督最大间隔聚类算法在不同类别中有不少样本非常相似的情况下难以提高聚类准确度的问题，提出了下述解决策略：首先，基于最大化间隔准则设计一种鲁棒的成对约束损失函数，即使不同类别有较多样本非常相似，该函数仍然能有效地检测不能满足成对约束的聚类结果，并提供相应的惩罚，从而能较好地提高聚类的性能。其次，基于约束凹凸过程设计一种迭代算法进行求解。进而，基于这一策略，提出了一种新的聚类算法——鲁棒的成对约束最大化间隔聚类（BPCMMC）算法。实验结果表明，该算法能有效克服现有半监督最大间隔聚类算法的不足，其聚类错误率明显低于传统的半监督聚类算法。

一种基于投影稀疏表示的基因选择方法

现有基于稀疏表示的基因选择方法通过回归类标的值确定基因的相关性.对于同一个问题,类标的取值不同,对应的基因选择结果也不同.针对这一问题,提出了一种基于稀疏表示基因表达数据一维投影的基因选择方法.该方法用稀疏表示技术回归基因表达数据在其最可分的方向上的投影,并根据回归得到的基因集的相关性向量选择基因.在6组基因表达数据上的实验结果表明:所提方法的运行时间适中,选择的基因集识别率高的同时冗余度也比较低.

一种基于监督降维和形状分析的基因选择方法

因为由主分量分析与形状分析相结合的基因选择方法没有有效利用样本的类别信息,所以提出了一种新的基因选择方法,将间隔最大化判别分析和形状分析相结合,在选择基因过程中不仅考虑了基因与基因之间的相互作用,也考虑了基因与类之间的相互关系,提高了所选基因集的分类性能.对4组微阵列基因表达数据的实验表明,该方法的性能优于主分量分析与形状分析相结合的方法,与当前两个流行的多变量F ilter方法相比,也具有一定的优势.

基于支持向量机的粗糙分类器

支持向量机和粗糙集理论是两种分类技术。前者寻求最大化两类间隔的最优分类超平面,后者用逻辑规则解释分类。基于两者的关系,提出了一种复合算法,且将其推广到回归。新算法在一定程度降低了计算复杂度,且适用于软间隔分类。数值实验表明新算法是有效可行的。

基于K最近邻样本平均距离的代价敏感算法的集成

为了解决不均衡数据集的分类问题和一般的代价敏感学习算法无法扩展到多分类情况的问题,提出了一种基于 K 最近邻( K NN)样本平均距离的代价敏感算法的集成方法。首先,根据最大化最小间隔的思想提出一种降低决策边界样本密度的重采样方法;接着,采用每类样本的平均距离作为分类结果的判断依据,并提出一种符合贝叶斯决策理论的学习算法,使得改进后的算法具备代价敏感性;最后,对改进后的代价敏感算法按 K 值进行集成,以代价最小为原则,调整各基学习器的权重,得到一个以总体误分代价最低为目标的代价敏感AdaBoost算法。实验结果表明,与传统的 K NN算法相比,改进后的算法在平均误分代价上下降了31.4个百分点,并且代价敏感性能更好。