基于随机特征子空间及加权核函数的 SVM 算法

为克服 SVM 算法缺乏高效率和低准确率的问题，笔者对 SVM 算法进行改进。首先通过采用 ReliefF 算法得到各个特征权值，然后基于随机特征子空间方法，即每次都选取权值较大的几个特征，再从剩余特征中随机选取一定数量特征共同组成一个特征空间来表示样本的一个视图。在进行训练分类器时，将特征的权值也应用于 SVM 的核函数中。实验表明，本文算法能有效提高 SVM 的分类精度。

一种适合于非线性高维数据的谱聚类算法

谱聚类能识别非线性数据,且优于传统聚类。谱聚类中度量相似性的高斯核函数尺度参数σ和聚类个数k对聚类效果影响较大,但需要人工判断。用向量之间夹角余弦代替σ并且通过特征值的跳跃性确定聚类个数,对于非线性高维数据,提出一种自适应谱聚类算法,将数据通过显式构造映射到随机特征空间,在随机特征空间中实现聚类。实验结果表明,在UCI数据上该算法与传统算法相比效果更好。

基于集成学习的软件缺陷检测

近年来,使用机器学习方法来预测软件缺陷得到了广泛的关注。在实际工程中,软件缺陷特征的构造需要相关领域知识及大量时间,使得到的软件特征一般较少。并且,有缺陷的软件样本会大大少于无缺陷的软件样本,造成样本的高度不平衡。这里,通过显式的特征构造方法,把有限的原特征映射到高维度的特征空间;通过改进的Bagging以及随机特征子空间的方法,在得到类平衡的训练样本集的同时,提高模型的泛化能力。通过上述方法,得到一系列弱分类器。最后,使用一个简单的线性分类器训练得到各个弱分类器的权重来融合所有弱分类器,得到更好的分类效果。