基于统计判据的非线性维数约简

现有非线性维数约简算法均需要人工设定适当的邻域点数k(或者邻域半ε)才能获得合理的嵌入结果．但常用的基于嵌入残差的邻域参数选择方法本质上是循环依赖的,不能有效工作．为实现非线性维数约简算法的定量评价的参数辨识,从讨论优化嵌入的基本判定原则出发,给出了基于空域互信息和正则依赖指数谱的优化嵌入判据实现嵌入质量的定量评价和非线性维数约简算法的非监督参数辨识．仿真实验表明,直观的嵌入质量可被优化嵌入判据有效反映,且由嵌入集拟合恢复原数据集时的拟合精度与优化嵌入判据之间存在显著的正相关．

基于等维度独立多流形的DC-ISOMAP算法

流形学习已经成为机器学习与数据挖掘领域中一个重要的研究课题.目前的流形学习算法都假设所研究的高维数据存在于同一个流形上,并不能支持或者应用于大量存在的采样于多流形上的高维数据.针对等维度的独立多流形DC-ISOMAP算法,首先通过从采样密集点开始扩展切空间的方法将多流形准确分解为单个流形,并逐个计算其低维嵌入,然后基于各子流形间的内部位置关系将其低维嵌入组合起来,得到最终的嵌入结果.实验结果表明,该算法在人造数据和实际的人脸图像数据上都能有效地计算出高维数据的低维嵌入结果.

多流形上的数据分类算法

与传统的基于流形的数据分类算法大都假设数据位于同一个流形上不同,假设多类数据分别位于不同的流形上。提出了一种基于多流形的数据分类算法,算法大致分为两步:学习过程和测试过程。学习过程采用线性流形学习方法获得训练数据的低维坐标和映射矩阵,测试阶段则利用嵌入空间中对应测试数据点与其k个邻域点的重构误差值来决定其类别。在人工合成数据和coil-20数据库上的实验都表明了该算法的有效性。

基于等维度独立多流形的DC-ISOMAP算法

流形学习已经成为机器学习与数据挖掘领域的一个重要的研究课题。目前的流形学习算法都假设所研究的高维数据存在于同一个流形上,并不能支持或者应用于大量存在的采样于多流形上的高维数据。本文针对等维度的独立多流形提出了DC-ISOMAP算法。该算法首先通过从采样密集点开始扩展切空间的方法将多流形准确分解为单个流形,并逐个计算其低维嵌入,然后基于各子流形间的内部位置关系将其低维嵌入组合起来,得到最终的嵌入结果。实验结果表明,该算法在人造数据和实际的人脸图像数据上都能有效地计算出高维数据的低维嵌入结果。

基于等维度独立多流形的DC-ISOMAP算法

流形学习已经成为机器学习与数据挖掘领域的一个重要的研究课题。目前的流形学习算法都假设所研究的高维数据存在于同一个流形上,并不能支持或者应用于大量存在的采样于多流形上的高维数据。本文针对等维度的独立多流形提出了DC-ISOMAP算法。该算法首先通过从采样密集点开始扩展切空间的方法将多流形准确分解为单个流形,并逐个计算其低维嵌入,然后基于各子流形间的内部位置关系将其低维嵌入组合起来,得到最终的嵌入结果。实验结果表明,该算法在人造数据和实际的人脸图像数据上都能有效地计算出高维数据的低维嵌入结果。

基于局部线性嵌入的多流形学习

局部线性嵌入(LLE)算法要求样本数据均匀稠密地分布于单个的流形上。当样本数据位于多个子流形上时,原始LLE算法无法得到合理的低维全局嵌入。本文提出了一种基于LLE的多类数据流形学习算法,其基本的思想是构建k重最小生成树代替欧氏完全图,并通过修正类间边割集中数据点的邻域关系获得全局连通的k近邻图。人工合成数据和实际数据上的实验都表明了算法的有效性。

基于双重近邻图的有监督流形学习算法

提出了一种有监督的流形学习算法,算法首先构建双重近邻图,即类内近邻图和类间近邻图,从而获得相应的类内邻接矩阵和类间邻接矩阵,并在LPP框架下构建最优的低维嵌入。人工合成数据和实际数据上的实验都表明了所提算法优于一些线性和非线性的嵌入算法。

基于非线性流形学习和k-NN的文本分类算法

为解决文本分类中存在的维数灾难、数据集噪声等问题,本研究提出一种利用非线性维数约简算法结合k-最邻近结点算法(k-nearest neighbor algorithm,k-NN)的文本分类算法。该算法首先对数据集进行去噪处理,再采用非线性流形学习中的局部线性嵌入算法恢复高维数据中的中低维流形结构,以实现数据约简,利用经过上述处理的文本数据学习k-NN分类器。实验结果表明,该算法能够有效提高文本分类精度。