基于稀疏学习的kNN分类

在kNN算法分类问题中,k的取值一般是固定的,另外,训练样本中可能存在的噪声能影响分类结果。针对以上存在的两个问题,本文提出一种新的基于稀疏学习的kNN分类方法。本文用训练样本重构测试样本,其中,l_1-范数导致的稀疏性用来对每个测试样本用不同数目的训练样本进行分类,这解决了kNN算法固定k值问题;l_(21)-范数产生的整行稀疏用来去除噪声样本。在UCI数据集上进行实验,本文使用的新算法比原来的kNN分类算法能取得更好的分类效果。

基于图的特征选择算法在阿兹海默症诊断问题研究

针对神经性疾病难以确诊的问题,提出了一种基于图的特征选择方法,过滤掉不相干的特征,从而方便并且准确地对疾病患者进行诊断。算法首先基于先验知识定义了两种基本关系(特征关系和样本关系);然后将这两种关系嵌入到一个由最小二次损失函数和l2-范数正则化因子组成的多任务学习框架中进行特征选择;最后,将约简得到的降维矩阵送入支持向量机(SVM)中对阿兹海默症患者进行确诊。通过对Alzheimer’s disease neuroimaging initiative(ANDI)的研究数据集进行实验得知,提出算法的分类效果均优于一般常用分类算法,如K最近邻法(KNN)、支持向量机(SVM)等。提出的算法通过考虑特征选择和引入两种数据的内在关系,有效提高了阿兹海默疾病诊断的正确率。

基于双稀疏表示的无监督属性选择算法

由于大量无类标签数据需要降维处理,近年来无监督属性选择学习受到越来越多的关注。通过将两种稀疏表示和属性自表达损失函数嵌入到同一个学习框架中,提出了一种新的无监督属性选择算法。首先,利用属性自表达技术重构数据,使每一重构属性为所有原始属性的线性表征,加强属性关联性。然后,分别利用l_(2, p)范数正则项和l_(1)范数正则项使权重系数矩阵稀疏,剔除冗余无关属性,实现属性选择目的。最后,将约简后的低维数据集送入支持向量机中获得分类结果,以此评判属性选择算法是否有效。对多个真实数据集进行实验,实验结果显示,所提算法的降维效果优于一般常用算法。

基于局部协方差矩阵的谱聚类算法

针对传统谱聚类算法没有解决簇划分过程中,簇间交叉区域样本点对聚类效果有影响这个问题,提出一种基于局部协方差矩阵的谱聚类算法,主要介绍了一种新的计算样本之间相似度亲和矩阵的方法,即通过计算样本点之间的欧氏距离划分出小子集,计算小子集的协方差,通过设定阈值剔除交叉点,由剩下的点构造相似矩阵,对相似矩阵进行特征值分解,用经典的k -means算法对由特征向量组成的矩阵聚类。通过在Control等真实数据集上的实验结果表明,该算法在聚类准确率、标准互信息等指标上比较对比算法获得更优秀的效果。

局部PCA与k近邻相结合的谱聚类算法

为解决传统谱聚类方法构造相似矩阵时使用距离度量无法充分反映复杂样本空间的全局一致性,且存在聚类个数需要人为指定等问题,提出一种基于近邻与局部PCA结合的谱聚类算法。使用kNN获取邻域子集,使用局部主成分分析保持样本的局部结构,同时考虑样本的全局和局部信息,为相似矩阵提供综合信息,对得到的相似矩阵进行图分割,直接得到聚类的结果。在真实数据集上的实验结果表明,该算法能够自动得到类的个数且聚类准确率有所提高,其在非真实类时有更好的聚类效果。

基于mutual KNN和标准化的谱聚类算法

在谱聚类算法中,利用K近邻算法构建拉普拉斯矩阵时,会造成聚类的算法复杂度提高和聚类结果不佳的问题,为此提出一种基于mutual KNN和标准化矩阵的谱聚类算法,能有效提升聚类划分的执行效率和准确率。将提出算法与多组对比算法在多个数据集上进行实验比较,比较结果表明,多个评测指标(如聚类准确率、聚类的标准化互信息、方差等)全面验证了该算法能有效提高聚类性能和执行效率,适用于高维大数据的聚类分析。

基于核函数的稀疏属性选择算法

鉴于传统属性选择算法无法捕捉属性之间的关系的问题,文中提出了一种非线性属性选择方法。该方法通过引入核函数,将原始数据集投影到高维的核空间,因在核空间内进行运算,进而可以考虑到数据属性之间的关系。由于核函数自身的优越性,即使数据通过高斯核投影到无穷维的空间中,计算复杂度亦可以控制得较小。在正则化因子的限制上,使用两种范数进行双重约束,不仅提高了算法的准确率,而且使得算法实验结果的方差仅为0.74,远小于其他同类对比算法,且算法更加稳定。在8个常用的数据集上将所提算法与6个同类算法进行比较,并用SVM分类器来测试分类准确率,最终该算法得到最少1.84%,最高3.27%,平均2.75%的提升。

属性自表达的低秩无监督属性选择算法

针对现有无监督属性约简方法只单一使用子空间学习或属性选择的方法,并且忽略数据之间的内在相关性,本文提出一种新的属性选择方法。首先提出一个属性自表达损失函数加上一个稀疏正则化(l2,1-范数)实现无监督学习与属性选择。然后嵌入子空间学习方法,并使用低秩约束和图正则化项考虑数据的全局结构和局部结构。经聚类实验验证,该算法较对比算法能取得更好的效果。

基于LPCA的谱聚类算法

针对传统谱聚类在构建关系矩阵时只考虑样本的全局特征而忽略样本的局部特征、在聚类划分时通常需要指定聚类个数、无法对交叉点进行正确划分等问题,提出了一种改进的基于局部主成分分析和连通图分解的谱聚类算法。首先自动学习挑选数据集的中心点,然后使用局部主成分分析得到数据集的关系矩阵,最后用连通图分解算法完成对关系矩阵的划分。实验结果表明该改进算法性能优于现有经典算法。

变精度不协调SFD信息系统中的拓扑学方法

通过介绍模糊决策精度的概念,引入变精度不协调SFD信息系统;利用拓扑学中的连通性,在变精度不协调SFD信息系统中提出连通下(上)近似变精度协调集和连通下(上)近似变精度约简的概念;给出通过辨识函数计算连通下(上)近似变精度约简的方法,并给出了一个算例.