基于概率矩阵分解的不完整数据集特征选择方法

在机器学习理论与应用中,特征选择是降低高维数据特征维度的常用方法之一。传统的特征选择方法多数基于完整数据集,对实际应用中普遍存在缺失数据的情形研究较少。针对不完整数据中含有未被观察信息和存在异常值的特点,提出一种基于概率矩阵分解技术的鲁棒特征选择方法。使用基于分簇的概率矩阵分解模型对数据集中的缺失值进行近似估计,以有效测量相邻簇之间数据的相似性,缩小问题规模,同时降低填充误差。依据缺失数据值存在少量异常值的情形,利用基于l_(2,1)损失函数的方法进行特征选择,在此基础上给出不完整数据集的特征选择方法流程,并对其收敛性进行理论分析。该方法利用不完整数据集中的所有信息,有效应对不完整数据集中异常值带来的影响。实验结果表明,相比传统特征选择方法,该方法在合成数据集上选择更少的无关特征,可降低异常值带来的影响,在真实数据集上获得了较高的分类准确率,能够选择出更为准确的特征。

基于矩阵分解填充的无监督特征选择方法

无监督特征选择(Unsupervised Feature Selection,UFS)是一种应用广泛的大数据降维技术,然而传统的无监督特征选择算法并不适用于不完整数据集。近年来研究不完整数据下无监督特征选择的关键是如何依靠不完整数据中的信息以获得特征的紧凑筛选。针对不完整数据集的信息利用不够完全以及现有方法填充不够准确的特点,提出基于矩阵分解填充的无监督特征选择方法。该方法利用所有已知信息对不完整数据集进行填充,之后利用基于l_(2.1)范数的无监督最大间隔特征选择方法进行特征选择。实验结果表明,该算法提高了聚类精度和填充效果。