高维数据空间的性质及度量选择

高维数据分析是机器学习和数据挖掘研究中的主要内容,降维算法通过寻找数据表示的最优子空间来约减维数,在降低计算代价的同时,也提高了后续分类或者聚类算法的性能,从而成为高维数据分析的有效手段。然而,目前缺乏高维数据分析的理论指导。对高维数据空间的统计和几何性质进行了综述,从不同的角度给出了高维数据空间中"度量集中"现象的直观解释,并讨论了通过度量选择的方式来提高经典的基于距离度量的机器学习算法在分析高维数据时的性能。实验表明,分数距离度量方式可以显著提高K近邻和Kmeans算法的性能。

基于非对称多值特征杰卡德系数的高维语义向量差异性度量方法

语义向量差异性度量是采用深度学习方法解决自然语言处理领域问题的重要基础。在高维语义向量差异性度量中存在"度量集中"问题,导致通过传统的度量方法得到的度量结果无法体现语义向量间的差异性。针对该问题,提出一种基于非对称多值特征杰卡德系数的差异性度量方法。由高维语义向量维度值的统计分布得出,部分维度的维度值密集地分布在特定值域内,导致其无法贡献差异度,因此不同维度对差异性的贡献量不同,具有非对称性。该方法定义了关于维度值的重要性函数,选取重要性函数值满足阈值的维度参与差异度计算,去掉无法贡献差异度的维度,从而实现了降维,缓解了"度量集中"问题。分别在渔业数据集和公开数据集上,对不同维度的语义向量的不同度量方法进行了比较,结果表明在语义性没有明显变差的情况下,所提方法的多样性指标较目前最优的度量方法有大幅提高。

高维空间可分性指标在转子诊断系统优化中的应用

二叉树相关向量机系统中正负类样本的选取往往通过方差进行可分性度量。常用的高斯核函数是在高维空间中完成分类,由于高维空间中数据点存在度量集中现象,欧氏距离往往并不能较好地度量样本点的可分性。分数范数计算出的高维空间距离差异性更大,故构造了一种基于分数范数的样本点距离度量指标。基于该指标优化各层分类器样本选取,通过实验1验证了基于高维可分性指标优化后的系统相较于欧氏距离优化后的系统在分类精度上有了较为显著的提高;实验2表明优化后的系统与智能诊断算法相比,在分类精度和耗时方面也具有优势。