一种多局部线性模式保持的降维算法

为了更准确地捕捉数据的局部非线性结构,提出一种基于多局部线性模式保持的降维算法。该文通过局部区域线性重构相应的数据点,利用方向导数代替一阶泰勒展开式中的梯度,降低逼近误差;利用多重线性模式表征数据点,从而更精确地描述数据的局部非线性几何特征;进一步通过最小化嵌入数据空间中的多局部线性重构误差得到嵌入结果。在4个合成数据集和6个真实数据集上实验,结果表明提出方法能够准确捕捉数据的多个非线性结构。

多频激励局部非线性系统响应求解的降维增量谐波平衡法

针对传统增量谐波平衡法求解多频激励局部非线性系统周期响应耗时太长的问题,提出了降维增量谐波平衡方法。首先通过谐波平衡理论分析了多频激励局部非线性系统响应中各自由度各次谐波的定量对比关系,并且根据该定量对比关系使系统的维数降至与非线性自由度个数相同;其次针对降维后的复数非线性系统推导了多频增量谐波平衡法,以及原系统各自由度各阶响应的还原方法;最后利用双频激励局部非线性悬臂梁系统进行了所提方法的精度和效率验证。结果表明:该方法的精度与传统方法一致,但是在局部非线性自由度较少时其效率远高于传统方法。

基于改进有监督局部线性嵌入的地震属性降维优化

为克服直接从地震资料中获取的地震属性具有维数高、数据量大、信息冗余、高度非线性,且数据样本缺乏先验知识分类等缺陷,用基于等价关系的模糊聚类方法对有监督局部线性嵌入算法进行改进,将其应用于地震属性的非线性降维优化,实例表明其地震属性降维优化效果优于常规线性降维方法,为地震资料解释处理、储层预测及物性参数反演提供了良好可靠的数据资料。

一种邻域竞争线性嵌入的降维方法

针对局部线性嵌入算法处理稀疏数据失效的问题,提出一种基于邻域竞争线性嵌入的降维方法。利用数据的统计信息动态确定局部线性化范围,并采用cam分布寻找数据点的近邻,避免了近邻选取方向的缺失。在数据集稀疏的情况下,通过对数据点近邻做局部结构的提取,该算法能够很好地把握数据的局部信息和整体信息。为了验证算法的有效性,将该算法应用于手工流形降维和对Corel数据库进行图像检索等,结果表明该算法不仅有较好的降维效果,而且具有很好的实用价值。

局部线性嵌入和深度自编码网络的降维方法的比较

作为非线性降维的有效算法,局部线性嵌入(Locally linear embedding)(LLE)和深度自编码网络,被广泛应用于数据挖掘、故障诊断、模式识别等多种领域。本文采用定性与定量相结合的方法,对两种算法进行了对比研究。对LLE算法的基本原理进行了简单介绍。描述了深度自编码网络的理论与模型。提供了数值实验分析,在可视化,人脸识别以及文本检索方面,对两种降维方法进行比较,得到各自适用的优缺点。

基于局部约束字典学习的非线性降维人脸识别

针对现有的非线性降维(NLDR)算法复杂度高而不能很好地处理现实世界大规模数据集的问题,提出了基于局部约束字典学习的非线性降维(LCDL-NLDR)方法。首先通过一些潜在的标志点重构极小的内在流形;并将训练数据和未知数据自然地嵌入到内部流形中;然后利用局部约束字典学习(LCDL)算法在非线性流形中学习由标志点组成的紧密原子集;最后利用最近邻分类器完成人脸的识别。在扩展的YaleB及CMU PIE两大人脸数据库上的实验,验证了所提方法的有效性及鲁棒性。通过与几种先进的字典学习算法比较表明,所提算法提高了嵌入质量,取得了更高的识别率,同时也大大地降低了NLDR算法的复杂度。

改进的局部线性嵌入及其混成数据降维算法

基于核的主成分分析(PCA)方法可以有效提取非线性特征,但存在主成分含义模糊、降维分类结果不理想等问题。为了解决上述问题提高数据分类的准确性,提出了一种基于局部线性嵌入(LLE)思想和核主成分分析相结合的算法(KPCA-L)。在该算法中首先对LLE进行了改进,使用最短路径算法计算两个样本点间的距离;在此基础上使用局部线性嵌入与核主成分分析(KPCA)混成的降维算法对数据集进行降维。最后在基准数据集上进行了算法性能对比,特别在Isolet数据集上该算法的分类准确性相对PCA、LLE和KPCA分别提高了12.49%、2.86%和3.52%,提高了PCA对平移的鲁棒性以及数据分类性能。

融合切空间度量的判别相似自适应局部线性嵌入算法

局部线性嵌入(LLE)算法是一种经典的流形降维算法,具有良好的特征提取能力,在故障诊断领域应用广泛。然而,LLE算法固有的缺陷例如对邻域参数选择敏感、挖掘的结构单一等问题,使得它在实际应用中提取的特征存在判别能力较差的问题。为此,提出判别相似性和切空间自适应邻域的局部线性嵌入(DSTANLLE)算法,并将它用于轴承故障诊断。首先使用融合切空间的新度量方式评估样本之间的局部相似性,其次构造自适应邻域图为每个样本点选择邻居,最后加入判别相似信息以提取数据的判别结构。在2个人工合成数据集和2个轴承故障数据集上的实验结果表明,DSTANLLE算法可以提取数据中区分性显著的特征,且在轴承故障诊断应用中的总体识别精度(OA)最高可达100%。

邻域参数动态变化的局部线性嵌入

局部线性嵌入是最有竞争力的非线性降维方法,有较强的表达能力和计算优势.但它们都采用全局一致的邻城大小,只适用于均匀分布的流形,无法处理现实中大量存在的非均匀分布流形.为此,提出一种邻域大小动态确定的新局部线性嵌入方法.它采用Hessian局部线性嵌入的概念框架,但用每个点的局部邻域估计此邻域内任意点之间的近似测地距离,然后根据近似测地距离与欧氏距离之间的关系动态确定该点的邻域大小,并以此邻域大小构造新的局部邻域.算法几何意义清晰,在观察数据稀疏和数据带噪音等情况下,都比现有算法有更强的鲁棒性.标准数据集上的实验结果验证了所提方法的有效性.

非线性降维算法及其在医院绩效考核上的应用

流形学习算法中的等距嵌入算法(ISOMAP)具有对离群点敏感的瑕疵,针对此问题,提出利用基于共享近邻的距离度量方式,并充分利用了流形上对象的局部密度信息,有效改善了算法的性能,提高了算法的健壮性。同时,首次尝试将该改进的流形学习算法应用于医院绩效考核。人工数据与真实数据上的实验表明,改进的算法健壮且有效,在绩效考核上应用成功。

利用非线性降维方法预测膜蛋白类型

将氨基酸的组成含量以及它们之间的相关系数作为膜蛋白序列的特征向量,采用有监督的局部线性映射(SLLE)的方法对该向量进行降维,并使用最简单的欧氏距离分类器来预测膜蛋白类型.利用统计学中Self-consistency,Jackknife和Independentdataset3种典型方法检验SLLE的降维结果,取得了明显的效果.试验结果表明,SLLE算法能够成功地预测膜蛋白数据类型.

改进的非线性数据降维方法及其应用

局部线性嵌入算法(Locally Linear Embedding,LLE)是基于流形学习的非线性降维方法之一。LLE利用样本点的近邻点的线性组合对每个样本点进行局部重构,而不同近邻个数的选取会产生不同的重构误差,从而影响整体算法的实施。提出了一种LLE的改进算法,算法有效地降低了近邻点个数对算法的影响,并很好地学习了高维数据的流形结构。所提方法的有效性在人造和真实数据的对比实验中得到了证实。

小世界邻域优化的局部线性嵌入算法

通过分析稀疏数据或噪声数据,导出局部线性嵌入(LLE)算法出现失效的原因,由此提出了一种基于小世界邻域优化的局部线性嵌入(SLLE)算法.将复杂网络算法引入到流形学习中,利用小世界算法对LLE算法进行数据优化,并以最短路径和局部集群系数作为局部优化参数,解决了数据点不规则时以欧氏空间作为邻域判别标准在构建局部超平面造成嵌入结果扭曲的难题.通过3组标准测试数据集合比较了SLLE、LLE算法,结果表明SLLE算法的计算效果、鲁棒性、非理想数据的降维结果均优于LLE算法,且计算正确率至少提高10%.

基于流形学习的高光谱图像非线性降维算法

针对高光谱图像同一像元内存在多种地物种类,且地物之间具有多重反射,导致高光谱数据的非线性,采用传统的线性降维算法效果不佳等问题,提出利用流形学习的方法来寻找嵌入在高维观测数据空间的低维光滑流形,实现高光谱数据的非线性光谱降维。模拟和真实高光谱遥感数据实验结果表明,与传统的线性降维方法 PCA相比,经过等距映射、局部切空间排列等流行学习算法降维后的高光谱图像具有更好的光谱端元可分性。

流形学习中三种非线性降维算法的比较研究

介绍了流形学习中Hessian特征映射、拉普拉斯特征映射和局部切空间排列3种非线性降维算法的概念和实现步骤,并基于三维的Swiss Roll数据点集通过实验对3种算法在参数选择和运算效率等方面进行了比较分析,期望为不同应用提供参考.

一种邻域线性竞争的排列降维方法

局部线性嵌入算法以及局部切空间排列算法是目前对降维研究有着重要影响的算法,但对于稀疏数据及噪声数据,在使用这些经典算法降维时效果欠佳。一个重要问题就是这些算法在处理局部邻域时存在信息涵盖量不足。对经典算法中全局信息和局部信息的提取机制进行分析后,提出一种邻域线性竞争的排列方法(neighborhood linear rival alignment algorithm,NLRA)。通过对数据点的近邻作局部结构提取,有效挖掘稀疏数据内部信息,使得数据整体降维效果更加稳定。通过手工流形和真实数据集的实验,验证了算法的有效性和稳定性。

基于非线性降维的高光谱混合像元分解算法

研究遥感图像处理混合像元分解问题,由于遥感图像中包含很多混合像元,影响图像的质量。传统的解混算法是以线性光谱混合模型为基础,因此解混精度不高。针对遥感图像中存在的非线性光谱混合,从数据统计的角度,提出一种基于光谱夹角距离的局部切空间排列算法进行非线性降维的光谱解混算法。首先通过基于光谱夹角距离的局部切空间排列算法将原始高光谱数据非线性降维到低维空间,再利用寻找最大单形体体积的方法提取端元,并用非负约束的最小二乘法计算各个端元的丰度。通过仿真和真实高光谱遥感数据实验结果表明,得到的分解结果优于测地线的最大单形体体积(GSVM)算法和N-FINDR算法,为提高遥感图像分解精度提供了参考。

基于自适应邻域选择的局部线性嵌入算法

为了提高高维数据维数约简的计算效率,基于局部邻域相关的权重与稀疏矩阵,提出了1种改进的局部线性嵌入算法。对于高维数据维数约简的信息量估计,采用了相关维数估计方法来计算一致流形信息量的上界。采用Swiss、Broken swiss、Helix、Twinpeaks和Intersect 5种经典数据集进行实验评估。实验结果显示,与局部线性嵌入算法相比,针对5种经典数据集,该文算法速度分别提高了27.60%、27.51%、27.18%、28.31%和45.28%。

自适应局部线性降维方法

高维数据降维方法已经被广泛应用在信息检索、模式识别、数据挖掘和人工智能等领域。针对目前流形学习方法的嵌入效果非常敏感于局部邻域的选取方式,提出一种自适应邻域选择的局部线性降维方法。该方法评估真实数据的固有维数,判断每一数据点的局部切方向,以便自适应地选择每一数据点的邻域数,使得不同数据集与邻域选取方式之间存在很好的自适应性,实现更好的降维效果。在人工生成数据集和医学数据上的仿真结果表明,该方法起到了良好的降维效果。

两类非线性降维流形学习算法的比较分析

流形学习(Manifold Learning)算法是近年来发展起来的非线性降维机器学习算法。目前的流形学习算法大体可以分为两类:全局的(如等度规映射)和局部的(如局部线性嵌套),它们有各自的优点和不足。以等度规映射(ISOMAP)和局部线性嵌套(LLE)为例,通过实验比较分析了这两类算法在参数选择、前提条件和执行效率上的特点,期望为不同应用提供参考。