基于高光谱维数约简与植被指数估算冬小麦叶面积指数的比较

高光谱遥感反演LAI时,由于实际样本数远小于光谱维数,易导致基于全谱段建立的模型不稳定。针对该问题,该文提出将基于原始光谱反射率与LAI相关性和基于光谱曲线特征的2种波段选择方式分别与主成分回归(PCR)或偏最小二乘回归(PLSR)结合的高光谱维数约简方法,估算冬小麦LAI。并选择归一化植被指数(NDVI)、增强型植被指数(EVI)、重归一化植被指数(RDVI)、修正土壤调节植被指数(MSAVI)和三角形植被指数(TVI)5种代表性植被指数,利用2009、2010年实测大田冬小麦冠层高光谱和LAI数据,将提出的基于维数约简的方法与基于植被指数的LAI估算方法进行了比较,独立样本集验证结果和交叉验证结果均表明,提出的基于维数约简的方法比基于植被指数方法的估算精度高,在交叉验证结果中,基于维数约简的方法R2最高达到0.818,相应RMSE为0.685。该研究可为后续基于高光谱的LAI估算提供参考。

网络流量异常检测中的维数约简研究

对包含大流量数据的高维度网络进行异常检测,必须加入维数约简处理以减轻系统在传输和存储方面的压力。介绍高速网络环境下网络流量异常检测过程以及维数约简方式,阐述流量数据常用特征和维数约简技术研究的最新进展。针对网络流量特征选择和流量特征提取2种特征降维方式,对现有算法进行归纳分类,分别描述算法原理及优缺点。此外,给出维数约简常用的数据集和评价指标,分析网络流量异常检测中维数约简技术研究面临的挑战,并对未来发展方向进行展望。

一种基于L_(2,1)范数的PCA维数约简算法

传统PCA存在对异常值和特征噪声敏感等问题,基于L2,1范数的PCA算法改进了这些缺点。现有的基于L2,1范数的PCA算法是通过降低矩阵的秩来实现维数约简,而秩的计算复杂。针对这一问题,提出一种新的维数约简算法。该算法提出利用迹范数代替矩阵的秩来简化L2,1-PCA的计算,提高算法效率;对于算法的求解提出了基于拉格朗日乘子的方法并将算法应用扩展Yale B人脸数据集进行图像去噪。可视化的实验结果表明所提出的算法有效。

流形学习中非线性维数约简方法概述

较为详细地回顾了流形学习中非线性维数约简方法,分析了它们各自的优势和不足。与传统的线性维数约简方法相比较,可以发现非线性高维数据的本质维数,有利于进行维数约简和数据分析。最后展望了流形学习中非线性维数方法的未来研究方向,期望进一步拓展流形学习的应用领域。

基于主元分析和互信息维数约简策略的网络入侵异常检测

针对网络入侵异常检测模型输入特征的高维共线性问题,以及网络环境动态变化频繁等问题,文章提出基于主元分析(PCA)和互信息(MI)维数约简策略的快速网络入侵异常检测模型构建方法。该方法首先通过基于PCA的特征提取技术对输入变量进行潜在特征提取,消除变量间的共线性;然后采用基于MI的特征选择技术对PCA提取的潜在变量进行选择,进而实现与异常检测模型输出类别最为相关的相互独立的特征变量的选择;最后,以这些特征输入,基于具有较快学习速度的随机向量泛函联接(RVFL)网络建立检测模型。在国际KDD99数据集上的仿真实验表明所提方法能够合理提取和选择特征,具有较快的学习速度和较好的推广性。

变流器故障特征提取与维数约简方法研究

针对风电变流器故障信号非平稳、非线性的特性,结合经验模态分解(EMD)对非线性信号处理的自适应性和分形盒维数能对非线性行为定量描述的特点,提出基于EMD与分形的变流器故障特征提取方法。逆变输出三相电压信号经EMD处理后,将所得的含故障特征的固有模态分量的信息熵作为能量分布特征,分形盒维数作为结构特征,2种特征量结合较之前单一特征量更能精确反映变流器故障状态。但该特征提取法容易引发维数灾难,因此引入有监督增量式正交判别邻域保持嵌入流形学习方法来对故障特征进行维数约简,研究参数k,d的选择问题,加入类标签信息增强局部类内几何关系、最大化类间距离,并根据流形采样密度和曲率对k进行自适应调节。基于关联维数对吸引子不均匀性反应敏感,更能反映吸引子动态结构的特性,利用其对d进行估计,弥补通常情况下参数d难以确定的不足。通过Matlab仿真,验证了所提方法对变流器故障识别的准确性与有效性,且识别率提高明显。

基于半监督典型相关分析的多视图维数约简

为了有效地在半监督多视图情景下进行维数约简,提出了使用非负低秩图进行标签传播的半监督典型相关分析方法。非负低秩图捕获的全局线性近邻可以利用直接邻居和间接可达邻居的信息维持全局簇结构,同时低秩的性质可以保持图的压缩表示。当无标签样本通过标签传播算法获得估计的标签信息后,在每个视图上构建软标签矩阵和概率类内散度矩阵,然后通过最大化不同视图同类样本间相关性的同时最小化每个视图低维特征空间类内变化来提升特征鉴别能力。实验结果表明,所提方法比已有相关方法能够取得更好的识别性能且更鲁棒,是有效的多视图维数约简方法。

基于邻域自适应LLTSA维数约简的故障诊断方法研究

针对线性局部切空间排列(LLTSA)在进行故障特征降维时邻域大小难以确定的问题,提出了基于邻域自适应线性局部切空间排列(NA-LLTSA)维数约简的故障诊断方法。即首先从机械振动信号中全面提取出高维的混合故障特征集;其次采用基于Parzen窗概率密度的邻域自适应线性局部切空间排列进行维数约简,获得低维特征;最后通过支持向量机(SVM)来建立低维特征与故障类别的对应关系,实现故障诊断。NA-LLTSA维数约简增强了故障特征的辨识能力,而SVM优异的模式识别能力能够进一步提高故障诊断精度。滚动轴承的故障诊断实例验证了所提故障诊断方法的有效性。

多标记学习自编码网络无监督维数约简

多标记学习是针对一个实例同时与一组标签相关联而提出的一种机器学习框架,是该领域研究热点之一,降维是多标记学习一个重要且具有挑战性的工作。针对有监督的多标记维数约简方法,提出一种无监督自编码网络的多标记降维方法。首先,通过构建自编码神经网络,对输入数据进行编码和解码输出;然后,引入稀疏约束计算总体成本,使用梯度下降法进行迭代求解;最后,通过深度学习训练获得自编码网络学习模型,提取数据特征实现维数约简。实验中使用多标记算法ML-k NN做分类器,在6个公开数据集上与其他4种方法对比。实验结果表明,该方法能够在不使用标记的情况下有效提取特征,降低多标记数据维度,稳定提高多标记学习性能。

对称局部保持的半监督维数约简算法

针对自然界较多图像具有对称的特点以及数据分布大多呈一定的流形结构情况,提出了一种对称局部保持的半监督维数约减(SLPSDR)算法.该算法使用矩阵定义维数约减映射矩阵元素之间的关系,使图像中对称的像素点对应的映射矩阵的值之间的差别最小;同时为了利用无标签训练样本保持数据的流形结构,要求低维空间中每个点的邻域关系与高维空间中的邻域关系相似.在CMU PIE、Extend Yale B、ORL、AR人脸数据库上的实验结果表明,图像数据明显的对称特点使得SLPSDR算法优于其他对比的维数约减算法.

球磨机振动信号多传感器融合特征维数约简

针对球磨机筒体振动信号中磨机负荷状态信息难以识别的问题,提出一种基于集成矩阵距离测度的监督二阶张量局部保持投影(SSTLPP-IMDM)算法的多传感器融合特征维数约简方法。首先,以二阶张量作为球磨机筒体振动信号特征融合的表现形式,通过对传统张量局部保持投影(TPPP)算法进行改进,提出SSTLPP-IMDM算法,对多传感器特征矩阵进行维数约简。最后,将提出的方法运用于球磨机磨矿作业,对磨机负荷进行识别,通过实验数据进行验证,验证该方法的有效性和优越性。

基于两阶段流形学习的半监督维数约简算法

为克服直接从高维数据建立数据的流形结构,导致对分类有效的流形结构不够突出的问题,提出一种基于两阶段流形学习的半监督维数约简算法(TSMSDR)。利用原始高维数据建立流形结构,将训练数据映射到低维空间,利用低维空间的训练数据建立新的流形结构,在新建立的流形结构的基础上得到最终的映射矩阵。实验结果表明,在CMU PIE、Extend YaleB、ORL、AR等4个人脸数据库上,TSMSDR算法明显优于其它对比的维数约减算法。

基于统计判据的非线性维数约简

现有非线性维数约简算法均需要人工设定适当的邻域点数k(或者邻域半ε)才能获得合理的嵌入结果．但常用的基于嵌入残差的邻域参数选择方法本质上是循环依赖的,不能有效工作．为实现非线性维数约简算法的定量评价的参数辨识,从讨论优化嵌入的基本判定原则出发,给出了基于空域互信息和正则依赖指数谱的优化嵌入判据实现嵌入质量的定量评价和非线性维数约简算法的非监督参数辨识．仿真实验表明,直观的嵌入质量可被优化嵌入判据有效反映,且由嵌入集拟合恢复原数据集时的拟合精度与优化嵌入判据之间存在显著的正相关．

诱导核空间选择的LPKHDA维数约简算法

混合鉴别分析(hybrid discirminant analysis,HDA)融合了主元分析和线性鉴别分析的优点,适合更多的数据分布,在实际应用中取得了较好的效果。然而HDA不适合复杂、非线性数据结构的维数约简。首先通过特征映射把数据样本映射到高维线性空间,然后建立线性HDA模型,基于流形学习理论和LSSVM(least square support vector machine)框架,给出了保持数据局部结构的核HDA(locality preserving kernel HDA,LPKHDA)算法。提出了基于散度矩阵的诱导核空间选择方法,通过把模型参数选择问题转化为最优诱导核空间选择问题来求取最优模型参数,通过梯度下降法求取核函数参数和散度矩阵系数最优值。基于Adaboost实现了LPKHDA算法。在UCI数据和人脸图像上进行仿真实验,结果表明与HDA算法相比,新算法不仅较好地解决了模型参数选择问题,且具有较好的性能。

基于面向分类准则的维数约简及其在人脸识别中的应用

针对高维数据导致的维数灾难问题,提出了一种基于面向分类准则的维数约简方法。所提准则使每个训练样本在特征空间中与同类样本尽可能接近,而与异类样本尽可能疏远。首先对每个训练样本定义同类样本加权平均距离和异类样本加权平均距离。然后基于上述两个概念分别定义总体同类距离和总体异类距离。以最小化总体同类距离和最大化总体异类距离为目的提出了面向分类的准则(Classification Oriented Criterion,COC)。最后,基于面向分类的准则推导出了一种新的维数约简方法。在公共人脸数据库ORL和Yale上的实验表明所提方法性能优于有代表性的维数约简方法。

基于最长轨迹投影的3D空间手写字符维数约简

提出一种基于最长轨迹投影的3D空间手写字符维数约简算法。首先,获取运动指尖的3D坐标,依次连接坐标点生成3D运动轨迹;将3D轨迹上所有的点分别投影到XOY、XOZ、YOZ平面形成2D轨迹;分别计算3个平面内的2D轨迹上相邻点的长度和,选择长度和最大的平面作为最佳投影平面。实验结果表明,所提算法可以得到固定方向的2D图像,不需要方向调整算法,就能够使3D空间手写字符的识别率达到96. 2%。

基于维数约简与特征选择的PGS方法在数据处理中的应用

特征选择和维数约简在机器学习、模式识别和数据挖掘领域是很常用的方法。它们之间也具有一定的联系。但对它们的融合应用1／1前很少研究，从而融合特征选择和维数约简的思路被提出。该思路融合了主成分分析方法和遗传算法，提出PGS方法。并把它应用于基因microarray数据的预测分类，取得了较好的效果。

实值多变量维数约简:综述

维数约简作为机器学习的经典问题之一,主要用于处理维数灾问题、帮助加速算法的计算效率和提高可解释性以及数据可视化.传统的维数约简算法如主成分分析(Principal component analysis,PCA)和线性判别分析等只能处理无标签数据或者分类数据.然而,当预测变量为一元或多元连续型实值变量时,这些处理无标签数据或分类数据的维数约简方法则不能形成有效的预测性能.近20年来,有一系列工作从多个角度对这一问题展开了研究,并取得了系统性的研究成果.在此背景下,本文将综述这些面向回归问题的降维算法,即实值多变量维数约简.本文将介绍与实值多变量维数约简密切相关的基本概念、算法、理论,并探讨一些潜在的研究方向.

KPCA维数约简研究

在对数据分析与处理时,为了避免高维数据所带来的巨大运算开销,通常需要对原始数据进行维数约简。与基于线性投影的维数约简方法相比,基于核方法的维数约简由于能够实现对样本的非线性映射,因此在数据预处理中具有更大的优势。对基于核方法的主成分分析(KPCA)维数约简方法进行研究,并通过实验结果证明KPCA不仅能够实现数据的降维,还具有增强数据线性可分性的优势。

基于半监督LLTSA维数约简的故障诊断

线性局部切空间排列(LLTSA)为无监督的维数约简方法,在对高维故障特征集进行维数约简时,不能利用部分样本的类别标签信息,使得获得的低维特征仍出现混叠的情况。针对这个问题,提出了半监督线性局部切空间排列(SS-LLTSA)的维数约简方法,即利用部分标签信息来调整样本点与点之间的距离以形成新的距离矩阵,通过新的距离矩阵进行邻域构建,实现了数据本质流行结构和类别标签信息的结合,能够提取区分度更好的低维特征。此外,还通过支持向量机(SVM)来建立低维特征与故障类别的对应关系,实现故障诊断。SS-LLTSA维数约简增强了故障特征的辨识能力,而SVM优异的模式识别能力能够进一步提高故障诊断精度。滚动轴承的故障诊断实例验证了所提故障诊断方法的有效性。