基于子空间字典低秩表示的流形投影学习

低秩表示(Low-Rank Representation,LRR)能够将每个数据点表示为若干个基的线性组合,是一种获取样本底层低维结构的方法。然而,大多数LRR方法使用原始数据集作为字典,这不能揭示数据的真实分割。本文提出了基于子空间字典低秩表示的流形投影学习:该方法学习最优子空间作为LRR问题的字典,而不是使用原始数据集;利用基数最少的方案,低秩表示矩阵能很好地恢复原始数据;通过对投影矩阵施加行稀疏约束,该方法不仅可以选择鉴别性特征并忽略冗余特征,而且使子空间学习具有很好的解释性。此外,通过引入流形结构保持约束,使得样本的原始表示和距离信息在投影下保持不变。在多个真实世界数据集上的实验结果表明,该方法优于最近提出的一些相关方法。

基于电子鼻和改进无监督鉴别投影算法的大闸蟹新鲜度识别方法

通过自制电子鼻系统采集活体大闸蟹的气味信息,采用流行学习算法对大闸蟹样本的多维特征响应进行降维,提取样本的低维特征向量,再利用反向传播神经网络实现对大闸蟹新鲜度的识别,并与理化指标挥发性盐基氮进行比较。结果表明,基于该算法的大闸蟹新鲜度识别的准确度可达到98.1%,且依据电子鼻技术与依据理化指标判断结果基本一致,因此采用电子鼻技术的大闸蟹新鲜度无损识别方法是可行的。

基于无监督判别投影的滚动轴承故障诊断

针对滚动轴承故障样本不平衡和故障特征存在冗余性问题,提出了基于无监督判别投影(UDP)的滚动轴承故障诊断方法。该方法首先从时域和时频域提取多个特征参数,从而构造一个原始的高维特征集,随后运用UDP算法从该特征集中提取最敏感的低维流形特征,最后利用K-近邻分类器识别出滚动轴承的运行状态。将该方法分别应用于轴承故障类型和内圈故障严重性的识别,并与传统方法进行了比较,验证了该方法的可行性和优越性。

基于图的有监督判别投影

无监督鉴别投影没有利用样本类别标签,所以没有利用样本的鉴别信息。该文在无监督鉴别投影算法的基础上提出了基于图的有监督判别投影(graph-based supervised discriminant projection,GSDP)算法,利用吸引图和排斥图设计目标函数进行特征抽取,建立吸引图的目的是使同类但不是近邻的样本互相吸引,建立排斥图的目的是击退近邻但不是同类的样本。在Feret,Yale和Orl这3个标准人脸库上的大量实验表明了该算法的有效性。

核无监督鉴别投影及人脸识别

提出一种基于核方法的无监督鉴别投影,在较好地描述人脸图像的同时,对图像进行有效地分类。对核局部保留投影(KLPP)和无监督鉴别投影技术(UDP)进行了相应的研究,将两者互相结合。该方法同时考虑到样本的局部特性和非局部特性,有效地利用了对分类有用的重要信息;此外,将核方法和流形学习方法结合起来,有效地描述人脸图像的非线性变化,对于人脸识别问题有较好的效果。在Yale库上的实验表明,该方法的识别率明显高于UDP和PCA,且有较好的分类效果。

增强的无监督人脸鉴别技术

增强的独立分量分析(EICA)是一种基于样本整体特征的无监督特征抽取方法,并没有考虑样本的局部特征,因此EICA不利于处理人脸识别这类非线性问题的。无监督鉴别投影技术(UDP)用于高维数据压缩,其基本思想是寻找一组有效的投影方向,使得样本投影后,局部散度最小同时非局部散度最大。UDP同时考虑到样本的局部特征和非局部特征,能够反映样本内在的数据关系,因此UDP能够对样本有效地分类。提出了一种增强的无监督人脸鉴别技术,该方法结合了EICA和UDP的优点,能够:(1)反映样本高阶统计特征;(2)发掘样本内在的几何结构,从而有利于分类。在Yale人脸库和FERET人脸库上的实验验证了该算法的有效性。

基于核正交半监督鉴别分析的人脸识别算法

针对人脸识别中的非线性特征提取和有标记样本不足问题,提出了在核空间具有正交性半监督鉴别矢量的计算方法。算法利用核函数将人脸数据映射到高维非线性空间,在该空间采用边界Fisher判别分析(Marginal Fisher Analysis,MFA)算法将少量有类别标签样本进行降维,同时采用无监督鉴别投影(Unsupervised Discriminant Projection,UDP)对大量无标签样本进行学习,以半监督的方法构造算法的目标函数,在特征值求解时以正交方式找出最优投影向量,进行人脸识别。通过实验,在ORL和YALE人脸数据库上验证了该算法的有效性。

一种半监督流形学习的人脸识别方法

针对传统线性降维方法忽略数据局部结构特性的问题,提出了一种基于半监督流形学习的方法。针对人脸识别采用图像欧式距离来选择各样本点的K近邻,由此得到修改后无监督判别投影中的邻接矩阵,在传统的无监督判别投影中,融入类标签信息获得几何最优投影。通过在人脸库上的大量比较实验,验证了该方法的准确性和有效性。

一种自适应邻域选择半监督判别分析算法

为克服边界Fisher判别分析(MFA)只利用少量有标记样本和构建邻域不能充分反映流形学习对邻域要求的缺点,提出一种基于局部线性结构的自适应邻域选择半监督判别分析的算法。采用自适应算法扩大或者缩小近邻系数k来构建邻域以保持局部线性结构。MFA通过少量有类别标签样本进行降维的同时UDP对大量无标签样本进行学习,以半监督的方法对高维人脸数据进行维数约减。最后,在ORL和YALE人脸数据库通过实验结果验证了该算法的有效性。

直接无监督正交局部保持特征提取算法

基于局部保持投影发展出的一系列特征提取算法,在应用于人脸识别等高维小样本问题时,均需先采用PCA算法对高维样本降维后才能应用,故此以无监督鉴别分析算法为理论基础,提出了一种直接无监督正交局部保持算法。该算法利用拉普拉斯矩阵的性质进行相应的矩阵分解,可直接从高维样本的原始空间中提取投影矩阵,因而无需先采用PCA降维处理,且解决了无监督鉴别分析算法的小样本问题。为了进一步提高算法的识别性能,给出了基于QR分解的正交投影矩阵的求解方法。人脸库和掌纹库上的实验结果表明了所提算法的有效性。

人脸识别中适合于小样本情况下的监督化拉普拉斯判别分析

提取有效特征对高维数据的模式分类起着关键的作用.无监督判别投影,通过最大化非局部散度和局部散度之比,在数据降维和特征提取上表现出较好的性能,但是它是一种非监督学习算法,并且存在小样本问题.针对这些问题,提出了监督化拉普拉斯判别分析,算法在考虑非局部散度和局部散度时考虑了样本的类别信息;通过丢弃总体拉普拉斯散度矩阵的零空间,并将类内拉普拉斯散度矩阵投影到总体拉普拉斯散度矩阵的主空间中,然后在该空间中进行特征问题的求解,从而避免了小样本问题.通过理论分析,该算法没有任何判别信息损失,同时在计算上效率也较高.在人脸识别上的实验验证了算法的正确性和有效性.

最大散度差无监督鉴别特征抽取与人脸识别

最大散度差准则是对Fisher准则的改进,消除了小样本问题,但是该方法是基于整体特征的人脸识别方法,没有考虑到样本的局部特性。无监督的鉴别投影(UDP)技术,用于对高维数据进行维数缩减,它同时考虑到样本的局部特征和非局部特征,但是在人脸等高维图像识别的应用中,不可避免地会出现小样本问题。提出一种基于散度差的无监督鉴别特征抽取,避免了局部协方差奇异所产生的问题。在ORL人脸库和AR人脸库上的实验结果验证了该算法的有效性。

分类先验特征选择算法在代谢组学数据变量筛选中的应用

该文提出了基于无监督判别投影特征选择的支持向量机方法(UDPFS-SVM)用于标志物筛选。UDPFS-SVM首先通过无监督判别投影算法(UDPFS)引入分类先验信息、添加正则化与惩罚函数等约束自适应地获得具有稀疏性的判别投影矩阵,然后根据获得的矩阵求得相应低维代谢矩阵,最后建立支持向量机(SVM)分类模型寻找生物标志物。所提出的方法能够同时进行模糊学习与稀疏学习,并可合理利用变量之间的依赖关系。通过UDPFS-SVM与偏最小二乘判别分析(PLS-DA)方法对高脂血症大鼠血浆代谢组学数据进行变量筛选,并采用方差分析、ROC曲线、线性判别分析(LDA)对筛选得到的生物标志物进行评价。结果表明,两种方法均发现8个生物标志物。方差分析显示UDPFS-SVM方法获得的生物标志物均具有显著性差异,且显著性差异值均大于PLS-DA;ROC结果显示UDPFS-SVM结果为1.00,比PLS-DA结果高0.05;LDA显示UDPFS-SVM获得的生物标志物在高脂血症样本中可以更好地消除组内代谢差异,区分组间代谢差异,说明UDPFS-SVM方法在高脂血症生物标志物发现上优于PLS-DA,为生物标志物的发现提供了一种新思路。

基于仿生学的不相关局部保持鉴别分析

由于形象思维方式是人类的一种本质思维方式,人类通过各种感官来认知事物的规律性,进而提取出具有代表性的特征,因此通过形象思维的方法来提取事物的本质特征符合人类认知事物的规律.针对人脸识别中特征提取问题,该算法以形象认知规律与无监督判别投影为理论基础,提出了一种仿生不相关空间局部保持鉴别分析(biomimetic uncorrelated locality preserving discriminant analysis,BULPDA)算法.算法首先根据人类形象认知的特性构建了一种新的相似系数表示方法;然后结合不相关空间概念,确保矢量空间具有不相关性;最后给出了基于奇异值分解的矢量空间求解方法,形成了一种特征提取新思路.在标准数据库上的实验结果表明,新算法优于传统的特征提取方法和其他改进的局部保持投影方法.

基于极小准则的完备正交判别局部保持算法

以无监督判别投影算法为理论基础,提出了一种基于极小准则的完备正交判别局部保持投影算法。算法首先根据同类样本的空间信息重新定义了类内局部保持散度矩阵与类间局部保持散度矩阵,然后借鉴无监督判别投影算法的目标函数,推导出一个基于极小准则的目标函数,该目标函数通过投影到总体散度矩阵的非零空间中有效地解决小样本问题,最后给出了该算法基于QR分解的正交投影矩阵的求解方法。人脸库上的实验结果表明了所提方法的有效性。

基于独立分量分析的高光谱图像目标检测算法

提出一种基于独立分量分析(ICA)的高光谱图像目标检测算法。首先利用无监督正交子空间投影进行端元提取,并将端元矢量构成矩阵作为快速定点独立分量分析的初始化混合矩阵,解决了独立分量在排序上的随机性;同时采用基于噪声调整的主分量分析(NAPCA)对原始图像数据降维,继而采用初始化后的快速独立分量分析从保留的主分量中依次提取出目标。利用AVIRIS高光谱数据进行实验研究,结果表明提出的算法能够有效地提取图像中的目标信息,其性能优于改进的CEM检测算法。

基于UDP的特征提取算法研究

局部保持投影(LPP)算法在特征提取时仅考虑了对数据的局部信息的保持,鉴于此,本文提出无监督判别投影(UDP)算法。UDP算法通过定义局部和非局部散布度,建立一个类似Fisher的判别准则,最大化非局部散布度与局部散布度的比,选择出判别性最强的投影方向对目标数据信息进行特征提取,进而完成对目标的分类识别。实验结果证实了UDP算法的可行性。

人脸识别系统中的流形学习算法分析

近年来的研究发现,人脸可能位于一个非线性流形上。对保持近邻嵌入(NPE),局部保持投影(LPP)以及无监督分类投影(UDP)这些基于流形学习的算法思想进行了介绍,并通过实验将它们和经典的主成分分析(PCA)以及线性判别分析(LDA)算法进行了比较,最后根据在ORL和YALE人脸库上的实验结果总结了各种算法的优缺点。

基于组稀疏的参数自适应学习UDP算法

传统UDP算法的参数选择是一个经典问题,至今仍没有一种有效的方法从根本上解决这个问题。针对复杂的参数选择,提出一种基于组稀疏的参数自适应学习UDP算法(SUDP)。使用组稀疏来描述样本点的几何结构,自适应地构造样本点的近邻图,避免传统UDP算法中使用K-NN算法带来的弊端。由于稀疏表示带有天然判别信息的优势,SUDP算法比传统的UDP算法有着更强的判别能力。在6个广泛使用的人脸数据集上进行的实验,实验结果表明了SUDP算法的有效性和稳定性。