采用虚拟训练样本优化正则化判别分析

在模式特征子空间中选取一组标准正交向量,使用这组向量可以生成大量的虚拟训练样本,从而实现对协方差矩阵的优化.在ORL人脸库上的实验表明,优化后协方差矩阵的特征值均显著变大,使该矩阵的逆阵稳定性得到了提高.利用优化的协方差矩阵对正则化判别分析方法进行优化,其模式分类正确率有显著提高.

基于核的Fisher非线性最佳鉴别分析在人脸识别中的应用

抽取最佳鉴别特征是人脸识别中的重要一步。对小样本的高维人脸图像样本,由于各种抽取非线性鉴别特征的方法均存在各自的问题,为此提出了一种求解核的Fisher非线性最佳鉴别特征的新方法,该方法首先在特征空间用类间散度阵和类内散度阵作为Fisher准则,来得到最佳非线性鉴别特征,然后针对此方法存在的病态问题,进一步在类内散度阵的零空间中求解最佳非线性鉴别矢量。基于ORL人脸数据库的实验表明,该新方法抽取的非线性最佳鉴别特征明显优于Fisher线性鉴别分析(FLDA)的线性特征和广义鉴别分析(GDA)的非线性特征。

基于LDA算法的人脸识别方法的比较研究

线性判别分析(LDA)是一种较为普遍的用于特征提取的线性分类方法。但是将LDA直接用于人脸识别会遇到维数问题和“小样本”问题。人们经过研究,通过多种途径解决了这两个问题并实现了基于LDA的人脸识别。文章对几种基于LDA的人脸识别方法做了理论上的比较和实验数据的支持,这些方法包括Eigenfaces、Fish-erfaces、DLDA、VDLDA及VDFLDA。实验结果表明VDFLDA是其中最好的一种方法。

小样本情况下Fisher线性鉴别分析的理论及其验证

线性鉴别分析是特征抽取中最为经典和广泛使用的方法之一。近几年,在小样本情况下如何抽取F isher最优鉴别特征一直是许多研究者关心的问题。本文应用投影变换和同构变换的原理,从理论上解决了小样本情况下最优鉴别矢量的求解问题,即最优鉴别矢量可在一个低维空间里求得;给出了特征抽取模型,并给出求解模型的PPCA+LDA算法;在ORL人脸库3种分辨率灰度图像上进行实验。实验结果表明,PPCA+LDA算法抽取的鉴别向量有较强的特征抽取能力,在普通的最小距离分类器下能达到较高的正确识别率,而且识别结果十分稳定。

一种基于预分类的高效最近邻分类器算法

本文的最近邻分类器算法是采用多分类器组合的方式对测试样本进行预分类,并根据预分类结果重新生成新的训练和测试样本集。对新的测试样本采用最近邻分类器进行分类识别,并将识别结果与预分类结果结合在一起进行正确率测试。在ORL人脸库上的实验结果说明,该算法对小样本数据的识别具有明显优势。

利用标准化LDA进行人脸识别

线性判别分析 (LDA)是一种较为普遍的用于特征提取的线性分类方法 提出一种基于LDA的人脸识别方法———标准化LDA ,该方法克服了传统LDA方法的缺点 ,重新定义了样本类间离散度矩阵 ,在原始定义的基础上增加一个由类间距离决定的可变权函数 ,使得在选择投影方向时 ,能够更好地分开各个类的样本 ;同时 ,它采用一种合理而有效的方法解决矩阵奇异的问题 ,即保留样本类内离散度矩阵的零空间 ,因为这个空间包含了最具有判别能力的信息 在这个零空间里 ,寻找对应于样本类间离散度矩阵的较大特征值的特征向量作为最后降维的转换矩阵 实验结果显示 ,在人脸识别中 ,与传统LDA方法相比 ,该方法有更好的识别率

基于矩阵指数变换的边界Fisher分析

边界Fisher分析是一种经典的有监督线性降维方法,被广泛用于高维数据的模式分类.由于边界Fisher分析算法中涉及到矩阵求逆的运算,在数值计算中会产生矩阵的奇异性问题,尤其当样本的个数小于样本的维数时,导致所谓的"小样本问题".采用主成分分析方法对样本数据进行预处理可以克服奇异性问题,然而可能会损失样本的某些判别信息.针对此不足之处,根据矩阵指数的非奇异性,对边界Fisher分析中的散度矩阵进行矩阵指数变换,从而克服了矩阵求逆中的奇异性问题.理论分析表明,该方法等价于零空间上的边界Fisher分析,有效利用了类内散度矩阵的零空间上的信息,因此其判别能力得到了增强.数据可视化和人脸识别实验表明,该方法可以有效挖掘样本中潜在的判别特性,提高分类性能.

Fisher线性鉴别分析的理论研究及其应用

Fisher线性鉴别分析已成为特征抽取的最为有效的方法之一 .但是在高维、小样本情况下如何抽取Fisher最优鉴别特征仍是一个困难的、至今没有彻底解决的问题 .文中引入压缩映射和同构映射的思想 ,从理论上巧妙地解决了高维、奇异情况下最优鉴别矢量集的求解问题 ,而且该方法求解最优鉴别矢量集的全过程只需要在一个低维的变换空间内进行 ,这与传统方法相比极大地降低了计算量 .在此理论基础上 ,进一步为高维、小样本情况下的最优鉴别分析方法建立了一个通用的算法框架 ,即先作K L变换 ,再用Fisher鉴别变换作二次特征抽取 .基于该算法框架 ,提出了组合线性鉴别法 ,该方法综合利用了F S鉴别和J Y鉴别的优点 ,同时消除了二者的弱点 .在ORL标准人脸库上的试验表明 ,组合鉴别法所抽取的特征在普通的最小距离分类器和最近邻分类器下均达到 97%的正确识别率 ,而且识别结果十分稳定 .

利用Gabor小波变换解决人脸识别中的小样本问题

提出了一种在人脸识别中解决小样本问题的新算法。通过把人脸图像经过Gabor小波变换后得到的每个图像都看成是独立的样本,大大增加了每一类人脸样本的样本数,解决了人脸识别中的小样本问题。专门针对人脸特征向量组,设计了使用白化变换后余弦距离测度的最近邻分类器来进行分类判决。在FERET人脸库中,对该方法与直接PCA方法进行了实验比较,结果表明,新方法的平均正确识别率可以达到97%,比直接PCA方法具有更好的识别性能。

采用虚拟训练样本的二次判别分析方法

小样本问题会造成各类协方差矩阵的奇异性和不稳定性.本文采用对训练样本进行扰动的方法来生成虚拟训练样本,利用这些虚拟训练样奉克服了各类协方差矩阵的奇异性问题,从而可以直接使用二次判别分析(Quadratic discriminant analysis,QDA)方法.本文方法克服了正则化判别分析(Regularized discriminant analysis,RDA)需要进行参数优化的问题.实验结果表明,QDA的模式识别率优于参数最优化时RDA算法的识别率.

一种适用于小样本问题的基于边界的特征提取算法

特征提取技术是模式识别领域进行数据降维和强化判别信息的有效方法．线性判别分析是监督特征提取方法的典型代表,获得广泛应用,但受到小样本问题的制约．对此提出一种适用于小样本问题的基于边界的特征提取算法．算法利用高维数据小样本情况下线性可分概率增加以及其低维投影趋于正态分布的特点,定义了新的类别边界,不但考虑了由线性判别分析提出的类内、类间离散度,也兼顾各类别的方差差异性．通过极大化该边界获得最优投影向量,同时避免因类内离散度矩阵奇异导致的小样本问题．进一步将算法推广到多类问题．高光谱数据特征提取与分类实验表明,算法在小样本情况下对于两类和多类问题均具有良好的推广性能,优于多种线性判别分析的改进算法,并且在样本较多时也取得了满意结果．

一种基于KCCA的小样本脸像鉴别方法

基于典型相关分析和Fisher线性鉴别分析的等价性,提出了利用核典型相关分析来抽取小样本人脸图像的非线性鉴别特征,并用其进行脸像鉴别.这样得到的非线性特征本质上等价于核Fisher非线性最佳鉴别特征.基于ORL库的实验表明,对小样本人脸图像,KCCA可以得到和广义鉴别分析近似的识别性能,其所得非线性特征明显优于FLDA的线性鉴别特征.

基于Gabor变换和双方向PCA的人脸识别

提出了一种可以解决小样本问题的人脸识别新算法。算法首先把人脸图像经过Gabor小波变换后得到的每个输出图像都看成是独立的样本,从而大大增加了每一类人脸样本的样本数。然后采用双方向PCA算法来提取人脸特征,并专门设计了针对人脸特征矩阵的最近邻分类器和最小距离分类器来进行分类判决。在ORL人脸库和FERET人脸库中的实验结果表明,算法能有效地解决人脸识别中的小样本问题,甚至当每类训练样本数仅为1时,也能得到较高的识别率。

镜像基函数下过渡投影子空间人脸特征抽取算法

为强化鉴别信息的完整性,提升解决小样本问题(SSSP)的能力,该文构造了一种求解具有几何对称性的样本鉴别信息的特征抽取算法。从线性子空间的角度出发,利用人脸的几何对称性,依据奇偶分解原理,在原特征空间生成一组镜像对称基函数。构造一种矩阵变换,求出两个对称基之间的过渡矩阵,并在过渡矩阵空间上求取最优鉴别矢量集。该方法强化了鉴别信息的完整性,对解决SSSP是有效的。在ORL和FERET人脸数据库上的实验结果验证了算法的有效性。

基于行列特征复融合的人脸识别

针对基于行列投影特征融合的二维线性判别分析中存在的问题,提出一种行列特征复融合的人脸识别算法。通过二维线性判别分析获得行和列的特征矩阵融合成一个复特征矩阵,从复特征矩阵重提取最具分类能力的系数组成特征向量。利用AT&T和AR人脸数据库对该算法进行性能测试,结果表明该算法具有较高的识别率。

基于两空间线性鉴别分析的小样本人脸识别

指出了线性鉴别分析及其几种改进方法在处理小样本人脸识别问题时存在的不足,提出了一种基于两空间线性鉴别分析的小样本人脸识别方法。首先将样本投影到总体散布矩阵的非零空间中进行分析;进而将类内散布矩阵分成零空间和非零空间进行鉴别向量确定和鉴别特征提取,最后将得到的两种鉴别特征融合,从而使用最近邻法进行分类。实验结果表明,在进行小样本的人脸识别时,该方法的识别效果优于其他线性方法。

基于图像分块的LDA人脸识别

设计了一种基于图像分块的LDA(linear discriminant analysis)人脸识别方法,该方法从模式的原始数字图像出发,先对图像矩阵进行分块,然后对分块子图像进行LDA特征提取,从而得到能代替原始模式的低维新模式,最后再用最小距离分类器进行分类。该方法克服了传统LDA方法的缺点,其优点是能有效地提取图像的局部特征。实验表明:该方法在识别性能上优于Fisherfaces方法。

小训练样本的人脸识别研究

人脸识别问题在很多情况下都会面临小训练样本的问题,在训练样本数量远小于数据维数的情形下许多人脸识别方法都会遇到困难。本文分析了造成小样本问题的原因,从虚拟样本扩充、数据降维以及算法优化等不同方面总结了解决方法,并对不同方法进行了简要评价,对解决小样本问题的未来发展方向进行了展望。

基于值域空间中类零子空间分析的模式判别

本文提出了一种新的基于值域空间中类零子空间分析(CNSA)的模式判别方法。CNSA方法首先获取全体训练样本的值域空间,然后在值域空间中定义了各个子类的类零子空间(CNS)及其正交补空间。类零子空间及其正交补空间上都含有有效判别信息。CNS上的类内距离为零,第i类的样本到其中心的相对距离远小于到其他类的中心的距离。在对值域空间和新的CNS的性质进行分析的基础上,构造到各个类的特征空间的投影矩阵。通过计算待测样本到各特征子空间的距离,CNSA算法不但能够对属于已知模式的样本作分类判决,还能发现新模式类。在太赫兹时域光谱数据集和COIL100数据库上,将提出的CNSA算法与相关算法进行了实验比较,实验结果验证了本文CNSA算法的优越性。

对多层前向神经网络研究的进一步看法

本文从函数逼近的观点，讨论了样本量有限的重要性，简单回顾了学习理论的发展及其与神经网络的关系，指出学习理论对多层前向网络研究的重要性．