基于核的Fisher非线性最佳鉴别分析在人脸识别中的应用

抽取最佳鉴别特征是人脸识别中的重要一步。对小样本的高维人脸图像样本,由于各种抽取非线性鉴别特征的方法均存在各自的问题,为此提出了一种求解核的Fisher非线性最佳鉴别特征的新方法,该方法首先在特征空间用类间散度阵和类内散度阵作为Fisher准则,来得到最佳非线性鉴别特征,然后针对此方法存在的病态问题,进一步在类内散度阵的零空间中求解最佳非线性鉴别矢量。基于ORL人脸数据库的实验表明,该新方法抽取的非线性最佳鉴别特征明显优于Fisher线性鉴别分析(FLDA)的线性特征和广义鉴别分析(GDA)的非线性特征。

一种基于核的快速非线性鉴别分析方法

基于"核技巧"提出的新的非线性鉴别分析方法在最小二乘意义上与基于核的Fisher鉴别分析方法等效,相应鉴别方向通过一个线性方程组得出,计算代价较小,相应分类实现极其简便.该方法的最大优点是,对训练数据进行筛选,可使构造鉴别矢量的"显著"训练模式数大大低于总训练模式数,从而使得测试集的分类非常高效;同时,设计出专门的优化算法以加速"显著"训练模式的选取.实验表明,这种非线性方法不仅具有明显的效率上的优势,且具有不低于基于核的Fisher鉴别分析方法的性能.

基于核Fisher判别分析方法的非线性统计过程监控与故障诊断

化工过程中大量的生产数据反应了生产过程的内在变化和系统的运行状况,基于数据驱动的统计方法可以有效地对生产过程进行监控。对于复杂的化工和生化过程,其过程变量之间的相关关系往往具有很强的非线性特性,传统的线性统计过程监控方法显得无能为力。本文提出了基于核Fisher判别分析的非线性统计过程监控方法,首先利用非线性核函数将数据从原始空间映射到高维空间,在高维空间中利用线性的Fisher判别分析方法提取数据最优的Fisher特征矢量和判别矢量来实现过程监控与故障诊断,能有效地捕获过程变量之间的非线性关系,通过对流化催化裂化(FCCU)过程的仿真表明该方法的有效性。

基于核函数Fisher鉴别分析的特征提取方法

提出一种基于核函数的Fisher鉴别分析的故障特征提取方法。该方法通过内积核函数将原始特征空间映射到高维特征空间,然后在高维特征空间作线性Fisher判别分析,从而得到原始特征空间的非线性特征,最后应用滚动轴承的故障数据对该方法进行了检验。结果表明,与线性Fisher鉴别分析和核主元分析方法相比,基于核函数的Fisher鉴别分析更适合提取机械故障的非线性特征,它所提取的故障特征对故障具有更好的识别分类能力,并且对分类器具有较强的鲁棒性。

一种最优的核Fisher鉴别分析与人脸识别

基于核的Fisher线性鉴别分析(KFDA)已成为抽取非线性特征的最有效方法之一。但是,针对必然面临的奇异性问题,如何抽取非线性最优鉴别特征还没有得到很好的解决。基于同构映射的思想,我们提出了一种最优的核Fisher鉴别分析(OKFDA)方法,从理论上巧妙的解决了奇异情况下最优鉴别矢量集的求解问题。在FERET人脸库的子库上的实验结果验证了OKFDA方法的有效性。

基于粗糙核Fisher鉴别分析的特征提取及其在发动机故障诊断中的应用

将粗糙集理论的属性约简与核Fisher鉴别分析方法结合起来,提出一种基于粗糙核Fisher鉴别分析的故障特征提取方法.首先采用粗糙集理论的属性约简删除与分类无关或关系不大的特征,降低输入特征维数,排除干扰特征的影响,减小了特征提取计算量;再采用核Fisher鉴别分析方法进一步提取非线性特征;最后将该方法应用于航空发动机滑油系统故障特征提取及故障识别中.结果表明:该方法获取的特征在提高分类正确率的同时,还有效地降低了输入特征维数,提高了分类效率,并且对分类器具有较强的适应性和鲁棒性.

基于核化原理的非线性典型相关判别分析

典型相关判别分析是将传统的典型相关分析应用于判别问题 ,它是一类重要的特征提取算法 ,但其本质上只能提取数据的线性特征 .应用统计学习理论中的核化原理可以将这样的线性特征提取算法推广至非线性特征提取算法 .该文研究了如何将这一原理应用于典型相关判别分析 ,提出了基于核化原理的非线性典型相关判别分析 ,并且给出了求解该问题的一个自适应学习算法 .数值实验表明 ,基于核化原理所导出的非线性典型相关判别分析比传统的典型相关判别分析更有效 .另外 ,该文从理论上证明 ,所提出的新方法与Fisher核判别分析等价 .

基于核的Fisher极小鉴别分析及人脸识别

Fisher鉴别分析被公认为是特征抽取的有效方法之一,但由于其只能抽取线性特征,而对于实际应用中复杂的样本图像分布,抽取非线性鉴别特征显得十分必要。先前的基于核Fisher鉴别分析算法虽然解决了非线性特征抽取问题,但是其存在最终特征维数受类别数限制的问题。为了能够进一步提高特征提取效率,提出了一种基于核的Fisher极小鉴别分析方法,该方法使得最终特征维数不受类别数限制。在Yale和NUST603人脸库上进行了鉴别性能实验,实验结果验证了该方法的有效性。

一种基于空间变换的核Fisher鉴别分析

引入空间变换的思想,提出了一种基于空间变换的核Fisher鉴别分析,与KFDA不同的是,该方法只需在一个较低维的空间内执行,从而较大幅度地降低了求解最优鉴别矢量集的计算量,提高了计算速度。在ORL标准人脸库上的试验结果验证了所提方法的有效性。

半监督稀疏鉴别核局部线性嵌入的非线性过程故障检测

复杂过程往往受到运行状态复杂、工作条件恶劣等因素影响,过程数据具有很强的非线性、随机性和流形结构.近年来,核局部线性嵌入(kernel locally linear embedding,KLLE)已经成功应用于复杂过程故障检测.然而KLLE是一种无监督流形学习算法,能够保持样本的局部几何信息,忽视了总体数据样本集全局/非局部鉴别信息.针对上述问题,本文提出一种新的半监督稀疏鉴别核局部线性嵌入(semi-supervised sparse discriminantKLLE,SSDKLLE)算法并用于非线性工业过程故障检测.本文主要贡献如下:(1)把半监督学习与Fisher鉴别分析(fisher discriminant analysis,FDA)引入到KLLE,有效地利用了总体数据集几何鉴别信息,提高了算法对不同类别数据的分离性;(2)基于稀疏表示通过重构优化方法对信号自适应稀疏表达的优点,利用稀疏表示自适应选择最近邻样本以及数目,提高算法鲁棒性和局部保持性能;(3)引入局部邻域处理以及核技巧策略降低过程工况数据变化对监测算法的影响,提高非线性多工况过程监测方法的性能.基于UCI数据和TE平台的仿真实验结果验证了所提算法的有效性.

基于核Fisher鉴别分析的RVM战斗机空战效能评估

为提高战斗机空战效能的评估能力,提出一种基于KFDA特征提取的RVM效能评估方法。该方法在系统分析基础上,引入战斗机空战效能评估指标体系;采用KFDA提取评估指标数据中的高阶非线性特征;凭借RVM在非线性系统建模方面的优势,构建所提取特征的战斗机空战效能评估模型,进而完成效能评估。实例分析表明,该方法对战斗机空战效能评估的均方根误差达到0.0094,评估结果相对于其他方法更为准确,过程也更为科学合理,从而验证了其用于战斗机空战效能评估是可行和有效的。

一种改进的核Fisher鉴别分析方法

核Fisher鉴别分析(KFDA)已成为抽取非线性特征的最有效方法之一.针对在解决两类模式分类问题中KFDA只能获得一个鉴别矢量的弱点,提出了一种改进的核Fisher鉴别分析(MKFDA)方法,该方法对特征空间中的两类间离散度进行了重新估计,通过使用核类间散布矩阵的一种特殊形式,我们可以得到最多N(N为训练样本数)个鉴别矢量,从而提高了两类模式问题的分类性能.在IRIS数据上的实验结果验证了MKFDA方法的有效性.

运用核Fisher鉴别分析和MPM分类器的入侵检测

为了提高分类器的正确率和减少训练时间,将特征提取技术与分类算法结合,提出了一种基于核Fisher鉴别分析和最小极大概率机算法的入侵检测算法。利用核Fisher鉴别分析技术提取关键特征,运用最小极大概率机对提取特征后的数据进行分类,采用离线数据集KDDCUP99进行实验。实验结果表明,该算法是可行和有效的,使分类性能和训练时间都得到了提高。

一种新的核线性鉴别分析算法及其在人脸识别上的应用

基于核策略的核Fisher鉴别分析(KFD)算法已成为非线性特征抽取的最有效方法之一。但是先前的基于核Fisher鉴别分析算法的特征抽取过程都是基于2值分类问题而言的。如何从重叠(离群)样本中抽取有效的分类特征没有得到有效的解决。本文在结合模糊集理论的基础上,利用模糊隶属度函数的概念,在特征提取过程中融入了样本的分布信息,提出了一种新的核Fisher鉴别分析方法———模糊核鉴别分析算法。在ORL人脸数据库上的实验结果验证了该算法的有效性。

一种加权的核Fisher鉴别分析在人脸识别中的应用

在非线性空间中采用加权的最大散度差鉴别准则函数,该方法不仅有效地抽取了人脸图像的非线性特征,而且在特征空间H中,使用权函数重新构造了类间散度矩阵和类内散度矩阵,从而优化了核的最大散度差准则函数。最后在ORL和Yale人脸数据库上的实验结果验证了本文方法的有效性。

核Fisher鉴别分析在掌纹识别中的应用

核Fisher的鉴别方法(KFDA)是模式识别中较为突出的提取图像非线性特征的方法。为了更好地提取掌纹图像的非线性特征,将KFDA方法引入到掌纹识别中。首先对掌纹图像做小波变换进行降维,在保留原始图像轮廓信息和特征的基础上,用核Fisher判决方法进行特征提取并引入零空间的核Fisher(ZKFDA)方法解决小样本问题,最后用最小距离分类器进行掌纹匹配。通过PolyU掌纹图像库,实验结果表明,在不同的特征个数下,KFDA方法比二维Fisher准则(2DFLD)方法识别率高;零空间ZKFDA的平均识别率高于KFDA,并且计算量大大减少。在核函数选取上,取RBF核函数的识别性能最佳。

极小化类内散布度的大间距非线性鉴别分析

提出了一种新的非线性鉴别分析算法——极小化类内散布的大间距非线性鉴别分析。该算法的主要思想是将原始样本映射到更高维的空间中,利用核技术对传统的大间距分类算法进行改进,在新的高维空间中利用再生核技术寻找核鉴别矢量,使得在这个新的空间中核类内散度尽可能的小。在ORL人脸数据库上进行实验,分析了识别率及识别时间,结果表明该方法具有一定优势。

基于核Fisher鉴别分析的网络入侵检测算法

提出了一种将核Fisher鉴别分析特征抽取与多分类支持向量机算法结合的网络入侵检测技术,扩展了二分类支持向量机,利用经过核Fisher鉴别分析特征抽取后的训练数据构造优化的决策树,从而实现支持向量机的多分类。实验结果表明该算法能够提高检测正确率,同时降低训练时间,取得了良好的效果。

人脸识别中基于核的子空间鉴别分析

尽管基于F isher准则的线性鉴别分析被公认为特征抽取的有效方法之一,并被成功地用于人脸识别,但是由于光照变化、人脸表情和姿势变化,实际上的人脸图像分布是十分复杂的,因此,抽取非线性鉴别特征显得十分必要。为了能利用非线性鉴别特征进行人脸识别,提出了一种基于核的子空间鉴别分析方法。该方法首先利用核函数技术将原始样本隐式地映射到高维(甚至无穷维)特征空间;然后在高维特征空间里,利用再生核理论来建立基于广义F isher准则的两个等价模型;最后利用正交补空间方法求得最优鉴别矢量来进行人脸识别。在ORL和NUST603两个人脸数据库上,对该方法进行了鉴别性能实验,得到了识别率分别为94%和99.58%的实验结果,这表明该方法与核组合方法的识别结果相当,且明显优于KPCA和Kernel fisherfaces方法的识别结果。

改进的核直接Fisher描述分析与人脸识别

针对奇异情况下核Fisher鉴别分析中非线性最优鉴别矢量集的求解问题,提出了改进的核直接描述分析(IKDDA).根据再生核理论,定义核类内散度矩阵和核类间散度矩阵,将高维特征空间中的Fisher鉴别准则函数转化为核Fisher鉴别准则函数.基于同构映射原理和奇异值分解定理,在一个更小的空间内将核Fisher鉴别准则函数的极大值问题转化为其倒数的极小值问题,使最终的解不需要分开考虑核类内散度矩阵的零空间和非零空间.在ORL和UMIST人脸库上的实验结果表明,IKDDA方法与其他方法相比,具有较低的误识率和较快的运行速度.