基于集成局部费舍尔判别分析的故障分类

实际工业过程数据的局部特性一般都较为复杂,不利于样本特征的提取和故障分类精度的提高.针对此问题,本文提出一种集成的局部费舍尔判别分析(ILFDA)模型,可以同时从变量和样本两个维度挖掘数据的局部结构特征,提高故障分类的性能并降低建模的难度.首先,根据过程的结构原理对复杂系统进行分块,从而可以有效获取变量维度的数据局部信息,并排除无关变量的影响.其次,针对样本维度的数据局部信息,在每个变量子块中分别建立局部费舍尔判别分析(LFDA)模型,并为每个局部模型分配相应的权值,从而可以更准确地衡量不同子块对当前故障的影响程度.最后,利用分类性能加权策略将各个子块的分类结果进行融合.田纳西–伊斯曼(TE)过程中的仿真结果验证本文所提的ILFDA方法具有更好的故障分类效果.

基于i-vector局部加权线性判别分析的说话人识别

基于i-vector的说话人识别系统通常采用LDA来消除训练和测试语音之间信道失配,不能保证样本在待识别语音近邻区域内具有最佳的分离度,这就使得目标说话人和其近邻间的得分差异较小,进而导致识别准确性下降。针对该问题,提出基于i-vector局部加权线性判别分析的说话人识别方法(LWLDA)。在计算类内和类间散度时,增加待识别语音近邻样本权重。在此基础上,通过提高待识别语音近邻域局部类间的分辨能力,尽可能减少因信道差异而产生的识别错误。在不同语音库上的实验结果表明:LWLDA在复杂信道环境下能够保持良好的鲁棒性;在交叉信道条件下的识别准确率比LDA平均提高3.6%。

基于改进局部线性判别分析的化工系统状态监测方法

针对化工系统监测数据呈现出的强非线性、数据高维等特点,将标注样本的局部线性分析与训练样本的全局分析相结合,提出一种改进的局部线性判别分析方法。利用训练样本标签信息,以异类样本点间的最小欧式距离重新定义异类样本之间的边界,构建了新的局部类间离散度矩阵;引入全局离散度矩阵强化训练样本全局分析,克服了只计算局部离散度矩阵的缺点。在田纳西—伊斯曼过程数据和某企业压缩机组监测数据上进行了仿真实验,结果表明所提方法与局部线性判别分析等若干种非线性分析方法相比,具有更好的非线性处理能力,可以获得更高的异常状态识别准确率。

面向局部线性回归分类器的判别分析方法

局部线性回归分类器(locality-regularized linear regression classification,LLRC)在人脸识别上表现出了高识别率以及高效性的特点,然而原始特征空间并不能保证LLRC的效率。为了提高LLRC的性能,提出了一种与LLRC相联系的新的降维方法,即面向局部线性回归分类器的判别分析方法(locality-regularized linear regressionclassification based discriminant analysis,LLRC-DA)。LLRC-DA根据LLRC的决策准则设计目标函数,通过最大化类间局部重构误差并最小化类内局部重构误差来寻找最优的特征子空间。此外,LLRC-DA通过对投影矩阵添加正交约束来消除冗余信息。为了有效地求解投影矩阵,利用优化变量之间的关系,提出了一种新的迹比优化算法。因此LLRC-DA非常适用于LLRC。在FERET和ORL人脸库上进行了实验,实验结果表明LLRCDA比现有方法更具有优越性。

GIS设备局部放电特高频信号线性判别分析识别研究

局部放电测量是监测绝缘系统缺陷的典型非破坏性实验方法,提出了一种基于局部放电特高频(UHF)信号的多尺度特征提取能量参数和线性判别分析的识别方法,设计了4种绝缘缺陷模型模拟气体绝缘开关(GIS)设备局部放电现象。对局部放电UHF信号进行小波包多尺度变换,提取出UHF信号的16维能量参数;又对局部放电UHF信号进行了线性判别分析的设计,在局部放电信号特征量中随机选取30组进行10次采样;对其训练分类器的UHF局部放电信号进行模式识别,得到10个相关结果;试验获得最终的30组训练样本正确率平均值较高。研究结果表明线性判别分类器能够有效地将4种局部放电模型分开。

一种无参数的局部线性判别分析方法

为了解决因引入局部化思想的线性判别分析(Linear Discriminant Analysis, LDA)方法需要人工设置邻居个数而无法以自适应的方式挖掘数据的局部结构问题,提出了一种无参数的局部线性判别分析(Parameter-free Local Linear Discriminant Analysis, Pf-LLDA)方法。该方法首先建立了一个关于权重矩阵和变换矩阵的统一优化模型。然后,通过使用交替方向的方法迭代求解出了与数据局部结构相关的权重矩阵和与判别分析相关的变换矩阵。从而使得Pf-LLDA在无需人为设定邻居个数的情况下,自适应地挖掘出了数据的局部结构并最终实现了局部线性判别分析的能力。在仿真数据集和手写体真实数据集上的实验结果表明,Pf-LLDA挖掘出数据局部结构的同时实现了更优的判别分析结果。

基于判别回归与局部判别分析的维数约简算法

线性判别回归分类算法没有考虑到类内距离和类间距离,为此提出一种基于线性判别回归与局部判别分析的维数约简算法(LDRFDR),同时利用类内和类间重构误差、以及类内和局部类间距离获得投影矩阵。其物理含义是为各个类尽量寻找相互之间离得最远的线性子空间,其中类内距离与类间距离还考虑数据的局部性,避免最大化相离太远的类间样本对优化目标造成影响。实验结果表明,LDRFDR算法的维数约简性能优于其它半监督维数约减算法。

用于人脸识别的正则正交化的局部判别分析

非线性结构保持能力的不足是正则正交化的线性判别分析ROLDA(Regularized Orthogonal Linear Discriminant Analysis)在人脸识别中的主要问题。提出一个用于人脸识别的正则正交化的局部Fisher判别分析ROLFDA(Regularized Orthogonal LocalFisher Discriminant Analysis)降维算法。该算法在ROLDA基础上引入局部结构保持,继承ROLDA的特性,克服了ROLDA的非线性能力的不足的问题。在YaleB和AR人脸数据集上的实验验证了该算法的有效性。

基于矩阵模式的局部子域最大间距判别分析

矩阵模式的Fisher线性判别准则(MatFLDA)作为近几年矩阵模式下的经典特征提取方法被广泛地加以研究和运用。然而MatFLDA方法作为全局判别准则一定程度上忽视了样本空间内在的局部结构和局部信息。在矩阵模式下,引入局部加权均值(LWM)并结合最大间距判别分析(MMC),提出一种具有局部学习能力的有监督的特征提取方法:基于矩阵模式的局部子域最大间距判别分析(Mat-LSMMC),提高了MatFLDA方法的局部学习能力,具有较强的特征提取能力。通过测试人造、真实数据集来表明所提方法的优势。

基于自权值线性判别分析算法的图像处理研究

鉴于传统的线性判别分析(LDA)算法未考虑数据从高维空间嵌入到低维子空间中样本之间的相似性,导致该算法在处理非高斯分布数据时不能取得较好的效果,为此,本文提出了一种改进的自权值线性判别分析算法。改进的模型通过将样本对之间的距离分布转换为样本点之间的权值以区分样本之间的差异性,使模型考虑数据从高维空间嵌入到低维子空间中隐含的局部流形结构,进而提高模型处理非高斯数据的能力。通过人工合成数据和真实数据对改进的模型进行实验验证,表明改进的自权值算法在一定程度上可以改善传统LDA在处理非高斯数据上的降维性能。

基于广义奇异值分解的加权线性判别分析织物瑕疵图像分类算法

为提高织物瑕疵图像分类准确率,提出了一种基于广义奇异值分解的加权线性判别分析(Linear discriminant analysis, LDA)织物瑕疵图像分类算法。首先,使用加权均值保留瑕疵特征信息,反映真实数据的分布情况;然后,对类间散射矩阵和类内散射矩阵分别添加类间离散权重和类内紧凑权重,克服了其他织物瑕疵分类算法忽视局部几何信息的问题;最后,结合广义奇异值分解,解决了小样本奇异不可逆的问题,提升了计算效率。不同织物数据集实验结果表明,该算法能有效解决LDA存在缺乏局部几何信息和小样本高维的问题;同时相较于其他基于LDA的分类算法,能取得更好的分类准确率,且分类所需的计算时间具有一定竞争力。

基于线性判别局部保留映射的人脸表情识别

随着人机交互技术的发展,情感计算成为一个研究热点。局部保留映射(LPP)是一种最优的保持数据集局部结构的一种线性映射,它的特点是保留了样本的局部结构,但是它没有考虑判别信息,从而容易引起类间距离小的类别之间的重叠。本文提出了基于线性判别的局部保留映射(DLPP)算法并将其应用到表情识别问题中。与LPP相比,DLPP的改进之处在于将判别分析的思想引入LPP。同时考虑样本间的相邻关系和模式类之间的相邻关系,从而得到能正确分类的最优投影方向。在Yale人脸库和JAFFE表情库中的一系列表情识别实验结果表明,DLPP对于人脸表情识别更为有效。

一种自适应邻域选择半监督判别分析算法

为克服边界Fisher判别分析(MFA)只利用少量有标记样本和构建邻域不能充分反映流形学习对邻域要求的缺点,提出一种基于局部线性结构的自适应邻域选择半监督判别分析的算法。采用自适应算法扩大或者缩小近邻系数k来构建邻域以保持局部线性结构。MFA通过少量有类别标签样本进行降维的同时UDP对大量无标签样本进行学习,以半监督的方法对高维人脸数据进行维数约减。最后,在ORL和YALE人脸数据库通过实验结果验证了该算法的有效性。

LLE与核Fisher判别分析结合的人脸识别研究

针对人脸识别问题提出了将LLE与核Fisher相结合的识别方法 LLEKF,先应用LLE方法将样本和待测试的人脸图像集降低到一定维数,再利用核Fisher判别法通过选择合适的核函数,确定最优参数,对降维后的样本图像进行训练,并对降维后的人脸图像进行分类。实验证明,利用LLE低维嵌入后的数据能够更好地保持原人脸数据的非线性特征,并降低特征提取的时间,再经过核Fisher进行分类,明显提高了分类的效率。

基于混合型判别分析的工业过程监控及故障诊断

工业过程数据具有规模性大、复杂性高、变量多、关联性强等特点.如何从数据出发准确并快速地发现故障并处理,保证过程高效运行意义重大.本文针对复杂的工业过程,提出了一种多方法结合的混合型过程监控与故障诊断方法,完成数据分类,构建故障模型库,故障在线诊断及可视化相关处理.首先通过常规主成分分析(Principal component analysis,PCA)方法对历史数据进行初筛,区分出正常和故障信息,然后利用聚类方法对故障数据集进行分类,接着利用局部线性指数判别分析方法(Local linear exponential discriminant analysis,LLEDA)建立故障模型库进而进行故障诊断.本文将基于监督学习的LLEDA方法拓展到无监督学习,便于复杂工业大量无标签数据的处理.最后利用典型的田纳西伊士曼(Tennessee Eastman,TE)过程对所提出的方法进行有效性验证.

一种改进的多流形判别分析方法在特征提取中的应用

传统的多流形判别分析(MMDA)方法要求每类样本数目必须相同,这在实际中往往很难满足,因此限制了它的应用。针对此问题,提出一种改进的多流形判别分析(IMMDA)方法。该方法去除了MMDA中的限制条件,用类内图和类间图来描述类内紧凑度和类间离散度,类内图可以代表子流形信息,类间图可以代表多流形信息,从而更好地实现分类。在FERET、ORL人脸库及UCI数据集上的实验证明了该方法的有效性。相比其他几种子空间学习方法,该方法取得了更好的识别效果。

基于局部Fisher判别法的电镜下致密沉积物自动识别（英文）

本文提出一种在电子显微镜图像中有效检测致密沉积物的方法。致密沉积物在电子显微镜图像中较难分辨,使用传统的SIFT,ORB或者SURF特征检测及描述算法往往难以达到理想的效果。运用传统计算机视觉处理流程,如,SIFT特征提取器以及描述器来进行特征提取,再建立bag-of-words全局特征向量,最后使用支持向量机来进行分类,在进行致密沉积物的分类操作中难度比较大。本文选择了实用LBP特征提取器来提取高反差度的纹理特征,使用梯度直方图特征提取器来提取轮廓特征,同时使用Schimid滤波器组和Gabor滤波器组来提取图像中的常规纹理特征,形成超高维度的特征向量使其包含显微镜图像中的全面特征。由于电子显微镜图像不具备色彩信息,纹理信息变得最为重要,又由于在显微镜图像中,尺度基本可知,LBP以及HOG能非常有效地提取高反差轮廓特征以及质地特征。配合两大纹理滤波器组合将可以确保特征向量在强调高反差特征的同时,不会忽略常规纹理信息。在特征提取出来后使用局部Fisher判别分析来降低特征向量的维度,并选择最具有可区分性和有效的特征。LFDA能够进行无指导的降维,并保留最具可分辨性的特征,对于本文提出的算法至关重要。由于在之前产生的特征向量对所有的特征并不进行强弱区分,经过LFDA后,不重要或者具有广泛普遍性的特征将会被舍弃,而最能够代表致密沉积物的特征将得以保留。这保证了之后的分类器训练能够在不牺牲训练速度的前提下,有效地形成分类区间。最后,算法使用了probabilistic boosting tree来对训练样本进行训练,PBT是按照等级划分的决策树,每一个节点是一个强决策器,它具有不易过度训练、高效准确的特征,通过输入LFDA处理后的训练样本特征向量,来学习得到致密沉积物的分类器。为验证本文提出的方法的可行性,一个包含50张电子显微镜图像的数据库被用于实验中。在这50张电子显微镜图像中,每一张都包含不同数量的沉积物区域。沉积物区域的总数约为500处。这些区域被精确标记。如果算法输出的沉积物标记与人工标记区域的重合率达到50%以上,认为该区域被准确识别,否则认为未能识别。在实验中,10张电子显微镜图像被用于神经网络的训练,而其余40张被用于测试。训练样本为100×100分辨率的图像块,只要图像块中包含沉积物区域,则视为正样本,否则视为负样本。为了增加样本个数,所有正样本被进行了旋转、平移、以及放大和缩小等变换。在训练中,一共500个正样本及约15 000个负样本被输入到PBT。实验结果显示,本文提出的方法能够有效地在真实电子显微镜图像中识别致密沉积物,识别效率接近50%。该结果证明利用LBP特征以及Schimid滤波器组和Gabor滤波器组来提取显微镜图像特征能够全面概括图像中个体的显著性特征,比起单纯使用SIFT以及SURF具有更高的通用性、鲁棒性以及有效性。对于从显微镜图像中提取出来的高维度特征向量,使用局部Fisher判别分析法能够非常有效地实施降维操作,从而保留了显著性的具有区分功能的特征以便更有效的训练分类器。而probabilistic boosting tree对于只具有少量训练样本的训练任务能够相当有效地收敛且避免过度拟合的情况发生。本文提出的处理流程适用于大多数基于显微镜图像下的目标识别、分类以及再识别任务,且具有速度快、高鲁棒性以及易于扩展等特点,具有较高的实用性。

基于优化的多核局部费舍尔判别分析的故障分类

在实际工业过程中,故障数据通常具有较强的非线性特征,并且非线性特征的种类也较为多样.现有的基于核策略的过程监测方法中,通常只使用一种核函数进行故障的非线性特征提取,很难对非线性特征进行较为全面地刻画,因此单种核函数的过程监测方法对不同故障的分类效果十分有限.此外,常规核方法中的核参数通常由经验确定,难以取得最优的特征提取结果.为了解决此问题,本文提出一种优化的多核局部费舍尔判别分析(OMKLFDA)模型,首先,通过权重系数将多个核函数集成至局部费舍尔判别分析(LFDA)模型中,从而能够提取故障的多种非线性特征.其次,通过改进的粒子群优化算法为故障分类模型选择最优的核参数和权重系数,使得模型能够自适应地匹配不同的故障非线性特征.最后,田纳西—伊斯曼(TE)过程和真实柴油机运行过程中的仿真实验结果验证本文所提方法具有更好的故障分类效果.

一种新的局部判别投影方法

为解决多模数据的分类问题,局部化思想被引入到判别分析中,称为局部判别分析.该文以人工数据为例深入分析了近年来提出的较为成功的两种局部线性判别分析方法:LFDA(Local Fisher Discriminant Analysis)和MFA(Marginal Fisher Analysis)的不足.为克服这两种方法中没有充分考虑异类样本近邻关系的缺点,文中提出了一种新的局部判别投影方法.该方法采用与LFDA和MFA不同的局部化方法,其基本思想是寻找投影方向使同类近邻样本在投影后尽量紧凑,而异类近邻样本在投影后尽量分开.针对该思想,文中提出了两种优化目标(一种用样本间距离平方和来表示,另一种用样本类内与类间散度来表示)并做了分析和比较.实验结果表明,该文方法有效地克服了LFDA和MFA存在的固有问题,在人工数据集、UCI、USPS手写数字标准数据集和IDA标准数据集上均取得较好效果.

一种基于局部和判别特性的降维算法

提出了一种基于LPP和LDA的降维算法。该算法不仅考虑了LPP能保持局部邻近关系属性,还考虑了LDA能使降维后的数据更易于分类属性,并且该算法是线性的,很容易将新样本映射到目标空间。在人脸识别中的实验验证了算法的正确性和有效性。