半监督局部判别分析

针对无监督学习及有监督学习算法的缺点,提出一种半监督局部判别分析的线性降维算法。数据在没有足够的训练样本时,局部结构比全局结构更重要。算法在每一个局部区域利用有标签数据推导出数据的局部判别结构,无标签数据和有标签数据推导出数据的内在几何结构。在ORL和Yale人脸数据库上的实验结果表明该算法是有效的。

基于判别回归与局部判别分析的维数约简算法

线性判别回归分类算法没有考虑到类内距离和类间距离,为此提出一种基于线性判别回归与局部判别分析的维数约简算法(LDRFDR),同时利用类内和类间重构误差、以及类内和局部类间距离获得投影矩阵。其物理含义是为各个类尽量寻找相互之间离得最远的线性子空间,其中类内距离与类间距离还考虑数据的局部性,避免最大化相离太远的类间样本对优化目标造成影响。实验结果表明,LDRFDR算法的维数约简性能优于其它半监督维数约减算法。

基于正交半监督局部Fisher判别分析的故障诊断

针对有标记故障样本不足和故障特征集维数过高的问题,提出基于正交半监督局部Fisher判别分析(Orthogonal semi-supervised local Fisher discriminant analysis,OSELF)的故障诊断方法。所提出的OSELF能够充分地利用蕴含于无标记故障样本中的故障信息,避免了因有标记故障样本不足引起的过学习问题,同时采用正交迭代方式求解最优正交映射矩阵,克服现有方法无法得到正交映射矩阵的不足。正交映射矩阵的基矢量统计不相关,可有效地提高所得低维特征矢量的可辨识性。通过正交映射矩阵对故障样本集和新增样本进行维数约简,并将维数约简的结果输入粗糙优化k最近邻分类器(Coarse to fine k nearest neighbor classifier,CFKNNC)进行学习训练和故障识别。所提方法集成了OSELF在维数约简和CFKNNC在模式识别的优势,有效地提高了故障诊断的精度。通过齿轮箱故障模拟试验验证了该方法的有效性。

有监督不相关局部Fisher判别分析故障诊断

针对现有流形学习理论用于旋转机械故障诊断存在识别精度不高的问题,提出基于有监督不相关局部Fisher判别分析(Supervised Uncorrelated Local Fisher Discriminant Analysis,SULFDA)的新型故障诊断方法。首先构造全面表征不同故障特征的时频域特征集,再利用有监督不相关局部Fisher判别分析将高维时频域故障特征集化简为区分度更好的低维特征矢量,并输入到K-近邻分类器中进行故障模式辨识。有监督不相关局部Fisher判别分析在类标签指导下最小化同类流形的离散度并最大化异类流形的离散度来实现类判别,还施加了不相关约束条件使所提取的特征统计不相关,提高了针对旋转机械的故障诊断精度。深沟球轴承故障诊断实验验证了该方法的有效性。

基于自适应邻域选择的正交局部敏感判别分析

维数灾难是机器学习算法在高维数据上学习经常遇到的难题,基于局部敏感判别分析(locality sensitive discrimi-nant analysis,LSDA),可以很好地解决维数灾难问题。且LSDA构建邻域时不能充分反映流形学习对邻域要求和克服测度扭曲问题,利用自适应邻域选择方法来度量邻域,同时,引入施密特正交化获得正交投影矩阵,提出一种自适应邻域选择的正交局部敏感判别分析算法。在ORL和YALE人脸数据库上进行实验,实验结果表明了该算法的有效性。

小波核局部Fisher判别分析的高光谱遥感影像特征提取

为了提高高光谱遥感影像的分类精度,充分利用影像的光谱和局部信息,文中提出小波核局部Fisher判别分析的高光谱遥感影像特征提取方法.通过小波核函数将数据集从低维原始空间映射至高维特征空间,考虑到数据的局部信息,利用加权矩阵计算散度矩阵,对局部Fisher判别准则函数求解最优特征矩阵,使不同类别的样本在高维特征空间中的可分离性更佳.在2个公开高光谱数据集上的实验表明,文中方法的总体分类精度和Kappa系数都有所提高.

基于i-vector局部加权线性判别分析的说话人识别

基于i-vector的说话人识别系统通常采用LDA来消除训练和测试语音之间信道失配,不能保证样本在待识别语音近邻区域内具有最佳的分离度,这就使得目标说话人和其近邻间的得分差异较小,进而导致识别准确性下降。针对该问题,提出基于i-vector局部加权线性判别分析的说话人识别方法(LWLDA)。在计算类内和类间散度时,增加待识别语音近邻样本权重。在此基础上,通过提高待识别语音近邻域局部类间的分辨能力,尽可能减少因信道差异而产生的识别错误。在不同语音库上的实验结果表明:LWLDA在复杂信道环境下能够保持良好的鲁棒性;在交叉信道条件下的识别准确率比LDA平均提高3.6%。

基于改进局部线性判别分析的化工系统状态监测方法

针对化工系统监测数据呈现出的强非线性、数据高维等特点,将标注样本的局部线性分析与训练样本的全局分析相结合,提出一种改进的局部线性判别分析方法。利用训练样本标签信息,以异类样本点间的最小欧式距离重新定义异类样本之间的边界,构建了新的局部类间离散度矩阵;引入全局离散度矩阵强化训练样本全局分析,克服了只计算局部离散度矩阵的缺点。在田纳西—伊斯曼过程数据和某企业压缩机组监测数据上进行了仿真实验,结果表明所提方法与局部线性判别分析等若干种非线性分析方法相比,具有更好的非线性处理能力,可以获得更高的异常状态识别准确率。

面向高光谱图像分类的空谱半监督局部判别分析

针对传统的基于特征提取的高光谱图像分类算法大多只考虑光谱信息而忽略空间信息的问题,提出了一种基于空谱半监督局部判别分析(S3 ELD)和空谱最近邻(SSNN)分类器的高光谱图像分类算法。该算法结合高光谱图像的空间一致性,在利用标记样本的判别信息保持数据集可分性的基础上,定义空间近邻像元散度矩阵来保存像元的空间近邻结构,提出基于空谱距离的相似性度量并将其应用于局部流形结构的发现和SSNN的构建。S3 ELD算法不仅能揭示数据集的局部几何关系,而且增强了光谱域同类像元和空间域近邻像元在低维嵌入空间的聚集性。结合SSNN进行分类,进一步提升了分类精度。利用PaviaU和Salinas数据集进行的实验结果表明,S3 ELD算法的总体分类精度分别达到了92.51%和96.29%;与现有几种算法相比,该算法能更有效地提取出判别特征信息,并达到更高的分类精度。

稀疏局部Fisher判别分析

提出一种稀疏局部Fisher判别分析(SparsityLocalFisherDiscriminantAnalysis,SLFDA)。该算法在局部Fisher判别分析降维的基础上,通过平衡参数引入稀疏保持投影,在投影降维过程中保持了数据的全局几何结构和局部近邻信息。在UCI数据集和YaleB人脸数据集上的实验表明,该算法融合局部Fisher判别分析和稀疏保持投影的优点;与现有的半监督局部Fisher判别分析降维算法相比,该算法提高了基于最短欧氏距离的分类算法的精度。

基于二维局部敏感判别分析法的雷达目标识别

由于在不同的观察角度、位置以及光照等条件下雷达目标图像之间差异较大,使得很多经典的维数约简和特征提取算法不能有效地用于飞机目标图像识别。基于二维局部敏感判别分析(2DLSDA),提出了一种雷达目标识别方法。首先构造类内和类间邻域关系图,计算两个邻域图上的权重矩阵;然后基于Schur分解求出两个正交变换矩阵,得到映射矩阵,对观察数据进行维数约简,由此有效地克服小样本问题。对飞机目标的分类实验结果表明,该方法是有效可行的。

基于改进的局部敏感判别分析的步态识别方法

相对于人脸和指纹等广泛使用的生物特征识别手段而言,步态识别是一种相对新的非接触式的身份识别方法。提出了一种基于改进的局部敏感判别分析的步态识别方法。在真实的步态数据库上的实验结果表明,提出的步态识别方法是有效可行的。

基于特征融合与核局部Fisher判别分析的行人重识别

行人重识别精度主要取决于特征描述和度量学习两个方面。在特征描述方面,现有特征难以解决行人图像视角变化的问题,因此考虑将颜色标签特征与颜色和纹理特征融合,并通过区域和块划分的方式提取直方图获得图像特征;在度量学习方面,传统的核局部Fisher判别分析度量学习方法对所有查询图像统一映射到相同的特征空间中,忽略了查询图像不同区域的重要性,为此在核局部Fisher判别分析的基础上对特征进行区域分组,采用查询自适应得分融合方法来描述图像不同区域的重要性,由此实现度量学习。在VIPeR和i LIDS数据集上,实验结果表明融合后的特征描述能力明显优于原始特征,同时改进的度量学习方法有效提高了行人重识别精度。

基于局部敏感判别分析的路网状态特征提取模型研究

为简化路网状态表达,最大限度地实现路网信息增值,本文构建了从海量历史交通数据中提取特征参量来表达路网运行状态的模型.模型选取城市区域路网的流量、车速和密度数据,综合考虑交通数据的非线性和相关性,基于自适应邻域选择的局部敏感判别分析算法,实现城市路网数据特征提取.通过实例验证了模型的有效性.结果表明:本文得到的特征参量能有效地描述路网状态变化的24 h周期性,可直观反映早晚高峰现象及工作日与周末的区别性;与核主成分分析算法比较,模型得到的特征参量具有可分性更好的特点,可以表达宏观路网运行状态,为交通管理者提供决策依据.

一种邻域自适应半监督局部Fisher判别分析算法

针对利用局部化思想解决多模数据的判别分析问题时,根据经验对局部邻域大小进行全局统一设定,无法体现局部几何结构差异性的不足,提出一种邻域自适应半监督局部Fisher判别分析(neighborhood adaptive semi-supervised local Fisher discriminant analysis,NA-SELF)算法。该算法在半监督局部Fisher判别分析算法的基础上,结合马氏距离和余弦相似度确定初始近邻数,并根据样本空间概率密度估计调整近邻数。通过人工数据集和五组UCI标准数据集对该算法的特征降维性能进行验证,并与典型的维数约简算法和采用传统K近邻方法的判别分析算法进行比较,实验结果表明该算法具备更高的有效性。

基于集成局部费舍尔判别分析的故障分类

实际工业过程数据的局部特性一般都较为复杂,不利于样本特征的提取和故障分类精度的提高.针对此问题,本文提出一种集成的局部费舍尔判别分析(ILFDA)模型,可以同时从变量和样本两个维度挖掘数据的局部结构特征,提高故障分类的性能并降低建模的难度.首先,根据过程的结构原理对复杂系统进行分块,从而可以有效获取变量维度的数据局部信息,并排除无关变量的影响.其次,针对样本维度的数据局部信息,在每个变量子块中分别建立局部费舍尔判别分析(LFDA)模型,并为每个局部模型分配相应的权值,从而可以更准确地衡量不同子块对当前故障的影响程度.最后,利用分类性能加权策略将各个子块的分类结果进行融合.田纳西–伊斯曼(TE)过程中的仿真结果验证本文所提的ILFDA方法具有更好的故障分类效果.

基于局部Fisher判别分析的复杂化工过程故障诊断

为了提高复杂化工过程中故障检测和分类能力,提出基于局部Fisher判别分析(local Fisher discriminant analysis,LFDA)的复杂化工过程故障诊断方法。首先计算训练数据的局部类内和类间离散度矩阵,寻找LFDA的投影方向;其次把训练数据和测试数据向投影向量上投影,提取特征向量;最后计算特征向量间的欧氏距离,运用KNN分类器进行分类。把提议的LFDA方法应用到Tennessee Eastman(TE)过程,监控结果表明,LFDA的效果好于FDA和核Fisher判别分析(kernel Fisher discriminant analysis,KFDA),说明LFDA方法在分类及检测不同类的故障方面具有高准确性及高灵敏度的优势。

基于混合型判别分析的工业过程监控及故障诊断

工业过程数据具有规模性大、复杂性高、变量多、关联性强等特点.如何从数据出发准确并快速地发现故障并处理,保证过程高效运行意义重大.本文针对复杂的工业过程,提出了一种多方法结合的混合型过程监控与故障诊断方法,完成数据分类,构建故障模型库,故障在线诊断及可视化相关处理.首先通过常规主成分分析(Principal component analysis,PCA)方法对历史数据进行初筛,区分出正常和故障信息,然后利用聚类方法对故障数据集进行分类,接着利用局部线性指数判别分析方法(Local linear exponential discriminant analysis,LLEDA)建立故障模型库进而进行故障诊断.本文将基于监督学习的LLEDA方法拓展到无监督学习,便于复杂工业大量无标签数据的处理.最后利用典型的田纳西伊士曼(Tennessee Eastman,TE)过程对所提出的方法进行有效性验证.

基于稀疏张量判别分析的人体行为识别

在模式识别中,如何在提取关键特征的同时对样本进行降维与识别是研究的热点之一。在局部Fisher判别分析(LFDA)的基础上,结合张量表示和稀疏分析,本文提出一种基于稀疏张量的特征提取方法:稀疏张量局部Fisher判别分析(STLFDA)。该方法把张量局部Fisher判别分析(TLFDA)算法中特征分解问题转化为线性回归问题,并用弹性网络解决线性回归中的特征选择问题,既满足了张量局部Fisher判别分析的目标,又保证了得到的投影矩阵的稀疏性。通过在Weizmann人体行为数据库上的实验,表明了稀疏张量局部Fisher判别分析(STLFDA)算法的有效性。

一种基于目标空间的局部判别投影方法

现有的局部判别分析方法依据样本在投影前的近邻关系(原空间的近邻关系)设定优化目标中的权值,没有考虑样本的近邻关系在投影前后的变化。为了更准确地描述分类优化目标,该文提出了一种基于目标空间的局部判别投影方法,依据样本投影后的近邻关系(目标空间的近邻关系)设定目标函数中的权值矩阵,并采用迭代过程求解。其基本思想是使目标空间中的同类近邻样本尽量紧凑,目标空间中的异类近邻样本尽量分开。实验结果表明,该方法有效克服了原空间局部判别分析中存在的固有问题,在人工数据集和手写数字标准数据集均取得较好效果。