基于正交半监督局部Fisher判别分析的故障诊断

针对有标记故障样本不足和故障特征集维数过高的问题,提出基于正交半监督局部Fisher判别分析(Orthogonal semi-supervised local Fisher discriminant analysis,OSELF)的故障诊断方法。所提出的OSELF能够充分地利用蕴含于无标记故障样本中的故障信息,避免了因有标记故障样本不足引起的过学习问题,同时采用正交迭代方式求解最优正交映射矩阵,克服现有方法无法得到正交映射矩阵的不足。正交映射矩阵的基矢量统计不相关,可有效地提高所得低维特征矢量的可辨识性。通过正交映射矩阵对故障样本集和新增样本进行维数约简,并将维数约简的结果输入粗糙优化k最近邻分类器(Coarse to fine k nearest neighbor classifier,CFKNNC)进行学习训练和故障识别。所提方法集成了OSELF在维数约简和CFKNNC在模式识别的优势,有效地提高了故障诊断的精度。通过齿轮箱故障模拟试验验证了该方法的有效性。

一种邻域自适应半监督局部Fisher判别分析算法

针对利用局部化思想解决多模数据的判别分析问题时,根据经验对局部邻域大小进行全局统一设定,无法体现局部几何结构差异性的不足,提出一种邻域自适应半监督局部Fisher判别分析(neighborhood adaptive semi-supervised local Fisher discriminant analysis,NA-SELF)算法。该算法在半监督局部Fisher判别分析算法的基础上,结合马氏距离和余弦相似度确定初始近邻数,并根据样本空间概率密度估计调整近邻数。通过人工数据集和五组UCI标准数据集对该算法的特征降维性能进行验证,并与典型的维数约简算法和采用传统K近邻方法的判别分析算法进行比较,实验结果表明该算法具备更高的有效性。

有监督不相关局部Fisher判别分析故障诊断

针对现有流形学习理论用于旋转机械故障诊断存在识别精度不高的问题,提出基于有监督不相关局部Fisher判别分析(Supervised Uncorrelated Local Fisher Discriminant Analysis,SULFDA)的新型故障诊断方法。首先构造全面表征不同故障特征的时频域特征集,再利用有监督不相关局部Fisher判别分析将高维时频域故障特征集化简为区分度更好的低维特征矢量,并输入到K-近邻分类器中进行故障模式辨识。有监督不相关局部Fisher判别分析在类标签指导下最小化同类流形的离散度并最大化异类流形的离散度来实现类判别,还施加了不相关约束条件使所提取的特征统计不相关,提高了针对旋转机械的故障诊断精度。深沟球轴承故障诊断实验验证了该方法的有效性。

基于局部重构与全局保持的半监督判别分析方法

为克服线性判别分析(LDA)只能利用有标记样本的缺点,提出一种基于局部重构与全局保持的半监督判别分析(LRGPSSDA)方法.LRGPSSDA通过最小化局部重构误差来确定邻域图的边权值,在保持数据集局部结构的同时保持其全局结构,具有对邻域参数的选择不敏感、所得投影子空间的维数不受样本类别数的限制等特点.相较现有的半监督判别分析方法(如SDA和UDA),LRGPSSDA的分类性能更好.在YaleB和CMUPIE标准人脸库上的实验结果验证了该算法的有效性.

基于核半监督判别分析的高光谱影像特征提取

针对高光谱影像特征提取中地物类别训练样本获取代价较高的情况,在线性判别分析的基础上,结合核方法和半监督学习理论,提出了一种基于核半监督判别分析(KSDA)的高光谱影像特征提取方法。该方法同时利用少量已知类别和大量未知类别样本数据进行模型的学习和训练。通过OMIS高光谱影像数据实验表明:在少量已知类别训练样本的条件下,经KSDA特征提取的样本数据在特征空间中能更好地聚集成团,且类别之间的距离较大,增加了类别之间的可分性,得到了较高的分类精度;同时,提取的特征影像能够较好地区分各种地物类别。

小波核局部Fisher判别分析的高光谱遥感影像特征提取

为了提高高光谱遥感影像的分类精度,充分利用影像的光谱和局部信息,文中提出小波核局部Fisher判别分析的高光谱遥感影像特征提取方法.通过小波核函数将数据集从低维原始空间映射至高维特征空间,考虑到数据的局部信息,利用加权矩阵计算散度矩阵,对局部Fisher判别准则函数求解最优特征矩阵,使不同类别的样本在高维特征空间中的可分离性更佳.在2个公开高光谱数据集上的实验表明,文中方法的总体分类精度和Kappa系数都有所提高.

半监督局部判别分析

针对无监督学习及有监督学习算法的缺点,提出一种半监督局部判别分析的线性降维算法。数据在没有足够的训练样本时,局部结构比全局结构更重要。算法在每一个局部区域利用有标签数据推导出数据的局部判别结构,无标签数据和有标签数据推导出数据的内在几何结构。在ORL和Yale人脸数据库上的实验结果表明该算法是有效的。

基于特征融合与核局部Fisher判别分析的行人重识别

行人重识别精度主要取决于特征描述和度量学习两个方面。在特征描述方面,现有特征难以解决行人图像视角变化的问题,因此考虑将颜色标签特征与颜色和纹理特征融合,并通过区域和块划分的方式提取直方图获得图像特征;在度量学习方面,传统的核局部Fisher判别分析度量学习方法对所有查询图像统一映射到相同的特征空间中,忽略了查询图像不同区域的重要性,为此在核局部Fisher判别分析的基础上对特征进行区域分组,采用查询自适应得分融合方法来描述图像不同区域的重要性,由此实现度量学习。在VIPeR和i LIDS数据集上,实验结果表明融合后的特征描述能力明显优于原始特征,同时改进的度量学习方法有效提高了行人重识别精度。

基于Fisher判别分析的有监督特征提取和星系光谱分类

随着天文观测技术的进步、数据获取能力的提高和大型光谱巡天计划的相继实施,光谱数据的自动处理研究越来越受到重视和关注。文章在分析了文献中光谱自动分类研究的特点和无监督特征提取方法所固有的一些不足的基础上指出了光谱有监督特征提取研究的必要性。并重点研究了Fisher判别分析(FDA)有监督特征提取方法在星系光谱自动分类中的应用。该方法:(1)具有突出的维数约减能力;(2)能有效地融合训练数据的类别信息,并按照分类能力提取特征。实验表明,将FDA方法用于某些星系细分类不仅明显地提高了分类器的速度,而且具有良好的分类性能。因此,对于较大的光谱识别系统更能体现出该方法的优越性。

稀疏局部Fisher判别分析

提出一种稀疏局部Fisher判别分析(SparsityLocalFisherDiscriminantAnalysis,SLFDA)。该算法在局部Fisher判别分析降维的基础上,通过平衡参数引入稀疏保持投影,在投影降维过程中保持了数据的全局几何结构和局部近邻信息。在UCI数据集和YaleB人脸数据集上的实验表明,该算法融合局部Fisher判别分析和稀疏保持投影的优点;与现有的半监督局部Fisher判别分析降维算法相比,该算法提高了基于最短欧氏距离的分类算法的精度。

一种自适应邻域选择半监督判别分析算法

为克服边界Fisher判别分析(MFA)只利用少量有标记样本和构建邻域不能充分反映流形学习对邻域要求的缺点,提出一种基于局部线性结构的自适应邻域选择半监督判别分析的算法。采用自适应算法扩大或者缩小近邻系数k来构建邻域以保持局部线性结构。MFA通过少量有类别标签样本进行降维的同时UDP对大量无标签样本进行学习,以半监督的方法对高维人脸数据进行维数约减。最后,在ORL和YALE人脸数据库通过实验结果验证了该算法的有效性。

LLE与核Fisher判别分析结合的人脸识别研究

针对人脸识别问题提出了将LLE与核Fisher相结合的识别方法 LLEKF,先应用LLE方法将样本和待测试的人脸图像集降低到一定维数,再利用核Fisher判别法通过选择合适的核函数,确定最优参数,对降维后的样本图像进行训练,并对降维后的人脸图像进行分类。实验证明,利用LLE低维嵌入后的数据能够更好地保持原人脸数据的非线性特征,并降低特征提取的时间,再经过核Fisher进行分类,明显提高了分类的效率。

一种利用半监督Fisher判别分析检测推荐攻击的方法

协同推荐系统容易受到推荐攻击,为了检测该攻击,很多无监督、有监督及半监督检测方法被提出,其中,半监督检测方法的优势在于可以利用无标签用户概貌提升检测性能.然而,已有半监督检测方法的准确率较低,针对该问题,本文提出一种基于半监督Fisher判别分析(Semi-supervised Fisher Discriminant Analysis,SFDA)的推荐攻击检测方法RAD-SFDA来提升半监督检测方法的准确率.首先,利用Fisher判别分析(Fisher Discriminant Analysis,FDA)技术结合有标签用户概貌确定投影向量,在投影后的空间中最大化真实概貌和攻击概貌的离散度的同时最小化同类用户概貌间的离散度;然后,利用主元分析(Principal Components Analysis,PCA)技术从有标签和无标签用户概貌建立的数据集中提取全局结构;最后,综合上述由有标签用户概貌确定的判别结构和由所有用户概貌确定的全局结构确定最佳投影向量,在最终的投影空间中训练贝叶斯分类器检测推荐攻击.在MovieLens数据集上的实验结果表明,本文方法在保持较高召回率的前提下有效提升了准确率.

基于局部Fisher判别分析的复杂化工过程故障诊断

为了提高复杂化工过程中故障检测和分类能力,提出基于局部Fisher判别分析(local Fisher discriminant analysis,LFDA)的复杂化工过程故障诊断方法。首先计算训练数据的局部类内和类间离散度矩阵,寻找LFDA的投影方向;其次把训练数据和测试数据向投影向量上投影,提取特征向量;最后计算特征向量间的欧氏距离,运用KNN分类器进行分类。把提议的LFDA方法应用到Tennessee Eastman(TE)过程,监控结果表明,LFDA的效果好于FDA和核Fisher判别分析(kernel Fisher discriminant analysis,KFDA),说明LFDA方法在分类及检测不同类的故障方面具有高准确性及高灵敏度的优势。

基于核正交半监督鉴别分析的人脸识别算法

针对人脸识别中的非线性特征提取和有标记样本不足问题,提出了在核空间具有正交性半监督鉴别矢量的计算方法。算法利用核函数将人脸数据映射到高维非线性空间,在该空间采用边界Fisher判别分析(Marginal Fisher Analysis,MFA)算法将少量有类别标签样本进行降维,同时采用无监督鉴别投影(Unsupervised Discriminant Projection,UDP)对大量无标签样本进行学习,以半监督的方法构造算法的目标函数,在特征值求解时以正交方式找出最优投影向量,进行人脸识别。通过实验,在ORL和YALE人脸数据库上验证了该算法的有效性。

半监督稀疏鉴别核局部线性嵌入的非线性过程故障检测

复杂过程往往受到运行状态复杂、工作条件恶劣等因素影响,过程数据具有很强的非线性、随机性和流形结构.近年来,核局部线性嵌入(kernel locally linear embedding,KLLE)已经成功应用于复杂过程故障检测.然而KLLE是一种无监督流形学习算法,能够保持样本的局部几何信息,忽视了总体数据样本集全局/非局部鉴别信息.针对上述问题,本文提出一种新的半监督稀疏鉴别核局部线性嵌入(semi-supervised sparse discriminantKLLE,SSDKLLE)算法并用于非线性工业过程故障检测.本文主要贡献如下:(1)把半监督学习与Fisher鉴别分析(fisher discriminant analysis,FDA)引入到KLLE,有效地利用了总体数据集几何鉴别信息,提高了算法对不同类别数据的分离性;(2)基于稀疏表示通过重构优化方法对信号自适应稀疏表达的优点,利用稀疏表示自适应选择最近邻样本以及数目,提高算法鲁棒性和局部保持性能;(3)引入局部邻域处理以及核技巧策略降低过程工况数据变化对监测算法的影响,提高非线性多工况过程监测方法的性能.基于UCI数据和TE平台的仿真实验结果验证了所提算法的有效性.

全局判别与局部稀疏保持HSI半监督特征提取

针对高光谱图像存在“维数灾难”的问题,提出一种全局判别与局部稀疏保持的高光谱图像半监督特征提取算法(GLSSFE)。该算法通过LDA算法的散度矩阵保存有类标样本的全局类内判别信息和全局类间判别信息,结合利用半监督PCA算法对有类标和无类标样本进行主成分分析,保存样本的全局结构;利用稀疏表示优化模型自适应揭示样本数据间的非线性结构,将局部类间判别权值和局部类内判别权值嵌入半监督LPP 算法保留样本数据的局部结构,从而最大化同类样本的相似性和异类样本的差异性。通过1-NN和SVM两个分类器分别对Indian Pines和Pavia University 两个公共高光谱图像数据集进行分类,验证所提特征提取方法的有效性。实验结果表明,该GLSSFE算法最高总体分类精度分别达到89.10%和92.09%,优于现有的特征提取算法,能有效地挖掘高光谱图像的全局特征和局部特征,极大地提升高光谱图像的地物分类效果。

自适应正则化核二维判别分析

传统的半监督降维技术中,在原特征空间中定义流形正则化项,但其构造无助于接下来的分类任务.针对此问题,文中提出一种自适应正则化核二维判别分析算法.首先每个图像矩阵经奇异值分解为两个正交矩阵与一个对角矩阵的乘积,通过两个核函数将两个正交矩阵列向量从原始非线性空间映射到一个高维特征空间.然后在低维特征空间中定义自适应正则化项,并将其与二维矩阵非线性方法整合于单个目标函数中,通过交替优化技术,在两个核子空间提取判别特征.最后在两个人脸数据集上的实验表明,文中算法在分类精度上获得较大提升.

基于核的半监督的局部保留投影降维方法

为能有效捕捉数据的非线性特征,特提出一种新的非线性数据降维算法——核半监督局部保留投影(KSSLPP)。该方法利用标记样本的标记信息及所有训练样本的结构重新定义了类间相似度和类内相似度,然后将原始数据映射到高维核空间,在核空间中最大化类间分离度,最小化类内分离度。该方法在核空间保持了数据的局部结构和全局结构,以及数据的标签信息。在Olivetti人脸库和UCI数据库中的对比实验验证了该算法的有效性。

基于Fisher判别的半监督天体光谱数据特征降维

降维是天体光谱数据预处理常用的手段之一,如何利用标号天体光谱数据,克服降维过程中的过分拟合,是提高降维效果的有效途径之一。采用半监督学习,给出了一种天体光谱数据特征降维方法。该方法首先针对具有标号天体光谱数据,建立Fisher判别分析和PCA可变动选择的不确定关系;其次构建其半监督降维的全局最优化形式,通过特征值分解计算降维结果,从而有效地克服了天体光谱降维过程中的过分拟合问题;最后采用高红移类星体和晚型星SDSS天体光谱特征线数据集,实验验证了该方法的有效性。