基于图嵌入的正交局部保持投影无监督特征选择

传统的基于图学习的无监督特征选择算法通常采用稀疏正则化方法来选择特征,但这种方法过于依赖于图学习的效率,并且存在正则化参数调优困难等问题。为解决这些问题,针对性地提出了一种基于图嵌入学习的正交局部保持投影无监督特征选择(Orthogonal Locality Preserving Projection Unsupervised Feature Selection via Graph Embedding,OLPPFS)算法。首先,利用能够保持数据局部几何流形结构的局部保持投影方法增强数据的线性映射能力,同时约束正交方向投影以方便数据重构;其次,通过图嵌入学习方法快速构建稀疏相似图来描述样本数据的内在结构;接着,采用l_(2,0)范数约束投影矩阵的值,准确选择指定数目的判别性特征子集;最后,针对l_(2,0)范数NP难题,设计一种有效求解l_(2,0)范数问题的无参迭代算法求解该模型。仿真结果表明了所提算法的有效性和优越性。

基于核schur正交局部Fisher判别的转子故障诊断

为更好识别转子系统故障,将核映射和向量正交思想引入到局部Fisher判别分析(LFDA)中,提出基于核schur正交局部Fisher判别(KSOLFD)的流形学习算法。首先通过核函数将故障特征信号映射到高维子空间,在该空间重新定义类内散度和类间散度,构建核局部Fisher判别函数,在特征值求解时以schur正交方式找出最优投影向量,进行故障诊断。算法保证了数据降维时重构误差最小,提高了故障诊断效果。实验表明,KSOLFD故障诊断效果相对其他流形学习算法最好。

基于正交半监督局部Fisher判别分析的故障诊断

针对有标记故障样本不足和故障特征集维数过高的问题,提出基于正交半监督局部Fisher判别分析(Orthogonal semi-supervised local Fisher discriminant analysis,OSELF)的故障诊断方法。所提出的OSELF能够充分地利用蕴含于无标记故障样本中的故障信息,避免了因有标记故障样本不足引起的过学习问题,同时采用正交迭代方式求解最优正交映射矩阵,克服现有方法无法得到正交映射矩阵的不足。正交映射矩阵的基矢量统计不相关,可有效地提高所得低维特征矢量的可辨识性。通过正交映射矩阵对故障样本集和新增样本进行维数约简,并将维数约简的结果输入粗糙优化k最近邻分类器(Coarse to fine k nearest neighbor classifier,CFKNNC)进行学习训练和故障识别。所提方法集成了OSELF在维数约简和CFKNNC在模式识别的优势,有效地提高了故障诊断的精度。通过齿轮箱故障模拟试验验证了该方法的有效性。

判别式正交线性局部切空间排列故障辨识

针对现有旋转机械故障诊断模式难以实现自动化、高精度和泛化性的关键问题,提出基于判别式正交线性局部切空间排列特征约简的故障辨识方法。该方法首先构造全面表征不同故障特性的时、频域特征集,再利用DOLLTSA将高维时、频域特征集自动约简为区分度更好的低维特征矢量,并输入到K-近邻分类器中进行故障模式辨识。时、频域特征融集可较全面准确地反映旋转机械的故障特征;DOLLTSA综合利用局部几何结构和类判别信息进行流形解耦,并采用谱回归法和子空间正交化处理来优化低维嵌入子空间,提高了故障辨识精度。深沟球轴承故障诊断实例和空间轴承寿命状态辨识实例验证了所提方法的有效性。

基于Schur正交的局部Fisher判别转子故障诊断

为更好识别转子系统故障,将正交思想引入到局部Fisher判别分析(LFDA)中,提出了一种基于Schur正交的局部Fisher判别(SOLFD)监督流形学习算法。算法以转子故障训练样本为监督信息,通过局部加权邻接矩阵重新定义类内散度和类间散度,构建局部Fisher判别函数。以判别函数值最大化为目标,通过Schur正交分解方式求解最优正交投影向量。将新增测试数据投影到该向量上,获取新数据故障类别信息。转子故障诊断实验表明,相对其他流形学习算法,SOLFD算法有更好的诊断效果。

正交全局-局部判别映射应用于植物叶片分类

提出了一种正交全局-局部判别映射的维数约简方法,并应用于植物叶片分类中。对于给定点的邻域点集,首先建立能够描述数据点之间关系的权重矩阵;然后,充分利用数据的类别信息和局部信息来构建类间散度矩阵和局部结构矩阵,使得映射后类内数据点之间的距离减小,而类间数据点之间的距离增大,这一性质有利于数据分类;最后,构造正交优化目标函数,通过Lagrange数乘法求解该目标函数。植物叶片图像分类的试验结果表明,该方法是有效、可行的。

正交判别的线性局部切空间排列的人脸识别

为了将线性局部切空间排列算法发展为有监督的学习算法,提出了一种正交判别的线性局部切空间排列算法。该算法首先利用样本数据的类别信息计算类间散度矩阵,然后再通过对原算法的目标函数进行修改来建立新的优化问题。在解出投影子空间的基础上,再通过进行正交化来得到投影的正交子空间。在两个标准人脸数据库上进行的实验表明,由于该算法使用了局部切空间来表示数据样本所在流形的局部几何结构,不仅融合了判别信息和正交化技术,并且兼顾了局部几何结构和判别结构的保持,因此提高了识别能力。

基于正交判别局部保持映射的步态识别方法

随着国内外对社会安全和反恐的日益重视,步态识别技术在远程监控中越来越显示出其独特优势;但由于步态识别存在诸多的困难,在现阶段仍未形成实用性的方法和理论框架,其关键问题是维数约简和特征提取;在局部保持映射的基础上,提出了一种正交判别局部保持映射的步态识别算法,用真实步态图像数据库上的实验结果表明该方法是有效可行的。

基于极小准则的完备正交判别局部保持算法

以无监督判别投影算法为理论基础,提出了一种基于极小准则的完备正交判别局部保持投影算法。算法首先根据同类样本的空间信息重新定义了类内局部保持散度矩阵与类间局部保持散度矩阵,然后借鉴无监督判别投影算法的目标函数,推导出一个基于极小准则的目标函数,该目标函数通过投影到总体散度矩阵的非零空间中有效地解决小样本问题,最后给出了该算法基于QR分解的正交投影矩阵的求解方法。人脸库上的实验结果表明了所提方法的有效性。

正则化最小二乘的正交局部保持判别投影的人脸识别

提出一种新的子空间学习方法:正则化最小二乘的正交局部保持判别投影.为了更好地保持数据流形的结构,融合局部保持投影和线性判别分析的特点,对类内和类间加权矩阵分别进行了定义,从而构造目标函数.首先使用特征分解求出训练样本在人脸子空间的投影,然后使用最小二乘法解出投影子空间,最后将子空间的基向量正交化.在标准人脸数据库上的试验证明了这种识别方法的正确和有效.

一种正交局部鉴别嵌入的人脸识别算法

为了解决局部鉴别嵌入(LDE)算法的高维小样本泛化能力弱和分解致密矩阵计算量较大的问题,提出了一种基于谱回归的正交局部鉴别嵌入算法(SR-OLDE),采用谱回归理论与正交化技术相结合的方法,将投影函数的求解转化为回归问题的求解.该算法首先计算训练样本的特征向量;然后通过回归方法计算投影向量,得到测试数据集,从而将n×n维的致密矩阵的特征分解转化为m×m维矩阵的特征分解,n,m分别为人脸特征矩阵维数和人脸样本数;最后对投影向量进行Gram-Schmidt正交化,得到正交的投影矩阵,从而可准确估计高维数据的内在维数,提高了样本的泛化能力.实验结果表明,该算法在降低人脸特征矩阵维数和提高人脸识别率的同时,缩短了计算时间.

用于人脸识别的正则正交化的局部判别分析

非线性结构保持能力的不足是正则正交化的线性判别分析ROLDA(Regularized Orthogonal Linear Discriminant Analysis)在人脸识别中的主要问题。提出一个用于人脸识别的正则正交化的局部Fisher判别分析ROLFDA(Regularized Orthogonal LocalFisher Discriminant Analysis)降维算法。该算法在ROLDA基础上引入局部结构保持,继承ROLDA的特性,克服了ROLDA的非线性能力的不足的问题。在YaleB和AR人脸数据集上的实验验证了该算法的有效性。

基于随机投影的正交判别流形学习算法

提出一种基于流形距离的局部线性嵌入算法,以流形距离测度数据间的相似度,选择各样本点的近邻域,解决了欧氏距离作为相似性度量时对邻域参数的敏感性.在MDLLE算法中引入最大边缘准则(maximum margin criterion,MMC)来构建最优平移缩放模型,使得算法在保持LLE局部几何结构的同时,具有MMC准则判别能力.通过正交化低维特征向量可消除降维过程中的噪声影响,进而提高算法的监督判别能力.由实验结果得到,所提出的方法具有良好的降维效果,能有效避免局部降维算法对邻域参数的敏感.随机投影独立于原始高维数据,将高维数据映射到一个行单位化的随机变换矩阵的低维空间中,维持映射与原始数据的紧密关系,从理论上分析证明了在流形学习算法中采用随机投影可以高概率保证在低维空间保持高维数据信息.

一种基于局部稀疏线性嵌入的降维方法及其应用

局部线性嵌入(LLE)是一种非线性的降维方法.LLE方法采用的近邻邻域大小是全局一致的,而且如果近邻个数过大则可能会把非同一个线性空间的点选作为近邻点.本文对LLE方法进行了改进,提出了一种局部稀疏线性嵌入(LSLE)降维法.在LSLE方法中,用解0范数问题的正交匹配追踪(OMP)方法来解线性表示问题.每个样本点都可以用K个近邻点中最能表示该数据的几个样本点稀疏表示.实验表明,在有监督学习和无监督学习应用上,LSLE方法是可行的.

全局与局部判别信息融合的转子故障数据集降维方法研究

针对传统的数据降维方法无法兼顾保持全局特征信息与局部判别信息的问题,提出一种核主元分析(Kernel principal component analysis,KPCA)和正交化局部敏感判别分析(Orthogonal locality sensitive discriminant analysis,OLSDA)相结合的转子故障数据集降维方法.该方法首先利用KPCA算法有效降低数据集的相关性、消除冗余属性,由此实现了最大程度地保留原始数据全局非线性信息的作用;然后利用OLSDA算法充分挖掘出数据的局部流形结构信息,达到了提取出具有高判别力低维本质特征的目的.上述方法的特点是通过同时进行的正交化处理可避免局部子空间结构发生失真,采用三维图直观显示出低维结果,以低维特征子集输入最近邻分类器(K-nearest neighbor,KNN)的识别率和聚类分析之类间距Sb、类内距Sw作为衡量降维效果的指标.实验表明该方法能够全面地提取出全局与局部判别信息,使故障分类更清晰,相应地识别准确率得到了明显提升.该研究可为解决高维和非线性机械故障数据集的可视化与分类问题,提供理论参考依据.

一种基于局部线性嵌入的非负矩阵分解

非负矩阵分解(NMF)将一个非负矩阵分类为两个低维的非负子矩阵,算法自提出后已广泛用于模式识别和数据挖掘等领域。但是NMF忽视了矩阵的几何结构,在图像分类、聚类等应用中无法取得较好的效果。在对一些算法分析的基础上,结合局部线性嵌入及正交的思想,文中提出了一种新的非负矩阵算法。实验证明该算法在分类和聚类两方面均具有较好的性能。

基于核正交局部判别嵌入的人脸识别

针对人脸识别中的非线性特征提取问题,提出一种基于核正交局部判别嵌入(KOLDE,kernel orthogonal local discriminant embedding)的人脸识别算法。首先通过引入基向量正交约束,得到OLDE算法,并给出算法的推导过程。然后为了更好地处理高度复杂非线性结构数据,将OLDE向高维空间扩展,在核空间提取图像的高阶非线性信息,得到核空间OLDE算法。在ORL和PIE库上的人脸识别实验验证了算法的有效性。

增量式正交局部判别投影法

针对现有投影分析算法随着输入数据量的增加计算复杂度急剧增长这一问题,通过子块优化策略构建了目标投影模型,称之为增量的局部判别投影(ILDP)算法。算法兼顾样本的类间离散度和类内紧凑性,求得的投影矩阵还具有正交性;通过子块叠加和奇异值升级算法对模型的求解进行了增量式扩展,计算过程中并无出现矩阵逆操作,即规避了小样本问题。在COIL图像库、USPS手写字体库和ExYaleB人脸库中的实验表明,对比经典的ILDA、LSDA、MMP等降维算法,ILDP具有更高的识别率,尤其在USPS数据库中,ILDP的识别率接近于90%,而其它的算法识别率都低于85%。与此同时,ILDP的计算量也明显少于对比算法,在USPS数据库中仅需要少于0.5s的时间即可完成最优投影矩阵计算。

基于正交指数局部保留投影的高光谱图像特征提取

针对高光谱图像,在判别局部保留投影(Discriminant Locality Preserving Projection,DLPP)的基础上,提出了一种名为正交指数判别局部保留投影(Orthogonal Exponential Discriminant Locality Preserving Projection,OEDLPP)的特征提取方法。该算法不但保留了DLPP算法的有监督特性,还利用了指数矩阵(the matrix exponential)来获取更有效的样本信息,避免了小样本问题。同时,OEDLPP对投影矩阵进行施密特正交化,解决了特征的冗余性问题。应用OEDLPP算法对高光谱图像进行特征提取后,并采用支持向量机(SVM)对降维后的数据进行分类。与主成分分析(PCA)、局部保留投影(LPP)、判别局部保留投影(DLPP)、指数判别局部保留投影(EDLPP)、正交判别局部保留投影(ODLPP)等对比实验结果表明,本文算法对样本有效信息的获取具有一定的优越性,分类精度提升了2%~3%左右。

基于LFDA和稀疏表示的轴承故障诊断

由于轴承信号是含有大量噪声的多模态数据,故障识别困难,提出了一种LFDA和稀疏表示算法相结合的轴承故障诊断方法。首先,对采集到的多模态轴承故障数据进行LFDA降维处理,提取故障数据的局部Fisher特征,保持了不同类别之间的区分度;其次,构建自适应特征字典,使用正交匹配追踪算法对故障信号稀疏表示,减少了被测样本数据中包含的噪声,降低了数据的计算复杂度;最后,利用最小重构误差方法对测试样本进行分类。实验结果证明,该方法在诊断精度上优于其他对比方法。