核正交局部保持投影算法及应用仿真研究

针对化工连续生产过程的时序性及非线性特征,为了挖掘数据的高维非线性结构,将核函数技术和投影向量间正交性原理融入局部保持投影算法中,提出一种新的核正交局部保持投影(Kernel Orthogonal Locality Preserving Projections,KOLPP)用于工业过程故障诊断的非线性算法.首先,利用核函数技术将工业过程数据投影到高维的非线性空间中,提取数据中的非线性信息.在保证投影矩阵中各向量正交的同时,通过局部保持投影算法进行线性映射.其次,通过构造统计量和统计量的控制限进行故障诊断.最后通过TE过程的仿真实验结果验证该算法的有效性.

基于正交局部保持映射和成本优化的多变量时间序列早期分类模型

时间序列早期分类(ETSC)有两个矛盾的目标:早期性和准确率。分类早期性的实现,总是以牺牲它的准确率为代价。现有基于优化的多变量时间序列(MTS)早期分类方法,虽然在成本函数中考虑了错误分类成本和延迟决策成本,却忽视了MTS数据集样本之间的局部结构对分类性能的影响。针对这个问题,提出一种基于正交局部保持映射(OLPP)和成本优化的MTS早期分类模型(OLPPMOAE)。首先,使用OLPP将MTS样本前缀映射到低维空间,保持原数据集的局部结构;其次,在低维空间训练一组高斯过程(GP)分类器,生成训练集每个时刻的类概率;最后,使用粒子群优化(PSO)算法从这些类概率中学习停止规则中的最优参数。在6个MTS数据集上的实验结果表明,在早期性基本持平的情况下,OLPPMOAE的准确率显著高于基于成本的R1_C_(lr)(stopping Rule and Cost function with regularization term l_(1)and l_(2))模型,平均准确率能够提升11.33%~15.35%,调和均值(HM)能够提升4.71%~9.01%。因此,所提模型能够以较高的准确率尽早地分类MTS。

基于图嵌入的正交局部保持投影无监督特征选择

传统的基于图学习的无监督特征选择算法通常采用稀疏正则化方法来选择特征,但这种方法过于依赖于图学习的效率,并且存在正则化参数调优困难等问题。为解决这些问题,针对性地提出了一种基于图嵌入学习的正交局部保持投影无监督特征选择(Orthogonal Locality Preserving Projection Unsupervised Feature Selection via Graph Embedding,OLPPFS)算法。首先,利用能够保持数据局部几何流形结构的局部保持投影方法增强数据的线性映射能力,同时约束正交方向投影以方便数据重构;其次,通过图嵌入学习方法快速构建稀疏相似图来描述样本数据的内在结构;接着,采用l_(2,0)范数约束投影矩阵的值,准确选择指定数目的判别性特征子集;最后,针对l_(2,0)范数NP难题,设计一种有效求解l_(2,0)范数问题的无参迭代算法求解该模型。仿真结果表明了所提算法的有效性和优越性。

基于Cam权重正交局部保持投影算法的人脸识别研究

结合凸轮(Cam)权重距离和正交局部保持投影算法,提出了一种改进的Cam权重正交局部保持投影法。该算法将Cam权重距离代替正交局部保持投影算法在构造邻接图时采用的欧式距离,克服了处理高维数据中数据分布不均匀的问题。运用该改进算法对人脸图像进行特征提取,与局部保持投影算法和正交局部保持投影算法进行实验比较,结果证明,用改进的Cam权重正交局部保持投影法进行人脸识别得到的识别率更高,算法的性能效果更好。

直接无监督正交局部保持特征提取算法

基于局部保持投影发展出的一系列特征提取算法,在应用于人脸识别等高维小样本问题时,均需先采用PCA算法对高维样本降维后才能应用,故此以无监督鉴别分析算法为理论基础,提出了一种直接无监督正交局部保持算法。该算法利用拉普拉斯矩阵的性质进行相应的矩阵分解,可直接从高维样本的原始空间中提取投影矩阵,因而无需先采用PCA降维处理,且解决了无监督鉴别分析算法的小样本问题。为了进一步提高算法的识别性能,给出了基于QR分解的正交投影矩阵的求解方法。人脸库和掌纹库上的实验结果表明了所提算法的有效性。

一种基于Schur分解的正交鉴别局部保持投影方法

人脸识别是模式识别领域中的一项重要的研究课题。到目前为止,已经提出了许多方法来处理人脸的识别问题。最近,许多流形学习算法被提出并且成功地应用于人脸识别当中。这些流形学习方法能够保持人脸图像数据的局部结构,同时,还可以发现人脸的非线性结构。在这些流形学习方法中,局部保持投影方法(LPP)是最有效的方法之一。基于LPP方法,提出了一种新的人脸识别方法——基于Schur分解的正交鉴别局部保持投影方法(ODLPPS)。与LPP方法相比,ODLPPS把类间散度与类内散度之差的信息融入到LPP的目标函数中并且获得了正交的基向量。在ORL和Yale人脸数据库上的实验结果表明,该方法在识别性能上优于一些已经存在的方法,如eigenface,Fisherface,LPP和orthogonal LPP(OLPP)。

基于核的正交局部保持投影的人脸识别

针对发掘人脸图像中的高维非线性结构,本文将加核及向量间相互正交两种思想同时引入局部保留投影算法中,提出了一种新的基于核的正交局部保持投影(Kernel based Orthogonal Locality Preserving Projections,KOLPP)的非线性子空间人脸识别算法并给出了其推导过程。该算法首先利用核的方法提取人脸图像中的非线性信息,并将其投影在一个高维非线性空间,在保证各向量正交的同时,通过局部保持投影算法做一线性映射,从而更好地提取人脸非线性局部邻域结构特征。在ORL和Yale人脸库上的试验证明了该文所提算法的有效性。

基于极小准则的完备正交判别局部保持算法

以无监督判别投影算法为理论基础,提出了一种基于极小准则的完备正交判别局部保持投影算法。算法首先根据同类样本的空间信息重新定义了类内局部保持散度矩阵与类间局部保持散度矩阵,然后借鉴无监督判别投影算法的目标函数,推导出一个基于极小准则的目标函数,该目标函数通过投影到总体散度矩阵的非零空间中有效地解决小样本问题,最后给出了该算法基于QR分解的正交投影矩阵的求解方法。人脸库上的实验结果表明了所提方法的有效性。

基于随机子空间-正交局部保持投影的支持向量机

针对高维数、小样本数据分类问题,提出一种基于随机子空间-正交局部保持投影的支持向量机.利用随机子空间方法对原始高维样本的特征空间进行多次随机采样,生成多个具有不同特征子集的基支持向量机(SVM)分类器;利用正交局部保持投影对各基SVM分类器的样本进行特征提取,实现维数约简;然后,利用降维后的样本对各基SVM分类器进行训练;采用贝叶斯求和准则将各基SVM的分类结果进行融合以得到最终的分类结果.典型人脸数据库识别结果验证了本方法的可行性和有效性.

基于Log-Gabor和正交局部保持投影的人耳识别方法

针对人耳角度变化引起识别率下降的问题,提出一种结合Log-Gabor滤波和正交局部保持投影(OLPP)的人耳识别方法。首先采用Log-Gabor对图像进行滤波来提取多尺度多方向的人耳纹理特征;然后在局部保持投影的原始优化问题中增加正交约束条件,迭代计算出一组具有正交性最优映射向量,约简了丰富的Log-Gabor特征,并保留了人耳非线性流形子空间与距离有关的结构信息和重构样本;最后用最小欧氏距离分类器进行分类识别。对比相关的方法,该方法提高了姿态人耳的识别率。实验结果表明该方法能良好地表征姿态人耳,对角度变化具有很好的鲁棒性。

正则化最小二乘的正交局部保持判别投影的人脸识别

提出一种新的子空间学习方法:正则化最小二乘的正交局部保持判别投影.为了更好地保持数据流形的结构,融合局部保持投影和线性判别分析的特点,对类内和类间加权矩阵分别进行了定义,从而构造目标函数.首先使用特征分解求出训练样本在人脸子空间的投影,然后使用最小二乘法解出投影子空间,最后将子空间的基向量正交化.在标准人脸数据库上的试验证明了这种识别方法的正确和有效.

基于双邻接图正交近邻保持投影的人脸识别算法

正交保持投影(ONPP)是经典的图嵌入降维技术,已经成功地应用到人脸识别中,其保持了高维数据的局部性和整体几何结构。监督的ONPP通过建立同类邻接图来最小化同类局部重构误差,寻找最优的低维嵌入,但是其只使用了类内信息,这会导致异类数据点间的结构不够明显。因此,提出了基于双邻接图的正交近邻保持投影(DAGONPP)算法。通过建立同类邻接图与异类邻接图,在数据嵌入低维空间后同类近邻重构误差尽量小,异类近邻重构误差更加明显。在ORL,Yale,YaleB和PIE人脸库上的实验结果表明,与其他经典算法相比,所提方法有效提高了分类能力。

基于监督正交局部保持映射的植物叶片图像分类方法

针对传统的线性分类方法不能有效处理复杂、多变和非线性的植物叶片图像,在局部保持映射算法的基础上,提出了一种监督正交局部保持映射算法,并应用于基于植物叶片图像分类中。该算法首先利用Warshall算法计算样本的类别矩阵,在此基础上充分利用样本的局部信息和类别信息构造类间散度矩阵和类内散度矩阵,使得维数约简后,在低维子空间同类样本之间的距离变小,而不同类样本之间的距离增大,由此提高了该算法的分类能力。最后,利用K-最近邻分类器进行植物分类。与经典的监督子空间维数约简方法相比,该方法在构建类内和类间散度矩阵时不需要判别数据的类别信息,能够提高算法的分类性能。在公开植物叶片图像数据库上进行了一系列植物叶片分类试验,平均正确识别率高达95.92%。试验结果表明了该算法在植物分类中的可行性。

有监督不相关正交局部保持映射故障辨识

提出基于有监督不相关正交局部保持映射(SUOLPP)维数化简的故障辨识方法。首先构造全面表征不同故障特征的时频域特征集,再利用SUOLLP将高维时频域特征集自动约简为具有更好区分度的低维特征矢量,并输入到Littlewood-Paley小波核支持向量机中进行故障模式辨识。时频域特征融集可较全面准确地反映旋转机械的故障特征;SUOLPP同时利用流形局部几何结构和类标签来设计相似加权矩阵,并使输出基向量统计不相关和相互正交,提高了故障辨识精度。深沟球轴承故障诊断和空间轴承寿命状态辨识实例验证了该方法的有效性。

基于随机投影的正交判别流形学习算法

提出一种基于流形距离的局部线性嵌入算法,以流形距离测度数据间的相似度,选择各样本点的近邻域,解决了欧氏距离作为相似性度量时对邻域参数的敏感性.在MDLLE算法中引入最大边缘准则(maximum margin criterion,MMC)来构建最优平移缩放模型,使得算法在保持LLE局部几何结构的同时,具有MMC准则判别能力.通过正交化低维特征向量可消除降维过程中的噪声影响,进而提高算法的监督判别能力.由实验结果得到,所提出的方法具有良好的降维效果,能有效避免局部降维算法对邻域参数的敏感.随机投影独立于原始高维数据,将高维数据映射到一个行单位化的随机变换矩阵的低维空间中,维持映射与原始数据的紧密关系,从理论上分析证明了在流形学习算法中采用随机投影可以高概率保证在低维空间保持高维数据信息.

基于自适应正交局部搜索算子的混合遗传算法

基于遗传算法的动态特性和正交设计的思想 ,提出了能根据当前进化的种群状态自适应调整局部搜索空间大小的正交局部搜索算子 .对结合了自适应正交局部搜索算子的混合遗传算法进行了经典的多峰值测试函数的性能测试 ,结果表明 ,混合算法在获得的解的准确性和收敛速度上均优于标准遗传算法 .

基于正交判别局部保持映射的步态识别方法

随着国内外对社会安全和反恐的日益重视,步态识别技术在远程监控中越来越显示出其独特优势;但由于步态识别存在诸多的困难,在现阶段仍未形成实用性的方法和理论框架,其关键问题是维数约简和特征提取;在局部保持映射的基础上,提出了一种正交判别局部保持映射的步态识别算法,用真实步态图像数据库上的实验结果表明该方法是有效可行的。

提取混沌中微弱信号的正交局部投影方法

改进了降低混沌中噪声的局部投影方法,建立了正交局部投影算法,根据混沌的确定性特征,提出了预测性邻点选取方法和参数选择法则。这种方法成功地应用于提取Henon混沌中的微弱信号,在信噪比不低于-80 dB的条件下,能够准确提取信号信息。数值实验表明,该方法具有高度的稳定性和可靠性,是提取混沌中微弱信号的有效方法。

基于正交局部保持映射的转子故障诊断方法

为了改善故障模式识别的分类性能,提出了一种基于正交局部保持映射算法的多流形特征提取方法。对于高维的非线性数据可以有效地提取低维流形特征向量,并且不会改变数据的内在属性。利用转子的振动信号构造一个高维多征兆矩阵,然后在应用正交局部保持映射将这个高维矩阵进行降维,提取低维特征向量矩阵,映射在可视空间里,从而可以有效地达到故障分类的效果,提高故障诊断的准确率。最后通过实验和数据降维仿真证明了正交局部保持映射算法的有效性和可行性。

典型相关分析的局部保持投影算法

针对传统子空间线性分析方法无法准确地描述样本具有的流形结构的问题,依据典型相关分析算法和局部保持投影算法的理论,将两种算法结合起来,提出了限制类别的典型相关分析的局部保持投影算法,该算法通过引入类信息,在区分了样本类信息的基础上,又保持样本类内的局部信息结构,而且还使两组样本间达到最大相关化以及各个特征投影之间具有不相关性,极大地提高了算法的识别率.该算法分别在YALE人脸库和AR人脸库上进行实验,识别率最高可达98%.