张量主成分分析与高维信息压缩方法

本文概述了信息压缩背景下的张量主成分分析的研究历史与发展现状,并展望了一些可能的研究领域.首先,我们回顾了张量以及张量分解的历史,在信息压缩背景下张量分解可以统一表达为一个普适的统计模型;其次,按经典主成分分析(PCA)、稳健主成分分析以及稀疏主成分分析三大类,我们详述了每类在多样本和单样本情形下的统计理论和优化算法的进展,其中又由简单数据结构到复杂数据结构依次对向量数据、矩阵数据以及张量数据的PCA发展进行了概述.

改进的主成分分析法自动发现土地覆盖变化

为了实现快速、自动化发现土地覆盖变化这一目标,在分析传统主成分差异法、差异主成分法、多波段主成分法三种不同处理过程的基础上,结合主成分变换原理提出了一种改进的主成分分析法(modified principal component analysis,MPCA)。操作中先将d1时相多光谱影像作主成分分析,得PC1d1,PC2d1,…,PC6d1;d2时相高分辨率全色波段PAN与PC1d1进行直方图匹配后,采用了经反复试验效果较好的3×3模板进行边缘滤波增强;然后取代PC1d1与PC2d1,PC3d1,…,PC6d1进行主成分逆变换,作者在ENVI4.0和IDL6.0工具包支持下实现了这一融合算法。以北京海淀区为例进行的试验研究表明,MPCA法不仅能够快速发现变化信息,而且增强了影像纹理,弥补了传统主成分分析法的缺陷。此外,变化信息提取精度较高,其Kappa系数比传统主成分差异法、差异主成分法、多波段主成分法依次提高了0.063,0.118,0.029,是一种比较实用的变化信息发现方法,值得推广应用。

基于移动主成分分析特征的智能损伤诊断方法

文章在移动主成分分析(moving principal component analysis,MPCA)基础上,提出一种优化的MPCA特征——特征向量差方向角(directional angle of eigenvector variation,DAEV),并将其作为机器学习的输入建立损伤识别模型。利用双跨连续梁的仿真应变监测数据验证了以DAEV建立机器学习模型诊断结构损伤的有效性。结果表明,与MPCA特征向量相比,DAEV能更好地表征桥梁状态的变化,以DAEV为输入的机器学习模型损伤识别能力更强;对于早期损伤,以DAEV特征为输入的模型识别准确率比以MPCA特征向量为输入的模型高38%~79%。

基于面积投影的分块鲁棒张量主成分分析算法

张量主成分分析算法(tensor principal component analysis,TPCA)作为一种旨在以低维子空间表征高维张量数据的数据降维算法,在多个机器学习领域得到了广泛的应用。由于L_(1)范数丢失了F范数的旋转不变性,且目前现有的TPCA算法采用单一优化任务,即仅优化投影距离忽略了误差张量的优化任务,因此即使这些算法具有一定程度的鲁棒性,但是仍然表现较弱。为了进一步克服单一优化任务带来的缺陷并且继续保持原有算法具有的性质,在本文中提出了一种多重任务优化的比值型模型。该模型受直角三角形面积公式的启发,通过优化斜边上的高来实现投影距离最大和重构误差最小的多重任务优化,称为面积投影模型。然后本文在此面积投影模型的基础上,采用了一种分块重组的预处理技术进而提出了分块鲁棒张量主成分分析算法(block tensor PCA with F-norm based on area projection,area-BTPCA-F)。该算法不仅保留了旋转不变性,同时充分考虑了误差张量;针对噪声信息,分块重组处理也大大提升了算法的鲁棒性。最后,通过对含有不同噪声比例的6个彩色数据集进行实验验证,平均重构误差(average reconstruction error,ARCE)实验和分类率实验的结果表明,所提算法相比其他现有TPCA算法而言具有较强的鲁棒性,性能得到了明显的提升。

基于多线性主成分分析的支持高阶张量机

为了处理张量数据,传统的学习算法常常把张量展成向量,但会造成破坏原始数据固有的高阶结构和内在相关性,导致信息丢失,或产生高维向量,使得后期学习过程中容易出现过拟合、维度灾难和小样本问题.近年提出了许多基于张量模式的分类算法,而支持高阶张量机算法是张量分类算法中最有效的方法之一.考虑到张量的高维性和高冗余性,本文提出基于多线性主成分分析的支持高阶张量机分类算法(Multilinear Principle Component Analysis Based Support High-Order Tensor Machine,MPCA+SHTM).该算法首先利用多线性主成分分析对张量进行降维,然后利用支持高阶张量机对降维后的张量进行学习.在12个张量数据集上的实验表明:MPCA+SHTM在保持测试精度的情况下有效地降低了SHTM的计算时间.

基于张量主成分分析的非线性双转子系统故障诊断方法

针对双转子在高速运转时难以从高、低压转子耦合出现的复杂振动现象中提取到有效的振动特征,及目前缺乏对其相应的研究等问题,本文提出一种采用张量主成分分析(multilinear principal component analysis of tensor objects,MPCA)与K-最近邻(K-nearest neighbor,KNN)分类相结合的方法,并将其用于非线性双转子系统的故障诊断。首先采用集中质量法创建非线性裂纹双转子模型及其动力学方程,针对裂纹开合角度变化分析高、低压转子的振动特性。再将振动能量信号与振动信号归一化为彩色图像样本,使用MPCA算法对故障特征进行压缩提取。最后使用KNN分类算法对不同裂纹开合角度情况进行特征分类,并计算相应的分类率。实验结果表明,在转子高速区域含有低噪声的情况下,MPCA可以有效地区分不同裂纹程度的特征信号,为非线性双转子裂纹系统的故障诊断提供了新的检测策略。

变转速下L_(1,1,2)范数与张量核范数联合约束的TRPCA滚动轴承故障特征提取方法

滚动轴承作为旋转机械设备的重要部件之一,其工作状态直接影响旋转设备的运行安全,因此其故障特征的有效提取对于保障机械设备正常运行具有重要的意义。实际应用中滚动轴承通常以变化的速度运行,并且单一传感器采集的轴承的非平稳信号往往被严重的背景噪声覆盖,使得故障特征的提取非常困难。为了解决这一问题,提出一种变转速下L_(1,1,2)范数与张量核范数联合约束的张量主成分分析(tensor robust principal component analysis,TRPCA)滚动轴承故障特征提取方法。首先,使用时频表示(time-frequency representation,TFR)作为正向切片构建张量,分别探讨滚动轴承时变故障特征在张量域中的管稀疏性和背景噪声在张量域中的低管秩性。进而使用L_(1,1,2)范数与张量核范数联合约束的TRPCA对故障特征张量进行提取,得到管稀疏的故障特征张量。最后将提取的故障特征张量在通道索引中进行融合,得到能够有效表征故障特征的时频表示。仿真和试验分析验证了该方法在轴承故障特征提取中的有效性。

F范数度量下的鲁棒张量低维表征

张量主成分分析(Tensor principal component analysis, TPCA)在彩色图像低维表征领域得到广泛深入研究,采用F范数平方作为低维投影的距离度量方式,表征含离群数据和噪声图像的鲁棒性较弱.L1范数能够抑制噪声的影响,但所获的低维投影数据缺乏重构误差约束,其局部表征能力也较弱.针对上述问题,利用F范数作为目标函数的距离度量方式,提出一种基于F范数的分块张量主成分分析算法(Block TPCA withF-norm,BlockTPCA-F),提高张量低维表征的鲁棒性.考虑到同时约束投影距离与重构误差,提出一种基于比例F范数的分块张量主成分分析算法(Block TPCA with proportional F-norm, BlockTPCA-PF),其最大化投影距离与最小化重构误差均得到了优化.然后,给出其贪婪的求解算法,并对其收敛性进行理论证明.最后,对包含不同噪声块和具有实际遮挡的彩色人脸数据集进行实验,结果表明,所提算法在平均重构误差、图像重构与分类率等方面均得到明显提升,在张量低维表征中具有较强的鲁棒性.

截断核范数低秩张量核矩阵图像修复算法

针对张量数据存在不完整和缺少项,导致图像修复过程中信息丢失的问题,提出了一种基于截断核范数和低秩张量核矩阵的图像修复算法TNN-LTKM(truncated nuclear norm low-rank tensor kernel matrix)。首先,引入张量截断核范数,对秩函数进行精确逼近,以增强优化模型的鲁棒性;其次,通过增加核心矩阵核范数扩展t-SVD中的张量核范数,定义了一个新的包含张量管秩和核矩阵秩的潜在核范数,来充分提取核张量中的低秩结构,消除冗余;接下来,采用增广拉格朗日法和交替方向乘子法对上述模型进行优化求解;最后,在ZJU、Berkeley和Kodak Lossless 3个数据集上进行实验验证,取相对平方误差、峰值信噪比、结构相似度和CPU运行时间4个评价指标,与现有的6种算法对比表明,TNN-LTKM算法在低采样率下有着良好的表现。

基于L_(1−2)时空域总变分正则项的红外弱小目标检测算法

针对红外图像序列中复杂背景干扰下容易出现的高虚警问题,提出一种基于L_(1-2)时空域总变分正则项的红外弱小目标检测算法。首先,将红外图像序列转化为时空域红外张量块,该步骤可利用张量的高维数据结构优势关联图像序列中的时空域信息。然后,利用加权Schattenp范数和L_(1-2)时空域总变分正则项对低秩背景成分进行重构,以保留背景中起伏剧烈的边缘和角点,提高稀疏目标的重构精度。最后,将目标张量恢复为图像序列,利用自适应阈值分割方法得到最终的目标图像。与另外5种检测算法进行对比实验,结果显示,该方法的虚警率较Maxemeidan算法、Tophat算法、LIRDNet算法、DNANet算法以及WSNMSTIPT算法平均分别下降了71.4%、71.1%、68.5%、74.3%和20.47%;而在检测实时性方面,该算法耗时为Maxemeidan算法、DNANet算法以及WSNMSTIPT算法的42.4%、82.9%和28.7%。实验结果验证了该方法在检测性能上的优越性,表明该算法能够显著提高复杂背景干扰下的目标检测精度和效率。

融合小波变换和张量PCA的人脸识别算法

张量主成分分析(PCA)方法用于人脸识别能获得比PCA方法更高的识别率.小波变换具有良好的时频分析特性,同时还能起到降维的作用.综合利用这两个算法的优点,提出了一种新的人脸识别算法,对人脸图像先采用小波变换做预处理得到4个子带图像,然后对每个子带图像用张量PCA进行特征提取,实现人脸图像的高效识别.仿真结果表明,新算法的识别率比张量PCA方法提高了6%,识别时间为张量PCA方法的35.74%.

基于多线性核主成分分析的掌纹识别

提出运用多线性核主成分分析(MKPCA)的一种新方法进行掌纹识别。首先MKPCA通过非线性变换,将输入样本图像向高维特征空间F上投影,运用多线性主成分分析(MPCA)直接对掌纹张量进行降维,得到低维的投影张量;然后掌纹图像向张量子空间上投影提取特征向量;最后计算特征向量间的余弦距离进行掌纹匹配。运用PolyU掌纹图像库,对本文算法进行测试。实验结果表明,与传统算法相比,本文算法的识别率(RR)最高为99%,特征提取和匹配总时间为1.832 s,满足实时系统的要求。

气相离子迁移谱对山茶油掺假的检测

以掺假山茶油样为气相离子迁移谱(gas chromatography-ion mobility spectrometry,GC-IMS)检测对象,利用多维主成分分析(multi-way principal component analysis,MPCA)法和偏最小二乘(partial least squares,PLS)回归分析处理二维谱图数据,探索并建立一种山茶油纯度检测方法。对配制的不同比例3种食用植物油的掺假油样进行GC-IMS检测,采用MPCA压缩并提取矩阵中的得分矩阵进行主成分分析,将提取的得分矩阵进行PLS分析,建立掺假量的定量预测模型。结果表明,MPCA处理后的主成分图可以明显区分山茶油样和掺入不同种类食用油的掺假山茶油样,且不同掺入比例组有其明显的归属区域;采用PLS对MPCA的得分矩阵进行回归分析,可实现对山茶油掺假比例的准确定量测定。该方法具有快速、准确、无损的特点,可应用推广到其他联用仪器的数据分析处理中,在食用油品质控制与评价方法中具有很大的应用前景。

利用粒子群优化的人脸特征提取识别算法

针对如何提高人脸图像识别率问题,提出了利用粒子群优化(PSO)的人脸特征提取识别算法.采用小波变换和张量主成分分析(PCA)方法对人脸图像进行特征提取,利用PSO对提取的特征进行加权处理,根据特征的每一维元素的聚类正确率进行优化选择,从而达到对人脸提取关键性特征的目的.实验结果表明,所提算法能减小光照、表情和姿态变化的影响,在英国曼彻斯特科技大学人脸数据库上的识别率比张量PCA方法提高了12.75%.

一种基于张量PCA的人耳识别的改进方法

张量主成分分析是一种新的主元分析方法,可以解决传统PCA方法对图像进行降维时出现的问题。小波变换具有良好的时频分析特性,同时还能起到降维的作用。综合利用这两个方法的优点,提出了一种基于张量PCA的人耳识别新方法。该方法对人耳图像采用小波变换做预处理得到4个子带图像,对其中"LL"低频子带图像用张量PCA进行特征提取,用支持向量机的方法进行识别。实验结果表明,利用此方法与传统主成分分析识别相比,提高了识别率,缩短了识别时间。在USTB人耳库上实验,该方法的识别率比传统PCA方法提高了6%,识别时间为传统PCA方法的35.23%。

融合小波变化和张量PCA的人耳识别算法

综合利用小波变换和张量主成分分析这两个算法的优点,提出了一种新的人耳识别方法,对人耳图像先采用小波变换作预处理得到四个子带图像;然后对每个子带图像用张量PCA进行特征提取;最后利用最近邻的方法实现人耳图像识别。实验结果表明,利用此方法与只用主成分分析识别相比,提高了识别率。

基于中值PCA和加权PCA数据分类的研究

在分析了传统主成分分析(PCA)方法的原理和实现方法上,提出了基于中值的主成分分析新方法 (MPCA)。另外,针对多类高维数据分类问题,较深入地研究了权函数对分类问题的影响,对传统PCA模型进行加权处理得到加权主成分分析(WPCA)。实验结果表明,MPCA比传统PCA具有较好的分类效果,不同权函数对数据的分类结果影响较大,且WPCA比传统PCA在分类效果上有明显的优势。

基于非下采样剪切波及TPCA的人脸识别

张量主成分分析法(TPCA)用于人脸特征提取,克服了传统的基于统计特征的特征提取方法会破坏图像原始结构的问题;而源图像经过非下采样剪切波变换后得到了k个大小相同但尺度不同的带通图像,具有良好的时频分析特征。为了更好地提取人脸识别特征,提出了非下采样剪切波融合TPCA的人脸特征提取算法,该算法先对源图像进行非下采样剪切波变换得到4个子代图像,再对子代图像进行TPCA特征提取得到特征集,实现人脸的高效识别。实验结果表明,该算法明显优于原有的单一算法。

结合NSCT和TPCA的SAR图像目标识别

提出了一种结合非下采样轮廓波变换(NSCT)和张量主成分分析(TPCA)的合成孔径雷达(SAR)图像目标识别方法。采用NSCT对SAR图像进行分解获得多尺度、多方向的子带图像,从而为目标提供更充分的描述信息。采用TPCA对各个子带图像进行特征提取,降低其中的冗余。基于各个子带图像的特征矩阵,通过线性加权的方法获得测试样本与训练样本之间的距离测度。根据K近邻(K-NN)的基本思想对测试样本进行分类决策。采用MSTAR数据集设置多种实验条件对提出方法进行测试,结果反映了该方法的有效性。

递归投影稀疏矩阵恢复在实时视频层分离中的应用

本文介绍了一种在线递归投影稀疏矩阵恢复（ReProSMR）算法矩阵时间序列Mt等于稀疏矩阵序列St与非稀疏矩阵序列Lt之和，其中Lt在低维张量空间内随时间缓慢变化ReProSMR算法实时地将观测矩阵Mt分解为非稀疏矩阵Lt和稀疏矩阵StReProSMR算法的一个典型应用场景为监控视频动态背景建模，监控视频的每一帧图像的背景部分由于具有很强的相似性而构成低秩部分，而少量的运动目标构成视频的前景则对应于稀疏部分ReProSMR算法对图像序列进行矩阵低秩稀疏分解，便可成功地将静止的背景和活动的前景分开，从而实现背景动态建模和运动前景识别。ReProSMR算法是递归投影压缩传感（ReProCS）算法引入张量主成分分析后的改进算法实验结果表明，ReProSMR算法的计算效率显著高于ReProCS算法。