两阶段非负矩阵分解算法及其在光谱解混中的应用

非负矩阵分解问题(nonnegative matrix factorization,NMF)模型已成功应用至高光谱遥感影像处理中的光谱解混工作,由于NMF优化模型具有多个局部极小点,使得分解结果不稳定。设计初始化方法或者选择带正则项的问题模型是提高分解精度的两种常用方法。本文提出了两阶段的NMF算法,实现了初始点选取和正则项设计的结合。第一阶段借助k-均值获得k个聚类中心,给出迭代的初始点;利用第一阶段的初始矩阵U^(0),定义了针对端元矩阵的正则项‖U-U^(0)‖_(F)^(2),第二阶段采用基于交替非负最小二乘框架的投影梯度算法,求解新的正则化NMF问题。正则项中的端元初始矩阵U^(0)除了采用k-均值获得k个聚类中心,也可采用真实地物光谱,它的引入提高了算法的灵活度。数值结果表明新算法更加稳定,且分解的精确性有效提高。

基于矩阵型惯性投影神经网络的非负矩阵分解算法

提出一种基于矩阵型神经动力学优化的非负矩阵分解算法.将矩阵非负分解优化问题首先转换为两个矩阵变量凸优化子问题,针对其子问题分别提出矩阵型惯性投影神经网络;然后,采用交替迭代方案寻找矩阵非负分解优化问题的解.理论分析证明了矩阵型惯性投影神经网络能收敛于矩阵变量凸优化子问题的最优解,并且基于矩阵型神经网络的交替迭代算法可以收敛到矩阵非负分解优化问题的偏最优解.最后,所提出的基于矩阵型神经网络的交替迭代算法被有效地应用于人脸识别.

基于线性投影结构的非负矩阵分解

非负矩阵分解(Non-negative matrix factorization,NMF)是一个近年来非常流行的非负数据处理方法,它常用于维数约减、特征提取和数据挖掘等.NMF定义中采用的数学模型基于非线性投影结构构造,这决定了NMF降维需借助计算量很大的迭代操作来实现.此外,由此模型提取的NMF特征常不稀疏,这与NMF的设计期望相差甚远.为一并解决上述两个问题,本文提出了一个新的模型—基于线性投影结构的NMF(Linear projection-based NMF,LPBNMF),并构造了一个单调的LPBNMF算法.从数学的角度看,LPBNMF可理解为实现NMF的一种特殊方式.LPBNMF降维通过线性变换来完成,它所采用的数学模型的自身结构特点决定了由其得到的特征一定非常稀疏.大量的比较实验表明,LPBNMF的降维效率显著高于NMF,LPBNMF特征明显比NMF特征更稀疏和局部化.最后,基于AR人脸数据库的实验揭示,LPBNMF特征比NMF、LDA以及PCA等特征更适合于用最近邻分类法处理有遮挡人脸识别问题.

线性投影非负矩阵分解方法及应用

针对线性投影结构非负矩阵分解迭代方法比较复杂的问题,提出了一种线性投影非负矩阵分解方法。从投影和线性变换角度出发,将Frobenius范数作为目标函数,利用泰勒展开式,严格导出基矩阵和线性变换矩阵的迭代算法,并证明了算法的收敛性。实验结果表明:该算法是收敛的;相对于非负矩阵分解等方法,该方法的基矩阵具有更好的正交性和稀疏性;人脸识别结果说明该方法具有较高的识别率。线性投影非负矩阵分解方法是有效的。

遥感图像配准的稳健投影非负矩阵分解方法

由于要配准的目标存在可能的形变,震前和震后遥感图像的配准变得很困难。为了解决这个问题,提出基于稳健的投影非负矩阵分解(RPNMF)的配准方法来精确的配准形变目标。给出一种稳健的投影非负矩阵分解方法来获得震前震后形变目标的共同投影空间,利用在共同投影空间的投影来配准形变目标。为验证该算法的有效性,做了两个实验:2008年5月12日汶川地震前后的SAR图像的配准;唐家山堰塞湖的变化检测。与现有方法进行比较,结果表明该方法能够有效地得到形变目标的共同投影空间,并取得了很好的配准结果;同时,堰塞湖的变化检测也得到了很好的结果。

图像特征点集匹配的稳健非线性投影NMF方法

包含相同目标的图像由于可能存在结构差异而导致特征匹配困难、不精确,针对该问题提出了一种新的匹配方法。首先,提出一种稳健的非线性投影非负矩阵分解方法(RNPNMF),利用RNPNMF得到特征点集的共同投影空间;然后,计算特征点集在共同投影空间的投影,利用特征点集在共同投影空间上的投影实现点集的精确匹配。最后,为验证本文方法的有效性,分别对光学图像和SAR图像进行了实验,实验结果表明:和现有方法相比,本文所提方法能更精确有效的实现特征点集的匹配,同时,应用于图像配准也得到了很好的结果。

基于丰度约束核非负矩阵分解的高光谱图像非线性解混

本文提出一种基于丰度约束核非负矩阵分解的高光谱图像非线性解混方法.通过该方法将原始高光谱图像数据映射到高维特征空间中,使非线性数据在高维空间中变得线性可分.然后,在高维特征空间中,通过线性的非负矩阵分解进行无监督的高光谱解混.同时依据地物分布的空间特性,在丰度上添加稀疏和平滑约束.模拟和真实高光谱图像数据的实验结果表明,与其他解混方法相比,该方法考虑了地物的空间分布特性,提高了在不同的非线性混合场景下的高光谱解混精度.

采用改进投影梯度非负矩阵分解和非采样Contourlet变换的图像融合方法

针对非负矩阵分解(NMF)算法时间复杂度较高,而投影梯度(PG)优化方法可以大幅降低NMF约束优化迭代问题的时间复杂度,提出一种基于改进的投影梯度NMF(IPGNMF)和非采样Contourlet变换(NSCT)相结合的图像融合方法。采用NSCT对已配准的源图像进行多尺度、多方向的分解,将分解后的低频部分作为原始数据,利用IPGNMF得到包含特征基的低通子带系数;高频部分应用了一种基于邻域一致性测度(NHM)的局部自适应融合规则得到各带通方向子带系数。经过NSCT逆变换得到融合图像。实验结果表明,融合结果在主观和客观评价上均优于NSWT方法、IPGNMF方法和NSCT方法。与NSCT法相比,实验所采用的两组图像的信息熵、清晰度和Q指标分别提高了0.0627%、0.901%、3.120 1%和2.769%、2.203%、1.049%。

基于结构投影非负矩阵分解的协同过滤算法

针对在协同过滤算法中,传统矩阵分解技术在降维过程中会破坏数据相邻结构的问题,提出基于结构投影非负矩阵分解的协同过滤算法(CF-SPNMF).该算法包含离线学习和在线搜索2个阶段.在离线学习阶段,通过对用户评分矩阵的投影非负矩阵分解,同时保留用户特征的聚类结构,得到低维的用户潜在兴趣因子.在线搜索阶段,将用户潜在兴趣因子进行余弦相似性匹配,发现目标用户与训练样本用户之间兴趣最相似的邻域集合.在实际数据集上的实验结果表明,提出的CF-SPNMF算法与单纯使用矩阵分解和单纯在原评分矩阵上进行用户聚类的推荐算法相比,能够更有效地预测用户实际评分.

改进投影梯度非负矩阵分解的单训练样本特征提取研究

人脸识别是当前人工智能和模式识别的研究热点。非负矩阵分解(NMF)能够反映样本的局部的内在的联系,可用于单样本特征提取,但时间复杂度较高。投影梯度(Projected Gradient,PG)优化方法大幅降低了NMF约束优化迭代问题的时间复杂度,但是单训练样本存在对本类信息量描述不足的缺点。为此,该文提出了一种基于改进的投影梯度非负矩阵分解(Improved Projected Gradient Non-negative Matrix Factorization,IPGNMF)的单训练样本特征提取方法。在进行PGNMF算子之前,先将训练样本作Gabor分解,分解后的Gabor子图像在各个方向上可以更加丰富的描述样本特征,最后将各个Gabor子图像的PGNMF特征进行融合,作为最终的识别特征。在对人脸库ORL,YEL与FERET的识别实验中,与经典的特征提取方法比较,证明了可以有效地解决单训练样本人脸识别的问题。

在线增量正交投影非负矩阵分解的目标跟踪算法

为了避免传统的跟踪算法对视频中遮挡、尺度变化、光照变化等现象的跟踪性能下降,提出一种基于L1范数约束和在线增量正交投影非负矩阵分解的目标跟踪算法.首先将L1范数引入IOPNMF子空间重构,使得学习到的新的基于部分的目标表示能够容忍不同的噪声干扰;同时,对正交投影系数进行L1范数约束,并采用循环操作求解IOPNMF子空间向量,保证算法能够处理动态的视频流以获得鲁棒的目标跟踪;最后,将跟踪目标表示为IOPNMF基向量的线性组合,并在观测模型中引入部分遮挡因素,有选择地对IOPNMF子空间进行更新.采用MATLAB实现本算法,并在8种具有遮挡、光照变化、尺度变化、运动模糊、背景杂乱等影响跟踪性能因素的视频上与其他6种算法进行对比试验.试验结果表明,新算法具有最低的平均中心点误差4.3像素,最高的平均覆盖率0.84,能够实现鲁棒稳定的跟踪.

基于投影梯度的非负矩阵分解盲信号分离算法

在盲信号分离过程中,基于乘性迭代的非负矩阵分解(NMF)存在运算量大、收敛速度慢等问题。为此,在投影梯度法的基础上提出一种新的NMF盲信号分离算法。通过增加行列式约束、稀疏度约束和相关性约束条件,将最优化问题转化为交替的最小二乘问题,将投影梯度法应用于基于约束的NMF盲信号分离过程。仿真结果表明,该算法能减小重构误差,在维持源分离信号稀疏性的基础上实现混合信号的唯一分解。与经典NMF算法和NMFDSC算法相比,其收敛和分解速度更快,重构信号的信噪比更高。

基于L2范数和增量正交投影非负矩阵分解的目标跟踪算法

在贝叶斯框架下,基于增量正交投影非负矩阵分解目标跟踪算法能够适应各种复杂的场景,准确处理跟踪目标外观变化,取得了较好的跟踪效果,但是该算法计算量大,难以满足实时性要求。针对这一缺点,提出了一种基于L2范数和增量正交投影非负矩阵分解的目标跟踪算法,建立基于L2范数最小化和增量正交投影非负矩阵分解的目标表示模型,在贝叶斯框架下得出跟踪结果。实验结果表明,新算法能够较好地处理视频场景中的光照变化、尺度变化、局部遮挡、角度变化等干扰,有较低的中心位置误差平均值和较高的重叠率平均值,平均处理视频达4.08帧·s-1,能够满足实时性的要求。

基于投影梯度及下逼近方法的非负矩阵分解

在非负矩阵分解算法中,为提升基矩阵的稀疏表达能力,在不事先设定稀疏度的情形下,提出一种基于投影梯度及下逼近方法的非负矩阵分解算法——PGNMU。通过引入上界的约束条件,利用基于投影梯度的交替迭代方法提取基矩阵的重要特征并加以应用。在人脸数据库CBCL和ORL上的实验结果表明,该方法能改进基矩阵的稀疏描述能力,且其识别率也优于已有方法。

基于多核学习的投影非负矩阵分解算法

非负矩阵分解(NMF)把给定的数据矩阵分解成低维的非负基矩阵和对应的系数矩阵,两者之间存在必然联系。为此,研究者将基矩阵转换为系数矩阵的投影,进一步提高分解效率。但是该方法无法处理非线性数据,核函数的引入部分解决了此问题,却同时导致核函数参数选择的问题。基于多核学习理论,提出了一种多核学习的投影非负矩阵分解(MKPNMF)算法,该算法有效地避免了核函数参数选择的问题,同时提高了学习性能。在实际人脸数据上的实验结果表明,MKPNMF较已有的NMF类方法具备明显的性能优势。

基于投影梯度法的非负矩阵分解稀疏算法

文章提出了一种基于投影梯度法的非负矩阵分解稀疏算法,该算法通过引入基于投影梯度的迭代方法,来解决加向量1-范数约束以及加向量2-范数约束的非负矩阵分解问题,得到了局部最优解。通过实验表明该算法在分解时间以及基矩阵的稀疏度表达能力上优于NMF算法和SNMF算法。

基于K-L算法的投影图正则非负矩阵分解

通过对投影非负矩阵分解(PNMF)增加数据点及其邻近点的约束,提出一种基于图正则化的投影非负矩阵分解(PGNMF)方法。PGNMF保留了数据在低维特征空间中局部几何结构的同时又对系数矩阵进行稀疏约束,既减少了存储空间,也提高了算法效率。理论分析和数据实验都验证了该算法的有效性。

基于非负矩阵分解新的人脸识别方法

非负矩阵分解是一个新的特征提取方法,基于非矩阵分解的理论,提出了具有正交性的投影轴的计算方法和具有统计不相关性的投影轴的计算方法。与原非负矩阵分解方法,提出的方法在某种程度上是降低了特征矢量之间的统计相关性,并且提高识别率。通过在ORL人脸库和YALE人脸库上进行实验,结果表明提出的两种特征提取方法在识别率方面整体上好于原非负矩阵分解特征提取(NMF)方法,甚至超过主成分分析(PCA)法。

一种基于L_1稀疏正则化和非负矩阵分解的盲源信号分离新算法

针对线性混合模型下的盲源分离这一反问题,提出了一种结合迭代正则化和非负矩阵分解的交替最小化算法.首先把该问题转化为有界约束的二次规划,然后采用了一种自适应BB(Barzilai-Borwein)步长的投影梯度算法来求解.该方法不仅可减少存储量,提高算法速度,而且还很好地刻画了信号的稀疏性和独立性.理论分析和数值试验都验证了该方法的有效性,对混合的二维图像能提高分离的信干比.

非负矩阵分解的自适应单调投影Barzilai-Borwein算法

提出一种新的自适应单调投影Barzilai-Borwein(BB)算法求解非负矩阵分解(NMF)。算法不使用任何线搜索,并利用自适应BB步长和梯度的利普希茨常数加速算法收敛。在适当的条件下,证明了算法的全局收敛性。此外,将算法应用于稀疏对称非负矩阵分解,数值实验表明算法是有效的。