改进投影梯度非负矩阵分解的单训练样本特征提取研究

人脸识别是当前人工智能和模式识别的研究热点。非负矩阵分解(NMF)能够反映样本的局部的内在的联系,可用于单样本特征提取,但时间复杂度较高。投影梯度(Projected Gradient,PG)优化方法大幅降低了NMF约束优化迭代问题的时间复杂度,但是单训练样本存在对本类信息量描述不足的缺点。为此,该文提出了一种基于改进的投影梯度非负矩阵分解(Improved Projected Gradient Non-negative Matrix Factorization,IPGNMF)的单训练样本特征提取方法。在进行PGNMF算子之前,先将训练样本作Gabor分解,分解后的Gabor子图像在各个方向上可以更加丰富的描述样本特征,最后将各个Gabor子图像的PGNMF特征进行融合,作为最终的识别特征。在对人脸库ORL,YEL与FERET的识别实验中,与经典的特征提取方法比较,证明了可以有效地解决单训练样本人脸识别的问题。

采用改进投影梯度非负矩阵分解和非采样Contourlet变换的图像融合方法

针对非负矩阵分解(NMF)算法时间复杂度较高,而投影梯度(PG)优化方法可以大幅降低NMF约束优化迭代问题的时间复杂度,提出一种基于改进的投影梯度NMF(IPGNMF)和非采样Contourlet变换(NSCT)相结合的图像融合方法。采用NSCT对已配准的源图像进行多尺度、多方向的分解,将分解后的低频部分作为原始数据,利用IPGNMF得到包含特征基的低通子带系数;高频部分应用了一种基于邻域一致性测度(NHM)的局部自适应融合规则得到各带通方向子带系数。经过NSCT逆变换得到融合图像。实验结果表明,融合结果在主观和客观评价上均优于NSWT方法、IPGNMF方法和NSCT方法。与NSCT法相比,实验所采用的两组图像的信息熵、清晰度和Q指标分别提高了0.0627%、0.901%、3.120 1%和2.769%、2.203%、1.049%。

两阶段非负矩阵分解算法及其在光谱解混中的应用

非负矩阵分解问题(nonnegative matrix factorization,NMF)模型已成功应用至高光谱遥感影像处理中的光谱解混工作,由于NMF优化模型具有多个局部极小点,使得分解结果不稳定。设计初始化方法或者选择带正则项的问题模型是提高分解精度的两种常用方法。本文提出了两阶段的NMF算法,实现了初始点选取和正则项设计的结合。第一阶段借助k-均值获得k个聚类中心,给出迭代的初始点;利用第一阶段的初始矩阵U^(0),定义了针对端元矩阵的正则项‖U-U^(0)‖_(F)^(2),第二阶段采用基于交替非负最小二乘框架的投影梯度算法,求解新的正则化NMF问题。正则项中的端元初始矩阵U^(0)除了采用k-均值获得k个聚类中心,也可采用真实地物光谱,它的引入提高了算法的灵活度。数值结果表明新算法更加稳定,且分解的精确性有效提高。

广义高斯分布的卷积传递函数多通道非负矩阵分解

基于卷积传递函数的多通道非负矩阵分解(CTF-MNMF)在长混响环境的盲源分离中取得了较好的性能,但该算法的分离性能依然受到声源模型的限制。因此提出了基于广义高斯分布(GGD)的CTF-MNMF算法,通过将域参数引入NMF中并利用广义非负矩阵分解(GNMF)建模GGD的非负尺度因子,提高了声源模型捕捉信号离群值的鲁棒性,进而提高了声源估计的准确性。采用基于辅助函数的优化策略给出分离矩阵和非负矩阵参数的更新公式。仿真结果表明所提算法在语音和音乐两种信号的分离实验中均取得了比GGD-ILRMA、WPE-ILRMA和CTF-MNMF更好的分离性能。

基于非负矩阵分解的中红外地表特性光谱重建方法

在中红外遥感领域,高光谱地表反射率/发射率等地表特性具有极高的应用价值和应用需求,但利用卫星遥感手段难以获取吸收波段的高光谱地表反射/发射特性,且通过光谱重建获取全波段的地表特性方法仍存在很多问题。为解决中红外全波段地表特性光谱重建所面临的难题,基于约翰霍普金斯大学(Johns Hopkins University,JHU)地物波谱库和中分辨率成像光谱仪(MODIS)短波红外和中红外地表多光谱卫星产品,提出了一种利用非负矩阵分解(NMF)重建高光谱地表反射率的方法,对2.5~5.0μm中红外光谱范围内的地表反射/发射率进行光谱重建,重建后的光谱分辨率可达10 nm。首先基于JHU地物波谱库选取4种典型地物类型(土壤、植被、人造材料和岩石),建立地物光谱库样本信息,再利用MODIS传感器光谱响应函数,根据等效计算公式将2.0~5.0μm波段范围反射率结果重采样到10 nm光谱间隔、共301个波段,得到JHU地表反射率光谱数据集。对光谱数据集进行非负矩阵分解处理,提取4条端元向量光谱曲线,结合MODIS短波红外和中红外4个波段(2.13、3.75、3.96和4.05μm)的全球月均地表反射率/发射率产品,可计算每个像元对应的权重系数向量,从而进行任意波段的光谱重建,得到全球范围内陆地5 km×5 km分辨率的月均地表反射率重建结果。同时为综合评价该光谱重建方法,从光谱数据集中提取MODIS短波红外和中红外4个波段(2.13、3.75、3.96和4.05μm)的子数据集,计算对应的权重系数向量,进行2.0~5.0μm光谱范围内的全波段的反射率光谱重建。重建结果对应的平均绝对误差优于0.01,平均相对误差优于10%,在只有MODIS卫星4个波段数据可用的低秩病态的情况下,可较好地满足光谱重建的精度要求。并且为满足重建结果可视化需求,基于网络地理信息系统(WebGIS)技术,利用Cesium框架,采用浏览器/服务器架构,搭建了二三维一体化可视化系统,将卫星底图、地形数据与光谱重建结果等集成展示,从而进行直观的多因素分析,为卫星产品的展示与验证提供支撑。

基于Lp范数的非负矩阵分解并行优化算法

非负矩阵分解算法可以从高维数据中提取出低维和稀疏的有用信息,是处理图像聚类、数据压缩和特征提取等问题的重要手段。传统非负矩阵分解算法大多采用欧几里得距离来度量重构误差,尽管其在许多任务中已经显示出有效性,但在解决实际应用问题时仍面临着聚类效果欠佳、收敛速度慢、稳定性较差等问题。为解决这些问题,文中采用Lp范数作为非负矩阵分解的损失函数,通过调节系数p来获得更好的聚类结果。基于协同优化理论和Majorization-Minimization算法,使用粒子群优化算法来并行求解基于Lp范数的非负矩阵分解问题,并在多个真实数据集上验证了所提方法的可行性和有效性。实验结果表明所提算法明显提升了程序的执行效率且一系列评价指标均优于传统非负矩阵分解算法。

基于正则化正交非负矩阵分解的旋转目标检测方法

小样本的旋转目标检测是指在样本数少的情况下进行旋转目标检测模型的训练,深度学习在旋转目标检测领域往往需要庞大的样本数和计算算力。现有的基于机器学习的旋转目标检测方法大多有着对目标尺度和姿态敏感的缺点。因此提出一种基于正则化正交非负矩阵分解的旋转目标检测方法,来解决小样本的旋转目标检测难题。首先,针对样本不具有各种角度的图片,对样本进行旋转后进行背景填充,这样便于更好的表征学习。其次,提出一种基于正则化正交非负矩阵分解算法对旋转样本的梯度直方图特征进行表征学习。最后,为了测试算法在特征学习后的有效性,利用支持向量机对特征提取后的数据进行训练和测试。实验结果表明本文的目标检测方法在多个数据集中可以取得不错的效果。

自编码模块化增强非负矩阵分解社区检测算法

社区检测一直是网络分析中的重点研究方向之一。目前大多数网络社区检测算法主要利用网络的结构信息采用贪心算法使某一指标最大化,无法充分考虑节点特征信息、边权重以及网络社区间关系不对称性等问题。针对这一情况,提出一种自编码模块化增强非负矩阵分解(autoencoder-like modularity nonnegative matrix factorization,AMNMF)社区检测算法。该算法通过采用类编码器结构拓展非负矩阵分解的深度,将模块度和图正则化器引入到非负矩阵分解的目标函数优化过程中以充分挖掘网络中的节点和社区结构信息,通过在编码器中间层添加正交约束解决了社区间关系不平衡的问题。在多个真实网络上的实验表明:AMNMF是一种有效地利用节点特征信息和网络结构信息的NMF拓展算法,与基线算法的最佳结果相比实现了约15%至122%的提升,能够准确有效完成社区检测任务。

约束传播自适应半监督非负矩阵分解聚类算法

对称非负矩阵分解(SNMF)能够自然地捕获图表示中嵌入的聚类结构,是线性和非线性数据聚类应用的重要方法。但其对变量的初始化较敏感,初始化矩阵的质量好坏会较大地影响聚类性能,且在半监督聚类中面临着从有限的标记数据中学习更具辨别力表示的挑战。针对以上问题,提出了一种约束传播自适应半监督非负矩阵分解聚类算法(constrained propagation self-adaptived semi-supervised non-negative matrix factorization clustering algorithm,CPS3NMF)。该算法将有限约束传播到无约束数据点,构建出带有约束信息的相似矩阵,所获得的相似矩阵充当SNMF中分解的非负对称矩阵,还用于对分配矩阵进行图正则化,充分利用约束信息来保存数据空间的几何结构。同时结合SNMF对初始化特征的敏感性,使用自适应学习的权重对多个初始化矩阵的质量进行排序,集成多次聚类结果来逐步提高半监督聚类性能。在6个公开数据集上进行实验表明所提出的CPS3NMF算法优于其他先进算法,证明了其在半监督聚类中的有效性。

基于非负矩阵分解和改进相关分析的低压台区拓扑辨识方法

针对低压配电台区拓扑更新不及时,量测质量低、拓扑信息不够精确的问题,提出一种基于非负矩阵分解改进Pearson相关系数的低压配电台区拓扑辨识方法。首先,利用非负矩阵分解对电压时间序列进行降维。然后,在Pearson相关系数的基础上,加入距离度量来修正相似性矩阵。最后,对综合相似度矩阵进行系统聚类,实现低压配电台区户-变识别和台区内用户相邻关系识别。通过实际低压配电台区算例验证了所提方法的有效性和准确性。

融合结构和聚类的对称非负矩阵分解链路预测

大部分链路预测算法仅单一考虑节点聚类或链接聚类而忽略网络结构与聚类内在关联性导致预测准确度下降.针对此问题,提出基于对称非负矩阵分解(SNMF)链路预测框架融合多类型结构和聚类信息捕获网络保持网络局部、全局以及节点和链接聚类.首先,融合节点和链接聚类系数(NEC)捕获节点邻域相关联程度,再将无向无权3个基于局部相似度方法共同邻居(CN)、资源分配(RA)和Adamic-Adar(AA)与聚类相融合同时保持结构和聚类;其次,将邻接矩阵映射到低维潜在空间,利用图正则化融合以上信息分别提出3个链路预测模型即SNMF-NEC-CN、SNMF-NEC-AA和SNMF-NEC-RA;此外,通过迭代更新规则学习所提模型参数,获得最优预测概率矩阵.在6个网络上与现有代表性方法比较,实验结果显示所提模型AUC和F1值分别提高了22%和11.4%.

基于矩阵型惯性投影神经网络的非负矩阵分解算法

提出一种基于矩阵型神经动力学优化的非负矩阵分解算法.将矩阵非负分解优化问题首先转换为两个矩阵变量凸优化子问题,针对其子问题分别提出矩阵型惯性投影神经网络;然后,采用交替迭代方案寻找矩阵非负分解优化问题的解.理论分析证明了矩阵型惯性投影神经网络能收敛于矩阵变量凸优化子问题的最优解,并且基于矩阵型神经网络的交替迭代算法可以收敛到矩阵非负分解优化问题的偏最优解.最后,所提出的基于矩阵型神经网络的交替迭代算法被有效地应用于人脸识别.

基于非负矩阵分解的有向网络半监督社区检测

有向网络上的社区检测是网络科学领域一个重要的课题.针对这一问题,本文提出了一种基于非负矩阵分解的有向网络半监督社区检测算法,首先利用先验信息重构邻接矩阵,然后使用先验信息对节点的社区隶属度进行惩罚,并通过行归一化消除节点度异质性的影响,最后运用交替迭代更新给出了目标函数的求解方法.在真实网络数据上的对比实验验证了算法的有效性,相对于基于非负矩阵分解的现有方法,本文方法能显著提高社区发现的准确性.

基于投影梯度的非负矩阵分解盲信号分离算法

在盲信号分离过程中,基于乘性迭代的非负矩阵分解(NMF)存在运算量大、收敛速度慢等问题。为此,在投影梯度法的基础上提出一种新的NMF盲信号分离算法。通过增加行列式约束、稀疏度约束和相关性约束条件,将最优化问题转化为交替的最小二乘问题,将投影梯度法应用于基于约束的NMF盲信号分离过程。仿真结果表明,该算法能减小重构误差,在维持源分离信号稀疏性的基础上实现混合信号的唯一分解。与经典NMF算法和NMFDSC算法相比,其收敛和分解速度更快,重构信号的信噪比更高。

基于投影梯度及下逼近方法的非负矩阵分解

在非负矩阵分解算法中,为提升基矩阵的稀疏表达能力,在不事先设定稀疏度的情形下,提出一种基于投影梯度及下逼近方法的非负矩阵分解算法——PGNMU。通过引入上界的约束条件,利用基于投影梯度的交替迭代方法提取基矩阵的重要特征并加以应用。在人脸数据库CBCL和ORL上的实验结果表明,该方法能改进基矩阵的稀疏描述能力,且其识别率也优于已有方法。

非负矩阵分解评价法与中国经济高质量发展动态评价

利用非负矩阵分解(NMF)将观测数据转化为非负低维向量,构造NMF评价法,对中国经济高质量发展水平进行短期评价。NMF评价法简单有效,适应数据类型广,综合得分取值非负,便于度量不平等程度,为复杂数据评价提供新的借鉴方法;我国经济系统稳定,所选取的30省份、八大经济区在两时期经济高质量发展排名稳定,北京、上海稳居第1梯队,排名前2,天津、江苏、浙江、广东稳居第2梯队,排名前6;中国经济高质量发展呈现空间聚集现象,局部空间自相关变化较小,地区差异呈现下降趋势;30省份经济高质量发展水平稳步提高,北京、上海、江苏、重庆、浙江等进步快,东北三省、天津等进步有限,导致其相对排名呈现一定下降趋势。

基于非负正交矩阵分解的多视图聚类图像分割算法

多视图聚类在应对非线性结构数据上具有一定优势,却存在需要后处理和时间效率较低等缺点.针对这一问题,文中提出基于非负正交矩阵分解的多视图聚类图像分割算法.首先,提取图像多视图数据,使用流形学习非线性降维方法获取每个视图的谱嵌入矩阵,构建相应的谱块结构.再设计自适应权值,将谱块结构融合成一致性图矩阵.然后,对一致性图矩阵进行非负正交矩阵分解,获取非负嵌入矩阵.最后,由非负嵌入矩阵获得多视图特征的聚类,进而得到图像分割结果.在5个数据集上的对比实验表明,文中算法在分割精度和时间效率上都有一定提升.

基于非负矩阵分解的京津冀经济发展水平测度

文章通过拉直运算将复杂数据转化为高维向量,再利用非负矩阵分解(NMF)将其转化为低维向量,构造新的NMF评价法,对低维向量直接系统聚类,以低维向量取值之和作为综合得分并进行排序。基于京津冀地区2012—2019年的数据,选取7个评价指标,利用NMF评价法进行聚类、排序,利用变异系数、CVX、Gini系数度量地区差异,并以京津冀灯光数据佐证相关研究。结果表明:NMF评价法简单有效,适用数据类型广,关于秩p稳健性好,且综合得分取值非负更便于度量不平等程度;我国经济系统稳定,京津冀各地区在不同时期依经济水平排名稳定,变化较小,北京、天津、唐山稳居前三;天津、承德的经济发展形势严峻,经济水平有一定幅度下降,京津冀地区其他城市的经济水平都有逐期提高,其中北京、石家庄、廊坊、沧州提升幅度较大,保定在2018年与2019年提升幅度也较大;京津冀经济发展水平上的地区各城市差异显著存在,但差距具有缩小趋势;灯光DN值与综合得分相关性很高,可从侧面客观度量地区经济发展水平。

基于最大熵与相关性分析的非负矩阵分解

为解决传统非负矩阵分解不考虑潜在因子的相关性与分布特征等缺点,提出一种基于最大熵与相关性分析的非负矩阵分解方法。利用最大熵原理描述非负矩阵分解中的潜在因子分布,以捕捉语义质量的潜在因子特性,并提出一种基于相似性的方法来度量差异性。将自适应加权策略引入因子间的相互关系,使得每个潜在因子能够无监督地获得自适应权重,并对自适应加权的潜在因子进行非线性变换。在多个数据集上的实验结果表明,该方法能够提升传统方法的效果。

基于投影梯度法的非负矩阵分解稀疏算法

文章提出了一种基于投影梯度法的非负矩阵分解稀疏算法,该算法通过引入基于投影梯度的迭代方法,来解决加向量1-范数约束以及加向量2-范数约束的非负矩阵分解问题,得到了局部最优解。通过实验表明该算法在分解时间以及基矩阵的稀疏度表达能力上优于NMF算法和SNMF算法。