基于正交约束的广义可分离非负矩阵分解算法

可分离非负矩阵分解(NMF)是通过抽取数据集中的部分样本或关键主题来表示整个数据集的一种特殊NMF方法。广义可分离非负矩阵分解(GSNMF)算法是由可分离NMF扩展的算法,可以同时得到数据集中的关键样本和关键主题两类特征,使分解结果更具有可解释性,但在处理某些数据集时由于选择方法存在的缺陷,GSNMF算法只能单独选择行或列的特征,从而失去可解释性的优点。为此,引入正交约束来修正GSNMF算法的选取结果,提出一种基于正交约束的广义可分离非负矩阵分解(OGSNMF)算法,利用非负特性及正交约束的特点,限制迭代过程中关于行和列的迭代矩阵,确保得到行和列的特征,并获取更加精确的分解结果。在此基础上,引入相对近似误差作为实验指标,结合分解结果的秩在行与列上的分配作为实验评判标准。实验结果表明,与原有算法相比,OGSNMF算法在处理数据集时,相对近似误差提高了1~3个百分点,说明在分解过程中损失的信息更少,确保能够获取到行和列的特征,得到更具有可解释性的分解结果。

广义高斯分布的卷积传递函数多通道非负矩阵分解

基于卷积传递函数的多通道非负矩阵分解(CTF-MNMF)在长混响环境的盲源分离中取得了较好的性能,但该算法的分离性能依然受到声源模型的限制。因此提出了基于广义高斯分布(GGD)的CTF-MNMF算法,通过将域参数引入NMF中并利用广义非负矩阵分解(GNMF)建模GGD的非负尺度因子,提高了声源模型捕捉信号离群值的鲁棒性,进而提高了声源估计的准确性。采用基于辅助函数的优化策略给出分离矩阵和非负矩阵参数的更新公式。仿真结果表明所提算法在语音和音乐两种信号的分离实验中均取得了比GGD-ILRMA、WPE-ILRMA和CTF-MNMF更好的分离性能。

基于非负矩阵分解的函数型聚类算法改进与比较

非负函数型数据可以不等间隔观测,在理论和实践中应用广泛,对其进行聚类可以更好地探索客观规律。文章利用位置积分变换将函数型数据转化为高维向量,再通过非负矩阵分解(NMF)将其转化为低维向量,以此构建函数型聚类算法。针对基于NMF的函数型谱聚类算法,给出了确定聚类个数K的两种方法:一种是根据Laplacian矩阵的特征值确定K;另一种是构建新评价指标,通过搜索确定K。数值实验结果显示:基于位置积分变换和NMF的函数型聚类算法有效,对函数结构要求宽松,但需限制函数取值为正;NMF的秩可通过cophenetic相关系数确定,建议取较小的值,以剔除类的冗余特征。在确定谱聚类的聚类个数K时,建议对降维后的数据进行标准化处理,以缩小样本间的距离变化范围;聚类个数变点图直观有效,再结合特征值差分法确定K很有参考价值,建议阈值取[0.05,0.08];根据吻合度与相似比确定K的方法有效且简单易懂。

基于加权非负矩阵分解的异常声音检测方法研究

异常声音检测方法多用强标签数据进行训练,而高质量的强标签音频数据标注难度较大、收集成本高昂。针对现有异常音频检测方法使用弱标签数据会受到非平稳和时变噪声的干扰,导致训练结果较差、准确率低的问题,提出一种基于音频频谱的加权非负矩阵分解WNMF方法。该方法使用WNMF对弱标签和无标签数据进行标记,并分离目标声音事件和背景噪声。在适当的权值下,WNMF改变标记时不同频段音频信息的重要性,以抑制噪声,提高分离质量,使其逼近全监督模型训练的效果;之后使用卷积神经网络产生帧级预测和音频标签预测。仿真实验结果表明,该方法的准确率相比于传统NMF处理弱标签数据的方法提升了4.8%。

矩阵奇异值分解与非齐次线性方程组系数矩阵的广义逆求解

非齐次线性方程组在多数实际工程反演问题中较为常见,对其进行有效地求解是解决实际反演问题的关键,本文通过对方程组系数矩阵进行奇异值分解,推导非齐次线性方程组系数矩阵的广义逆求解过程,给出具体的求解方法和实现步骤,使得求解算法更容易进行计算机编程.

基于Lp范数的非负矩阵分解并行优化算法

非负矩阵分解算法可以从高维数据中提取出低维和稀疏的有用信息,是处理图像聚类、数据压缩和特征提取等问题的重要手段。传统非负矩阵分解算法大多采用欧几里得距离来度量重构误差,尽管其在许多任务中已经显示出有效性,但在解决实际应用问题时仍面临着聚类效果欠佳、收敛速度慢、稳定性较差等问题。为解决这些问题,文中采用Lp范数作为非负矩阵分解的损失函数,通过调节系数p来获得更好的聚类结果。基于协同优化理论和Majorization-Minimization算法,使用粒子群优化算法来并行求解基于Lp范数的非负矩阵分解问题,并在多个真实数据集上验证了所提方法的可行性和有效性。实验结果表明所提算法明显提升了程序的执行效率且一系列评价指标均优于传统非负矩阵分解算法。

基于非负矩阵分解的双曲调频信号目标回波增强

双曲调频信号是主动声呐中常用的多普勒不敏感信号。在实际使用中,由于信道变化和混响影响,目标回波较弱。针对水下航行器主动声呐探测性能下降问题,本文提出基于非负矩阵分解的双曲调频信号目标回波增强方法。该方法对目标回波和干扰信号的基矩阵分别定义,将发射信号的时频图作为目标回波的频率信息矩阵,对目标回波的时间信息矩阵做出约束,迭代处理完成目标回波的增强,获得较高增益的匹配回波检测结果。数值仿真和海上试验结果表明:本文方法与传统匹配滤波方法相比,其峰均比值提高了2 dB以上,提高了回波检测结果。

两阶段非负矩阵分解算法及其在光谱解混中的应用

非负矩阵分解问题(nonnegative matrix factorization,NMF)模型已成功应用至高光谱遥感影像处理中的光谱解混工作,由于NMF优化模型具有多个局部极小点,使得分解结果不稳定。设计初始化方法或者选择带正则项的问题模型是提高分解精度的两种常用方法。本文提出了两阶段的NMF算法,实现了初始点选取和正则项设计的结合。第一阶段借助k-均值获得k个聚类中心,给出迭代的初始点;利用第一阶段的初始矩阵U^(0),定义了针对端元矩阵的正则项‖U-U^(0)‖_(F)^(2),第二阶段采用基于交替非负最小二乘框架的投影梯度算法,求解新的正则化NMF问题。正则项中的端元初始矩阵U^(0)除了采用k-均值获得k个聚类中心,也可采用真实地物光谱,它的引入提高了算法的灵活度。数值结果表明新算法更加稳定,且分解的精确性有效提高。

基于非负矩阵分解的中红外地表特性光谱重建方法

在中红外遥感领域,高光谱地表反射率/发射率等地表特性具有极高的应用价值和应用需求,但利用卫星遥感手段难以获取吸收波段的高光谱地表反射/发射特性,且通过光谱重建获取全波段的地表特性方法仍存在很多问题。为解决中红外全波段地表特性光谱重建所面临的难题,基于约翰霍普金斯大学(Johns Hopkins University,JHU)地物波谱库和中分辨率成像光谱仪(MODIS)短波红外和中红外地表多光谱卫星产品,提出了一种利用非负矩阵分解(NMF)重建高光谱地表反射率的方法,对2.5~5.0μm中红外光谱范围内的地表反射/发射率进行光谱重建,重建后的光谱分辨率可达10 nm。首先基于JHU地物波谱库选取4种典型地物类型(土壤、植被、人造材料和岩石),建立地物光谱库样本信息,再利用MODIS传感器光谱响应函数,根据等效计算公式将2.0~5.0μm波段范围反射率结果重采样到10 nm光谱间隔、共301个波段,得到JHU地表反射率光谱数据集。对光谱数据集进行非负矩阵分解处理,提取4条端元向量光谱曲线,结合MODIS短波红外和中红外4个波段(2.13、3.75、3.96和4.05μm)的全球月均地表反射率/发射率产品,可计算每个像元对应的权重系数向量,从而进行任意波段的光谱重建,得到全球范围内陆地5 km×5 km分辨率的月均地表反射率重建结果。同时为综合评价该光谱重建方法,从光谱数据集中提取MODIS短波红外和中红外4个波段(2.13、3.75、3.96和4.05μm)的子数据集,计算对应的权重系数向量,进行2.0~5.0μm光谱范围内的全波段的反射率光谱重建。重建结果对应的平均绝对误差优于0.01,平均相对误差优于10%,在只有MODIS卫星4个波段数据可用的低秩病态的情况下,可较好地满足光谱重建的精度要求。并且为满足重建结果可视化需求,基于网络地理信息系统(WebGIS)技术,利用Cesium框架,采用浏览器/服务器架构,搭建了二三维一体化可视化系统,将卫星底图、地形数据与光谱重建结果等集成展示,从而进行直观的多因素分析,为卫星产品的展示与验证提供支撑。

基于非负矩阵分解的有向网络半监督社区检测

有向网络上的社区检测是网络科学领域一个重要的课题.针对这一问题,本文提出了一种基于非负矩阵分解的有向网络半监督社区检测算法,首先利用先验信息重构邻接矩阵,然后使用先验信息对节点的社区隶属度进行惩罚,并通过行归一化消除节点度异质性的影响,最后运用交替迭代更新给出了目标函数的求解方法.在真实网络数据上的对比实验验证了算法的有效性,相对于基于非负矩阵分解的现有方法,本文方法能显著提高社区发现的准确性.

自编码模块化增强非负矩阵分解社区检测算法

社区检测一直是网络分析中的重点研究方向之一。目前大多数网络社区检测算法主要利用网络的结构信息采用贪心算法使某一指标最大化,无法充分考虑节点特征信息、边权重以及网络社区间关系不对称性等问题。针对这一情况,提出一种自编码模块化增强非负矩阵分解(autoencoder-like modularity nonnegative matrix factorization,AMNMF)社区检测算法。该算法通过采用类编码器结构拓展非负矩阵分解的深度,将模块度和图正则化器引入到非负矩阵分解的目标函数优化过程中以充分挖掘网络中的节点和社区结构信息,通过在编码器中间层添加正交约束解决了社区间关系不平衡的问题。在多个真实网络上的实验表明:AMNMF是一种有效地利用节点特征信息和网络结构信息的NMF拓展算法,与基线算法的最佳结果相比实现了约15%至122%的提升,能够准确有效完成社区检测任务。

约束传播自适应半监督非负矩阵分解聚类算法

对称非负矩阵分解(SNMF)能够自然地捕获图表示中嵌入的聚类结构,是线性和非线性数据聚类应用的重要方法。但其对变量的初始化较敏感,初始化矩阵的质量好坏会较大地影响聚类性能,且在半监督聚类中面临着从有限的标记数据中学习更具辨别力表示的挑战。针对以上问题,提出了一种约束传播自适应半监督非负矩阵分解聚类算法(constrained propagation self-adaptived semi-supervised non-negative matrix factorization clustering algorithm,CPS3NMF)。该算法将有限约束传播到无约束数据点,构建出带有约束信息的相似矩阵,所获得的相似矩阵充当SNMF中分解的非负对称矩阵,还用于对分配矩阵进行图正则化,充分利用约束信息来保存数据空间的几何结构。同时结合SNMF对初始化特征的敏感性,使用自适应学习的权重对多个初始化矩阵的质量进行排序,集成多次聚类结果来逐步提高半监督聚类性能。在6个公开数据集上进行实验表明所提出的CPS3NMF算法优于其他先进算法,证明了其在半监督聚类中的有效性。

基于正则化正交非负矩阵分解的旋转目标检测方法

小样本的旋转目标检测是指在样本数少的情况下进行旋转目标检测模型的训练,深度学习在旋转目标检测领域往往需要庞大的样本数和计算算力。现有的基于机器学习的旋转目标检测方法大多有着对目标尺度和姿态敏感的缺点。因此提出一种基于正则化正交非负矩阵分解的旋转目标检测方法,来解决小样本的旋转目标检测难题。首先,针对样本不具有各种角度的图片,对样本进行旋转后进行背景填充,这样便于更好的表征学习。其次,提出一种基于正则化正交非负矩阵分解算法对旋转样本的梯度直方图特征进行表征学习。最后,为了测试算法在特征学习后的有效性,利用支持向量机对特征提取后的数据进行训练和测试。实验结果表明本文的目标检测方法在多个数据集中可以取得不错的效果。

基于非负矩阵分解和改进相关分析的低压台区拓扑辨识方法

针对低压配电台区拓扑更新不及时,量测质量低、拓扑信息不够精确的问题,提出一种基于非负矩阵分解改进Pearson相关系数的低压配电台区拓扑辨识方法。首先,利用非负矩阵分解对电压时间序列进行降维。然后,在Pearson相关系数的基础上,加入距离度量来修正相似性矩阵。最后,对综合相似度矩阵进行系统聚类,实现低压配电台区户-变识别和台区内用户相邻关系识别。通过实际低压配电台区算例验证了所提方法的有效性和准确性。

融合结构和聚类的对称非负矩阵分解链路预测

大部分链路预测算法仅单一考虑节点聚类或链接聚类而忽略网络结构与聚类内在关联性导致预测准确度下降.针对此问题,提出基于对称非负矩阵分解(SNMF)链路预测框架融合多类型结构和聚类信息捕获网络保持网络局部、全局以及节点和链接聚类.首先,融合节点和链接聚类系数(NEC)捕获节点邻域相关联程度,再将无向无权3个基于局部相似度方法共同邻居(CN)、资源分配(RA)和Adamic-Adar(AA)与聚类相融合同时保持结构和聚类;其次,将邻接矩阵映射到低维潜在空间,利用图正则化融合以上信息分别提出3个链路预测模型即SNMF-NEC-CN、SNMF-NEC-AA和SNMF-NEC-RA;此外,通过迭代更新规则学习所提模型参数,获得最优预测概率矩阵.在6个网络上与现有代表性方法比较,实验结果显示所提模型AUC和F1值分别提高了22%和11.4%.

稀疏约束的L21增量式非负矩阵分解研究

针对新增数据增大而引起的运算效率增大的现象,提出了一种稀疏约束的增量式非负矩阵分解改进算法。该算法是在加入稀疏条件的情况下对增量数据使用L21范数。首先对初始数据进行经典非负矩阵分解,其次再利用其分解结果参与增量数据的运算,使目标函数在分解计算中具有较好的收敛效果和分解后数据有较好的稀疏度。实验部分主要是将该算法与增量式非负矩阵分解、稀疏约束的增量式非负矩阵分解、经典非负矩阵分解算法进行对比,得出在分解后数据的稀疏度和收敛快慢方面该算法均优于其他3个算法。

稀疏正交联合约束多通道非负矩阵分解声信号分离算法

针对复杂环境下多通道声信号分离问题,提出稀疏正交联合约束多通道非负矩阵分解声信号分离方法。首先设计基于多通道扩展坂仓斋藤(Itakura-Saito,IS)散度的稀疏正交联合约束项构造代价函数,给出信号稀疏和信号正交约束辅助函数,实现代价函数最小化求解。然后通过迭代更新规则设计,得到稀疏正交优化的多通道非负矩阵分解基矩阵和系数矩阵,讨论了稀疏正交约束对基矩阵和系数矩阵稀疏性与连续性影响。最后基于多通道信号空间特性,进行了非负矩阵分解基聚类以获得多通道非负矩阵分解声信号的分离结果。双通道音频数据与四通道声学目标分离实验数据测试表明,对音频数据,所提算法在性能指标信号失真比(SDR)上提高了0.84 dB,对于直升机声源数据,所提算法在SDR上提高了4.53 dB。

基于非负正交矩阵分解的多视图聚类图像分割算法

多视图聚类在应对非线性结构数据上具有一定优势,却存在需要后处理和时间效率较低等缺点.针对这一问题,文中提出基于非负正交矩阵分解的多视图聚类图像分割算法.首先,提取图像多视图数据,使用流形学习非线性降维方法获取每个视图的谱嵌入矩阵,构建相应的谱块结构.再设计自适应权值,将谱块结构融合成一致性图矩阵.然后,对一致性图矩阵进行非负正交矩阵分解,获取非负嵌入矩阵.最后,由非负嵌入矩阵获得多视图特征的聚类,进而得到图像分割结果.在5个数据集上的对比实验表明,文中算法在分割精度和时间效率上都有一定提升.

基于非负矩阵分解的京津冀经济发展水平测度

文章通过拉直运算将复杂数据转化为高维向量,再利用非负矩阵分解(NMF)将其转化为低维向量,构造新的NMF评价法,对低维向量直接系统聚类,以低维向量取值之和作为综合得分并进行排序。基于京津冀地区2012—2019年的数据,选取7个评价指标,利用NMF评价法进行聚类、排序,利用变异系数、CVX、Gini系数度量地区差异,并以京津冀灯光数据佐证相关研究。结果表明:NMF评价法简单有效,适用数据类型广,关于秩p稳健性好,且综合得分取值非负更便于度量不平等程度;我国经济系统稳定,京津冀各地区在不同时期依经济水平排名稳定,变化较小,北京、天津、唐山稳居前三;天津、承德的经济发展形势严峻,经济水平有一定幅度下降,京津冀地区其他城市的经济水平都有逐期提高,其中北京、石家庄、廊坊、沧州提升幅度较大,保定在2018年与2019年提升幅度也较大;京津冀经济发展水平上的地区各城市差异显著存在,但差距具有缩小趋势;灯光DN值与综合得分相关性很高,可从侧面客观度量地区经济发展水平。

非负矩阵分解评价法与中国经济高质量发展动态评价

利用非负矩阵分解(NMF)将观测数据转化为非负低维向量,构造NMF评价法,对中国经济高质量发展水平进行短期评价。NMF评价法简单有效,适应数据类型广,综合得分取值非负,便于度量不平等程度,为复杂数据评价提供新的借鉴方法;我国经济系统稳定,所选取的30省份、八大经济区在两时期经济高质量发展排名稳定,北京、上海稳居第1梯队,排名前2,天津、江苏、浙江、广东稳居第2梯队,排名前6;中国经济高质量发展呈现空间聚集现象,局部空间自相关变化较小,地区差异呈现下降趋势;30省份经济高质量发展水平稳步提高,北京、上海、江苏、重庆、浙江等进步快,东北三省、天津等进步有限,导致其相对排名呈现一定下降趋势。