基于自适应矩阵的核联合稀疏表示高光谱图像分类

针对高光谱图像丰富的空间信息和光谱信息未充分利用的问题,提出了基于自适应矩阵的核联合稀疏表示高光谱图像分类的方法。在特征表示阶段,定义了自适应矩阵特征,通过结合自适应邻域块策略与非线性相关熵度量构成的特征来描述原始光谱像素,充分融合了形状可变的空间信息与非线性光谱信息。在分类阶段,考虑自适应矩阵和高光谱图像非线性,采用对数欧式核函数,构建了核联合稀疏表示模型,以获得重构误差。同时利用字典空间信息构建了矩阵相关性,引入平衡参数实现了稀疏重构误差与矩阵相关性的联合分类。在两个数据集上的实验结果表明,该算法充分利用了高光谱图像的空间信息、光谱信息,能够有效提高分类精度。

基于改进型LBP译码的LDPC码稀疏校验矩阵重建

针对LDPC码稀疏校验矩阵重建问题,基于改进型LBP译码的思想提出了一种高误码率下的LDPC码稀疏校验矩阵重建算法。首先,从码字矩阵中随机抽取部分比特构建码字分析矩阵,并对其做高斯消元求对偶空间;其次,通过判定对偶空间向量是否稀疏,提高了后续疑似校验向量判定的效率;最后,在接收码字个数不足时,利用已知校验向量结合改进型LBP译码方法纠正错误码字,加快LDPC码稀疏校验矩阵的重建速度,提高重建性能。仿真结果表明,所提算法在高误码率0.0045的条件下,对于IEEE802.11n协议下的(648,324)LDPC码,相比于现有算法,稀疏校验矩阵重建率提升了52.16%,可达到92.28%。

NM-SpMM:面向国产异构向量处理器的半结构化稀疏矩阵乘算法

深度神经网络在自然语言处理、计算机视觉等领域取得了优异的成果,由于智能应用处理数据规模的增长和大模型的快速发展,对深度神经网络的推理性能要求越来越高,N∶M半结构化稀疏化技术成为平衡算力需求和应用效果的热点技术之一。国产异构向量处理器FT-M7032为智能模型处理中的数据并行和指令并行开发提供了较大空间。针对N∶M半结构化稀疏模型计算稀疏模式多样性,提出了一种面向FT-M7032的可灵活配置的稀疏矩阵乘算法NM-SpMM。NM-SpMM设计了一种高效的压缩偏移地址稀疏编码格式COA,避免了半结构化参数配置对稀疏数据访存计算的影响。基于COA编码,NM-SpMM对不同维度稀疏矩阵计算进行了细粒度优化。在FT-M7032单核上的实验结果表明,相较于稠密矩阵乘,NM-SpMM能获得1.73~21.00倍的加速,相较于采用CuSPARSE稀疏计算库的NVIDIA V100 GPU,能获得0.04~1.04倍的加速。

一种不规则稀疏矩阵的SpMV方法

稀疏矩阵-向量乘法SpMV是高性能计算领域的关键算子之一,在新兴的深度学习领域中有着重要应用。现有SpMV算子通常采用行列相等的稀疏矩阵,而对于不规则形状稀疏矩阵(行数与列数不等)的研究仍存在空缺,值得进一步深入探讨。相比于行列相等的稀疏矩阵,不规则形状稀疏矩阵凭借其行数与列数不对等的稀疏特点具有进一步优化的空间。因此,针对这种行数与列数不对等的不规则形状稀疏矩阵建立SpMV性能模型,分析得到其出现性能瓶颈的原因在于缓存和内存之间数据交互的带宽不足。同时做了以下2个方面的优化工作:(1)基于常用稀疏矩阵CSR存储格式,提出新型RCSR存储格式,其针对CSR存储格式中一个制约性能的数组进行了变换和压缩,使得SpMV更加高效;(2)结合国产处理器的SIMD指令扩展设计了基于RCSR格式的SpMV优化算法。在国产飞腾处理器上分别使用规则和不规则稀疏矩阵进行测试,在规则稀疏矩阵的情况下,通过采用RCSR存储格式和SIMD加速指令集,以GFLOPS为性能指标,实现了平均83.35%的性能提升;在不规则稀疏矩阵的情况下,性能提升与行列比相关,在行列不对等加剧时,具有更为明显的优化效果。

基于稀疏矩阵结构的特征选择算法现状研究

在信息时代,数据获取方式简单快捷,使得数据量呈指数型增长。然而这些数据往往是多源高维的,增加了模型的复杂度,容易造成模型过拟合,并且数据中存在的冗余特征会降低模型分类精度。特征选择算法旨在通过去除不相关、冗余或嘈杂的特征,从原始特征中选择一小部分最有效特征,达到降维的效果。目前特征选择算法种类繁多,其中,基于稀疏矩阵结构的特征选择算法由于具有模型简单易懂和易求解的特点而被学者们广泛关注。本文归纳总结了基于稀疏矩阵结构的特征选择算法分类,重点介绍了鲁棒特征选择模型和多视图特征选择模型。首先,介绍了基于稀疏矩阵结构的特征选择算法基本框架;然后,介绍了基于稀疏矩阵结构的一般模型、鲁棒特征选择模型、多视图的特征选择模型,比较了它们在解决目前特征选择算法研究难点中存在的优势和不足;最后,对基于稀疏矩阵结构的特征选择算法进行了总结。文章阐明了理论研究中存在的问题和难点,探讨了基于稀疏矩阵结构的特征选择算法发展思路。

基于稀疏线阵协方差矩阵重构的DOA估计方法研究

相比均匀线阵(Uniform Linear Array,ULA),相同阵元数目下稀疏线阵(Sparse Linear Array,SLA)的抗耦合效应更好,阵列孔径更大,到达方向(Direction of Arrival,DOA)估计的自由度(Degrees Of Freedom,DOF)更高,因而近年来得到了广泛的研究。为了可以进行高DOF的DOA估计,学者们开始研究SLA的差分虚拟阵元,差分虚拟阵元对应的协方差矩阵相比原阵元对应的协方差矩阵维度更大,因而估计的DOF更高。当SLA的差分虚拟阵元连续取值时,可以利用已有阵元的接收信息,得到SLA的协方差矩阵,在该矩阵的基础之上构建差分虚拟阵元的协方差矩阵进而进行DOA估计。然而,当SLA的差分虚拟阵元存在孔洞时,即差分虚拟阵元不能连续取值时,不能直接利用重构的协方差矩阵进行DOA估计,需要恢复完全增广协方差矩阵的信息再进行DOA估计。对于该问题,本文基于矢量化后原协方差矩阵和虚拟差分阵协方差矩阵的误差分布情况,并结合完全增广协方差矩阵的低秩特性和半正定特性来构建优化问题。通过求解该问题来恢复维度更高的完全增广协方差矩阵。最后对该矩阵进行奇异值分解,利用多重信号分类(Multiple Signal Classification,MUSIC)算法就可以获得多源的空间谱。本文最后通过数值仿真试验验证了所提算法可以实现高DOF的DOA估计,并且相比于现有算法,本文所提算法对欠定DOA估计的效果更好,多源DOA估计的精度更高,产生的误差更小。

基于矩阵填充的随机步进频雷达高分辨距离-多普勒谱稀疏恢复方法

随机步进频雷达通过合成大带宽,能在较低硬件复杂度下获得距离高分辨效果,同时由于其每个脉冲的载频随机捷变,因而具有强的抗干扰、电磁兼容能力,在复杂电磁环境高精度探测领域具有重要的应用价值。然而,由于其波形在时频域稀疏的感知形式,造成回波相参信息有所缺失,因而传统匹配滤波方法在估计高分辨距离-多普勒时会演化为欠定估计,导致估计谱中产生起伏高旁瓣,严重影响探测性能。为此,该文提出一种基于Hankel重构矩阵填充的随机步进频雷达高分辨距离-多普勒谱低旁瓣稀疏恢复方法。该方法采用低秩矩阵填充思想补全波形在时频域稀疏感知时造成的缺失采样,恢复目标连续相参信息,可以有效解决欠定估计问题。文章首先构建了随机步进频雷达的慢时间-载频(时-频)回波欠采样数据矩阵;然后,重构待恢复数据矩阵为双重Hankel型,并分析证明了矩阵满足低秩先验特性;最后,利用ADMM算法补全未采样时频数据,恢复相参信息,保证了高分辨距离-多普勒谱低旁瓣稀疏恢复。仿真和实测试验证明了该文所提方法的有效性和优越性。

稀疏阵列的鲁棒矩阵填充DOA估计算法

稀疏阵列布阵灵活,增大阵列孔径的同时还能减少阵元间耦合,但基于稀疏阵列的传统波达方向估计会导致角度模糊混叠,带来估计精度差和稳健性不足的问题。针对以上问题,提出一种适用于稀疏阵列波达方向估计的加权截断奇异值投影(weighted truncated singular value projection,WT-SVP)的鲁棒矩阵填充算法。在填充迭代过程中根据奇异值的大小分配权重,突出大奇异值包含的阵列信息,减少小奇异值中不必要的噪声信息,从而优化传统奇异值投影算法。该算法可以实现稀疏阵列的孔洞信息恢复,对不连续阵元充分利用,同时WT-SVP填充算法实现了稀疏阵列波达方向估计的高精度、高分辨以及在低信噪比、低快拍时的高鲁棒性。

一种基于矩阵填充的稀疏阵波达方向估计技术

为了提高稀疏阵列波达方向(DOA)估计的性能,该文将低秩矩阵重构理论应用到DOA估计中,提出了一种改进的矩阵填充模型及其优化求解方法。该方法利用Sigmoid函数实现核范数约束并建立最小化模型;然后基于粒子群算法改进增广拉格朗日乘子法,对模型实现低秩优化求解;最后利用多信号分类(MUSIC)算法实现DOA估计。仿真结果表明,该方法能有效实现稀疏阵重构,DOA估计的性能优良,且能够适用于相关信源。

基于稀疏矩阵填充的级联毫米波雷达高分辨测角方法

级联毫米波雷达将多个射频芯片进行级联,可实现大规模多输入多输出(multiple-input multiple-output,MIMO)天线阵列。然而,现有毫米波雷达的测角方法存在精确度不足、旁瓣过高等问题。对此,提出一种基于稀疏矩阵填充的级联毫米波雷达高分辨测角方法。首先,建立级联毫米波雷达二维稀疏阵列的阵列信号模型。然后,将该阵列的单快拍信号构造为低秩汉克尔(Hankel)矩阵,使用加权非精确增广拉格朗日乘子法进行稀疏矩阵填充,并将填充后的矩阵转化为均匀虚拟阵列的单快拍信号。最后,使用常规波束形成(conventional beamforming,CBF)方法估计目标角度信息并进行配对。仿真和实测实验结果表明,所提方法能够精确地估计目标角度信息,并有效抑制峰值旁瓣电平。

应用于脑机接口系统的动态稀疏矩阵压缩算法

在脑机接口系统中,高通道数神经信号采集是一个核心功能模块,能够为外部计算机设备采集大量人脑中的神经信息;在高通道数神经信号采集中,因其原始数据量巨大,直接传输和处理产生的原始数据会消耗极大的功耗并增加硬件设计上的难度;为解决这个问题,一个有效的方法是在数据传输和处理前依据原始神经信号数据的特点对其进行压缩;神经元动作电位信号具有不应期性即有效信号的时域宽度与信号重复周期之比很小;利用此特点,能够将多通道神经信号的数字标记输出在一定时间范围内定义为一个稀疏矩阵,并对此稀疏矩阵进行特征提取,根据其特征动态地采用优化算法进行数据压缩;所提出的算法在Xilinx平台使用FPGA进行设计与实现,并且将其作为中控硬件在32通道神经信号采集硬件系统上通过实时验证,实验证明提出的动态稀疏矩阵压缩算法可实现83.4%的数据压缩率。

稀疏约束的L21增量式非负矩阵分解研究

针对新增数据增大而引起的运算效率增大的现象,提出了一种稀疏约束的增量式非负矩阵分解改进算法。该算法是在加入稀疏条件的情况下对增量数据使用L21范数。首先对初始数据进行经典非负矩阵分解,其次再利用其分解结果参与增量数据的运算,使目标函数在分解计算中具有较好的收敛效果和分解后数据有较好的稀疏度。实验部分主要是将该算法与增量式非负矩阵分解、稀疏约束的增量式非负矩阵分解、经典非负矩阵分解算法进行对比,得出在分解后数据的稀疏度和收敛快慢方面该算法均优于其他3个算法。

基于监督学习的稀疏矩阵自动任务分配

针对稀疏矩阵与稠密向量乘运算探讨了不同的任务分配策略对性能的影响,观察到任务分配策略的选择会显著地影响稀疏矩阵的运算性能,且不存在一种固定的任务分配策略针对所有的稀疏矩阵都能获得最佳性能。为此,提出了一种基于机器学习的最优任务分配策略选择模型,其训练过程仅使用稀疏矩阵的特征来刻画输入数据集,且能够针对给定的数据集和目标平台自动地训练模型。实验结果表明,相对于默认的块分配方法,使用该模型选择的任务分配方式能够获得平均约35%的性能提升。

基于非局部低秩稀疏矩阵分解的低剂量脑灌注CT统计迭代重建

脑灌注CT成像需要对患者头部进行连续反复扫描,相应的X射线辐射剂量较常规CT显著增加。为减少X射线辐射剂量,提出一种基于非局部低秩稀疏矩阵分解的低剂量脑灌注CT统计迭代重建方法。首先对脑灌注CT序列图像进行分块,然后构建非局部低秩稀疏矩阵分解模型,最后求解相应的目标函数重建出脑灌注CT序列图像。与滤波反投影算法和基于低秩稀疏矩阵分解的惩罚加权最小二乘方法相比,本文方法得到的脑血容参数图像的结构相似性指标分别提高38.07%和5.61%、特征相似性指标分别提高13.17%和2.47%;平均通过时间参数图像的结构相似性指标分别提高59.73%和0.28%、特征相似性指标分别提高20.26%和0.70%。本文方法能在去除低剂量脑灌注CT图像噪声和伪影的同时保持图像的边缘结构信息,并且获得更准确的脑血流动力学参数图像。

基于收缩和稀疏方法的商品期货市场已实现协方差矩阵动态建模与预测

随着中国期货市场规模持续扩大,上市的商品期货种类不断增加,大量金融资本投资商品期货成为商品市场运作的新特点,研究多个商品期货协方差矩阵的重要性日渐凸显。通过将机器学习中的贝叶斯收缩和稀疏方法融入参数VAR模型,构建了一个崭新的SS-TVP-VAR模型,并运用该模型对多个商品期货的已实现协方差矩阵进行动态建模和预测。实证结果表明:SS-TVP-VAR模型能够有效预测中国商品期货市场的已实现协方差矩阵,在统计精度和经济效益方面均优于VAR-Lasso等其他固定参数模型;商品期货市场已实现协方差矩阵的方差项与协方差项具有截然不同的驱动结构,方差项主要受其自身滞后驱动,而协方差项则主要由其他滞后项驱动。本研究有助于投资者及市场管理者从协方差矩阵驱动结构和预测未来协方差矩阵两个方面进行资产配置和风险管理,对推动中国商品期货市场高质量发展具有重要的现实意义。

基于L_(2)灵敏度最小化的数字滤波器状态空间实现稀疏化方法

为解决传统数字滤波器在有限精度实现时因有限字长(Finite Word Length,FWL)效应导致滤波器性能下降的问题,提出一种L_(2)灵敏度最小化的数字滤波器状态空间实现稀疏化方法.推导前向差分算子数字滤波器结构传输函数及其等效状态空间实现,根据可控及可观格莱姆矩阵得到基于相似变换矩阵的L_(2)灵敏度表达式,并进行稀疏化校准,将L_(2)灵敏度最小化问题转换为凸函数求最值问题,求导得到L_(2)灵敏度最小化表达式,代回即得前向差分算子数字滤波器的稀疏化状态空间实现.仿真结果表明,所提方法设计的数字滤波器具有更好的抗FWL效应.

阵元失效下稀疏阵列的二维DOA估计算法

本文针对二维稀疏阵列在阵元失效条件下,因数据缺失导致虚拟阵列连续性被破坏及自由度下降的问题,提出了一种二维DOA估计算法。首先基于二维差分共阵构建虚拟阵列,然后利用解耦原子范数最小化理论,以矩阵填充的形式恢复协方差矩阵数据,实现对虚拟阵列中丢失虚拟阵元的内插,最后采用SS-MUSIC算法进行多信源的二维DOA估计。所提方法弥补了物理阵元失效所造成的影响,恢复了原始虚拟阵列的完整孔径特性,保持了虚拟阵列的自由度,从而确保了较高精度的二维DOA估计性能。仿真实验结果表明,在相同阵元数量及阵元失效情况下,本文提出的算法相比已有方法能有效地估计更多信源,并在小快拍数和低信噪比条件下表现出更高的稳健性,最大限度地保留并利用了稀疏阵列在二维DOA估计中的自由度优势。

结合矩阵补全的宽度协同过滤推荐算法

协同过滤是推荐系统中最经典的方法之一,能够满足人们对个性化推荐任务的需求,但许多协同过滤算法在面对评分数据稀疏性问题时推荐效果不佳。为解决此问题,提出一种结合矩阵补全的宽度协同过滤推荐算法。先使用矩阵补全技术对用户项目评分矩阵进行补全,再利用补全后的矩阵对已评分的用户和项目分别寻找其近邻项,进而构造用户与项目的评分协同向量,最后使用宽度学习系统来构建用户项目与评分之间的复杂的非线性关系。在MovieLens和filmtrust数据集上对所提出算法的有效性进行检验。试验结果表明,与当前最先进的方法相比,该方法能够有效地缓解数据稀疏性问题,具有较低的计算复杂度,在一定程度上提升了推荐系统的性能。

基于约束图正则的块稀疏对称非负矩阵分解

现有的基于对称非负矩阵因式分解(Symmetric Nonnegative matrix Factorization, SymNMF)算法大都仅依赖初始数据构造亲和矩阵,并且一定程度上忽视了样本有限的成对约束信息,无法有效区分不同类别的相似样本以及学习样本的几何特征。针对以上问题,提出了基于约束图正则的块稀疏对称非负矩阵分解(Block Sparse Symmetric Nonnegative Matrix Factorization Based on Constrained Graph Regularization, CGBS-SymNMF)。首先,通过先验信息构造约束图矩阵,用于指导类别指示矩阵区分高相似度的不同类别样本;然后,引入PCP-SDP(Pairwise Constraint Propagation by Semi-definite Programming)方法,利用成对约束学习一个新的样本图映射矩阵;最后,利用“勿连”约束构造不相似矩阵,用于引导一个块稀疏正则项,以增强模型抗噪能力。实验结果表明,所提算法具有更高的聚类精确度和稳定性。

TEB:GPU上矩阵分解重构的高效SpMV存储格式

稀疏矩阵向量乘法(SpMV)是科学与工程领域中一个至关重要的计算过程,CSR(compressed sparse row)格式是最常用的稀疏矩阵存储格式之一,在图形处理器(GPU)平台上实现并行SpMV的过程中,其只存储稀疏矩阵的非零元,避免零元素填充所带来的计算冗余,节约存储空间,但存在着负载不均衡的问题,浪费了计算资源。针对上述问题,对近年来效果良好的存储格式进行了研究,提出了一种逐行分解重组存储格式——TEB(threshold-exchangeorder block)格式。该格式采用启发式阈值选择算法确定合适分割阈值,并结合基于重排序的行归并算法,对稀疏矩阵进行重构分解,使得块与块之间非零元个数尽可能得相近,其次结合CUDA(computer unified device architecture)线程技术,提出了基于TEB存储格式的子块间并行SpMV算法,能够合理分配计算资源,解决负载不均衡问题,从而提高SpMV并行计算效率。为了验证TEB存储格式的有效性,在NVIDIA Tesla V100平台上进行实验,结果表明TEB相较于PBC(partition-block-CSR)、AMF-CSR(adaptive multi-row folding of CSR)、CSR-Scalar(compressed sparse row-scalar)和CSR5(compressed sparse row 5)存储格式,在SpMV的时间性能方面平均可提升3.23、5.83、2.33和2.21倍;在浮点计算性能方面,平均可提高3.36、5.95、2.29和2.13倍。