从稀疏到结构化稀疏:贝叶斯方法

稀疏分解算法是稀疏表达理论和压缩感知理论中的核心问题,也是当前信号处理领域的一个热门话题。近年来,研究人员发现除了稀疏以外,如果引入稀疏系数之间的相关性先验信息,可以大大提高稀疏分解算法的精度,这种方法称为"结构化稀疏分解算法"。本文归纳和总结了从稀疏到结构化稀疏的信号模型,并且介绍了两种不同的贝叶斯稀疏(或者结构化稀疏)算法,以及从稀疏到结构化稀疏贝叶斯稀疏分解算法的扩展。同时,本文还介绍了结构化稀疏分解算法在医学信号处理和语音信号处理中的应用。

结构化稀疏线性判别分析

在监督场景下线性判别分析(linear discriminant analysis,LDA)是一种非常有效的特征提取方法.然而,LDA在小样本情况下通常会出现过拟合现象,并且学习的投影变换难以给出人类认知上的解释.针对这些问题,特别是可解释性结构的发现,借助于LDA的线性回归模型和结构化稀疏L2,1范数,提出了结构化稀疏线性判别分析(structured sparse LDA,SSLDA)方法.进一步,为了去除线性变换间的相关性,提出了正交化的SSLDA(orthogonalized SSLDA,OSSLDA),它能更加有效地学习到细致的结构信息.为了求解这2个模型,引入了一个半二次的优化算法,它在投影变换和新引入的辅助变量之间采用交替优化的思想.为了验证所提出的方法,在AR、扩展的YaleB和MultiPIE 3个人脸数据库上对比了LDA及其变种方法,实验表明了所提出方法的有效性以及可解释性.

基于多任务结构化稀疏模型的目标跟踪

为提高目标跟踪算法的鲁棒性,提出一种基于多任务学习框架下结构化稀疏模型的目标跟踪算法(SSMTL)。对目标模板和观测模板构建结构化稀疏模型,充分利用目标的内部结构化信息,有效应对严重遮挡、光线变化及背景杂乱等因素;结合多任务学习思想,将密集采样的粒子视为子任务,有效地利用粒子间的相互关系,改进加速近似梯度(APG)算法获得最优目标候选;提出利用遮挡检测及在线更新模板策略进一步提高目标跟踪性能。实验结果表明,相对于其它目标跟踪算法,SSMTL算法可以更准确地跟踪目标,应对复杂背景下的严重遮挡性能更优。

自适应结构化稀疏表示的海上目标跟踪研究

针对海上目标图像背景结构复杂,目标间相似度大,且遮挡和碰撞时常发生的特点,提出一种基于结构化局部稀疏表示的对角块外观模型构造方法,通过对外观表现稳定的图像块赋予较大权重来增加跟踪的稳定性。建立递推的目标跟踪模型,通过卡尔曼滤波算法解决每帧瞬时目标和跟踪结果之间的后验稀疏向量表示问题。最后实现帧目标搜索,瞬时目标与基函数词典之间残差最小的目标作为最优跟踪结果,同时采用增量主成分分析法重构跟踪结果以减少遮挡影响。将此方法与经典的目标跟踪算法进行比较,实验表明此方法具有较好鲁棒性和稳定性。

基于结构化稀疏模型的压缩感知重构改进算法

目前,标准的CS重构算法仅利用信号和图像在小波变换下的稀疏先验信息,而并没有利用变换系数具有的结构化特性。为了能够快速精确地重建原始信号,将结构化稀疏模型与SP算法、CoSaMP算法相结合,提出了压缩感知重构的改进算法。另外,将基于双树复小波变换的系数结构模型融入上述算法,进一步提高重构性能。实验结果表明,所提出的算法可获得更高的图像重建质量。

基于结构化稀疏表示的海上船舶视觉建模与跟踪

海上船舶视频跟踪一直是视觉跟踪中的重点课题。通用的目标建模和跟踪算法不适用于海上船舶,为获得鲁棒的跟踪效果,论文结合稀疏表示的思想,首先通过不同角度复杂采样,建立了海上常见目标的基函数字典,并提出一种对字典及测试样本进行块稀疏向量生成的方法,将结构化稀疏表示算法与目标稀疏系数之间相互关联信息进行调整。在块之间相关性足够小的情况下,采用块正交匹配追踪算法,解决了适当条件下编码复杂性的最优化问题,并将论文算法首次应用于海战场目标识别跟踪,采用论文目标跟踪测试集进行测试,并与近期提出的效果较好的跟踪算法进行对比,对比实验表明论文提出的算法具有较好的鲁棒性和稳定性。

基于目标场景结构化稀疏重构的三维雷达成像方法

基于成像场景散射强度稀疏表示的3维雷达成像结果对目标的外形几何细节体现较差,不利于目标识别。该文首先分析了目标在成像场景内散射强度的结构化特征,然后以散射点梯度信息进行了结构化稀疏表示,构建了基于目标散射强度梯度变化的结构化稀疏重构模型,最后通过改进的联合正交匹配追踪算法重构出目标3维图像。实验结果表明,该方法具有较好的抗噪性能和成像质量,可以更好地反映目标外形几何特征。

低秩矩阵和结构化稀疏分解的视频背景差分方法

针对基于矩阵分解的视频前景检测传统算法中忽视前景元素之间相关性会导致检测结果容易受噪声干扰和运动目标检测不完整等问题,提出了一个低秩矩阵和结构化稀疏分解的视频背景差分算法。该算法充分考虑到视频前景区域的结构化分布特征,利用结构化稀疏范数对前景进行约束;针对矩阵分解方法中参数选择的难题,采用了一种基于运动显著性判定的两步法来实现动态背景去除和正则化参数的自适应选择,即第一步利用低秩和结构化稀疏分解获得运动候选块,第二步对运动候选块进行显著性分析并利用自适应正则化参数的块稀疏分解进行前景检测。实验结果表明:与现有的基于矩阵分解的前景检测方法相比,该算法能够更加适应复杂多变的视频环境,在I2R测试库中检测出的前景有较高的精确度和召回率。

基于结构化稀疏表达的高分辨率光学遥感图像的船只检测

为克服近岸船只检测中复杂港内背景干扰和基于深度学习算法的大视场光学遥感图像标注工作量大的困难,本文提出了基于小样本集的结构化稀疏表达方法来实现近岸船只检测的算法。构建由近岸船只目标,背景干扰信息和误差矩阵等三部分子字典组成的结构化稀疏表达字典,经小样本集的字典训练过程生成判别性稀疏编码。首先将多方向近岸船只目标样本与港内复杂背景信息样本经过HOG特征提取和PCA分析对原子进行初始化,然后使用K-SVD和LASSO算法对字典进行训练。在字典中引入误差矩阵对样本的类内差异进行表示,增强了稀疏编码的判别能力和系统鲁棒性。最后提出船只目标区域提取的置信度计算方法,对生成的结构化稀疏编码进行判别,提取船只目标区域,实现船只检测。通过对不同尺寸字典模型、引入误差矩阵前后的结构化稀疏表达模型进行实验,实验结果表明提出的引入误差矩阵的结构化稀疏表达方法的有效性,以及在小样本集下比现有技术方法具有更好的检测性能。

水下目标信号的结构化稀疏特征提取方法

为了提取具有噪声鲁棒性的水下目标信号特征用于水下目标识别,通过分析实测水下目标辐射噪声的时频谱,发现其时频谱中往往存在稀疏分布的具有目标区分性信息的强能量窄带线谱。结合稀疏分解理论,利用窄带线谱的结构化稀疏特点,提出一种稀疏特征提取方法。该特征提取方法借助稀疏贝叶斯学习模型,利用相邻帧样本间的相关性信息,能够有效增强窄带线谱成分,提高特征的噪声鲁棒性。并用一组实测数据对该特征的分类性能进行了测试,结果表明该特征在训练样本和测试样本噪声条件不匹配的情况下,能够保持较高的识别正确率,是一种具有噪声鲁棒性的特征。

局部联合结构化稀疏表示的单样本人脸识别

针对单样本问题,基于相同类别的人脸变化信息应有相似的稀疏编码这一事实,提出结构化稀疏变化字典学习方法,以得到较好的共享类内变化字典。同时鉴于同一人脸的所有区域应有相同的类标签,通过训练样本与变化字典按坐标分块联合表示查询人脸区域,然后给稀疏系数引入导致结构化稀疏效果的约束条件,实现对应类别字典的自动选择,从而更好地表示查询人脸。提出的人脸表示方法可以在局部识别方法的优势上整合全局信息,使得在AR、Extended Yale B、CMU-PIE人脸库上的表现超过其他单样本识别相关的方法,取得了较好的识别效果。

结合低秩和结构化稀疏的大雾图像小目标检测

针对传统的低秩稀疏分解模型不能直接应用到单幅图像进行目标检测,且忽略了目标像素的空间结构性导致检测精度不高等问题,提出一种基于低秩和结构化稀疏的单幅大雾图像小目标检测算法。首先,对原始大雾图像进行预处理得到由局部子图像构成的大雾补片图像,将小目标检测问题转化为低秩和稀疏分解问题。然后,考虑到目标像素间的空间结构关系,在对大雾补片图像进行矩阵分解时,引入结构化稀疏诱导范数对目标进行约束。最后,将矩阵分解得到的补片图像进行后处理得到背景图像和目标图像。通过对单幅大雾图像实验仿真表明,所提算法确保了小目标检测的完整性并且提高了检测精度。

基于流形鉴别信息的特征选择及其结构化稀疏表示

针对启发式特征选择策略忽略了特征间相关信息导致子最优的问题,提出一种基于流形鉴别信息的特征选择(MDFS)算法.该算法根据近邻信息和标签信息刻画高维数据类内和类间流形结构,以最小化流形散度差为准则构建目标函数,并增加结构化稀疏正则项降低特征间冗余.通过统一框架下的特征权重迭代优化获得最优特征子集.在ORL库、COIL20库、Isolet1库上的聚类实验表明,MDFS算法选取的特征子集相比传统算法具有更高的识别准确率和归一化互信息,验证了所提出算法的有效性.

基于结构化判别稀疏表示的目标跟踪

针对稀疏表示目标跟踪算法采用整体模板且区分目标与背景的能力差的缺点,该文提出了一种改进算法。采用尺度不变特征变换(SIFT)对目标进行特征提取。采用结构化稀疏表示的外观模型对候选目标进行稀疏表示,得到稀疏系数。通过正负样本设计并训练判别分类器,然后对候选目标进行分类,获得置信值。采用上一帧的跟踪结果对分类器与字典进行更新。对该文算法进行了仿真研究。计算仿真结果中3种测试序列的平均重叠率和平均中心点误差,Deer测试序列的值为0.633 8和9.397 6,Car11测试序列的值为0.677 5和1.943 3,Caviar2测试序列的值为0.753 5和3.838 2。

基于联合结构化稀疏表示的高光谱图像分类

为了实现精确的高光谱图像分类,结合稀疏表示及光谱信息提出基于联合结构化稀疏表示的高光谱分类算法,该算法能够同时利用像元的空间语义信息和字典集内部样本结构性.建立了联合结构化稀疏表示模型,并利用交替方向迭代算法设计求解方案.在此基础上,设计了基于联合结构化稀疏表示的高光谱分类框架,其中利用类特定残留来判定被测试像元的类别.实验结果表明所提算法相比其他经典或前沿算法具有更高的分类精度.

基于回顾性心电门控计算机断层摄影四维数据采集和结构化稀疏算法的心脏容积时间关系研究

本文拟研究心脏全心动周期各房室容积与时间的关系,用于指导动态心脏体模的运动测控。本课题组共筛选50例试验对象以回顾性心电门控技术采集20个时相的心脏计算机断层摄影造影(CTA)图像,利用心功能分析软件测量心脏全心动周期各房室容积值。将患者按照性别、年龄、体重、身高、心率等因素分组,采用重复测量设计方法进行统计学分析,利用结构化稀疏算法拟合容积时间关系的数学表达式。研究结果显示,以性别、年龄、体重、身高和心率分组,在时间点上各房室容积值的差异均具有统计学意义(P=0.000);时间因素与性别分组在左心室存在交互作用(F=8.597,P=0.006),其余分组与时间因素不存在交互作用;右心室在不同体重分组之间容积值的差异具有统计学意义(F=9.004,P=0.005),其余各分组之间容积值的差异均无统计学意义。其次,以结构化稀疏算法与最小二乘法拟合的心脏各房室容积时间关系式的准确度相当,但前者拟合结果的表达式更简洁,其基函数的非零元个数仅为最小二乘法的2.2%,且鲁棒性测试表明,拟合结果鲁棒性可靠。基于本文以上研究结果提出,若将拟合关系式用于心脏运动测控或能更准确模拟动态心脏的运动规律,为动态心脏体模运动仿真的测控装置研究奠定了一定的理论基础。

基于结构化多视图稀疏限定的监督特征选择算法研究

为了有效利用多视图数据信息提升监督特征选择的性能,构建了一种结构化多视图稀疏限定,并基于该稀疏限定提出了一种监督特征选择方法,即结构化多视图监督特征选择方法(SMSFS)。该方法在特征选择过程中能够同时考虑不同视图特征的重要性以及同一视图中不同特征的重要性,从而有效的结合多视图数据信息,提升监督特征选择的性能。SMSFS目标函数是非凸的,设计了一个有效的迭代算法对目标函数进行求解。将所提结构化多视图监督特征选择方法 SMSFS应用到了图像标注任务,在NUS-WIDE和MSRA-MM2.0图像数据库上进行了实验,并与其他特征选择算法进行了比较,实验结果表明该算法能够有效结合多视图数据信息,提升特征选择性能。

基于Fisher判别的结构化低秩字典学习算法研究

为了进一步提高人脸识别方面的性能,提出了基于Fisher判别的结构化低秩字典学习算法。该算法基于训练样本的标签信息将低秩正则化以及结构化稀疏同时引入到所学习的具有识别力的字典上。在字典学习过程中,首先利用样本的重建误差约束样本与字典之间的关系;其次将Fisher准则应用到稀疏编码过程中,使其编码系数具有识别能力;由于训练样本中的噪声信息会影响字典的识别力,所以在低秩矩阵恢复理论的基础上将低秩正则化应用到字典学习过程中;接着,在字典学习过程中加入了结构化稀疏,使其不丢失结构信息以保证对样本进行最优分类;最后,在AR以及ORL人脸数据库上分别进行实验仿真,实验结果表明该方法在人脸识别方面具有可行性。

稀疏认知学习、计算与识别的研究进展

稀疏认知学习、计算与识别是近年来受到国际学术界广泛关注的学术前沿领域,这一新的学习、计算与识别范式将对机器学习、模式识别、计算智能以及大数据等领域的研究产生变革性的影响.为能更好地把握其发展规律,本文以生物视觉稀疏认知机理的研究进展为依据,通过对生物视觉稀疏认知机理的学习及建模,详细地评述了稀疏编码模型、结构化稀疏模型和层次化稀疏模型的研究进展,并阐释这3种模型之间的区别与联系;以及概述稀疏认知计算模型目标识别应用的研究状况,并举例给出了稀疏认知计算模型的具体成果;最后总结了这一新范式存在的一些问题及可进一步研究的方向,以期引起更多的研究同行对这一具有交叉性和发展性方向的关注.

改进的低秩稀疏分解及其在目标检测中的应用

针对传统低秩稀疏分解算法用于运动目标检测时,前景提取结果容易受噪声干扰以及检测结果不完整的问题,提出了一种新的低秩稀疏分解模型。考虑到视频前景目标呈结构化分布,以及动态背景对前景提取结果造成影响,该模型利用结构化稀疏范数对前景进行约束,且将稀疏部分所代表的运动区域进一步划分为动态背景部分与前景部分;然后采用广义交替方向乘子法对提出的模型进行求解,并分析了算法的复杂度;最后进行仿真实验将其应用到运动目标检测中。实验数据结果验证了提出的方法比其他基于低秩稀疏分解的运动目标检测方法更加稳定有效,更具有普适性,且对不同类型的噪声均具有一定的抗噪性。