一类非凸优化问题广义交替方向法的收敛性

考虑利用广义交替方向法(GADMM)求解线性约束两个函数和的最小值问题,其中一个函数为凸函数,另一个函数可以表示为两个凸函数的差.对GADMM的每一个子问题,采用两个凸函数之差算法中的线性化技术来处理.通过假定相应函数满足Kurdyka-Lojasiewicz不等式,当增广Lagrange(拉格朗日)函数的罚参数充分大时,证明了GADMM所产生的迭代序列收敛到增广Lagrange函数的稳定点.最后,给出了该算法的收敛速度分析.

求解LASSO问题的广义对称交替方向乘子算法

随着数据规模的增加,有效地解决LASSO问题面临巨大挑战。对称交替方向乘子法是求解LASSO问题的一种有效方法,其将原问题分解为多个子问题交替求解,很大程度上提升了求解LASSO问题的效率。本文提出了一种广义对称交替方向乘法。与对称交替方向乘子法相比,该算法引入了一个半近邻项近似地求解x子问题,克服了之前算法的不足。此外,算法中引入了松弛算子进一步提升了算法的效率,数值实验说明了该算法是有效的。

非凸不可分离问题的广义交替方向乘子法的收敛性

交替方向乘子法(ADMM)是求解大规模优化问题和非凸非光滑问题的一种有效的方法,但当目标函数为非凸非光滑的情况时,原始ADMM算法的收敛性无法保证,且若目标函数中存在耦合函数,则算法的收敛性证明将更为复杂。在现实生活中存在的很多问题,其本质都是非凸的。因此,本文提出了一种改进的ADMM算法。与原始ADMM算法相比,该算法引入了一个松弛因子α,构造了一种广义交替方向乘子法(GADMM)来求解具有线性约束的非凸不可分离优化问题。在一定的假设条件下,通过假设增广拉格朗日函数满足K-L不等式,证明了当惩罚参数足够大时,算法生成的序列收敛到增广拉格朗日函数的稳定点。

基于广义近似交替方向乘子法求解可分离凸优化问题

本文提出了一种广义近似交替方向乘子法(gPADMM)来求解可分离凸优化问题。和近似邻近点算法(APPA)和扩展邻近交替方向方法(ePADM)相比,新算法不仅更新自定义矩阵的结构,而且引入随机变量进行随机加速更新步长,从而克服了旧算法固定步长的不灵活性。在某些适当的假设条件下,本文证明了新算法的全局收敛性,并且初步数值实验表明该算法是有效的,收敛速度比旧算法更快。

一类自适应广义交替方向乘子法

广义交替方向乘子法是求解凸优化问题的有效算法．当实际问题中子问题难以求解时，可以采用在子问题中添加邻近项的方法处理，邻近矩阵正定时，算法收敛，然而这也会使迭代步长较小．最新研究表明，邻近矩阵可以有一定的不正定性．本文在基于不定邻近项的广义交替方向乘子法框架下，提出一种自适应的广义交替方向乘子法，动态地选择邻近矩阵，增大迭代步长．在一些较弱的假设下，证明了算法的全局收敛性．我们进行一些初等数值实验，验证了算法的有效性．

改进的低秩稀疏分解及其在目标检测中的应用

针对传统低秩稀疏分解算法用于运动目标检测时,前景提取结果容易受噪声干扰以及检测结果不完整的问题,提出了一种新的低秩稀疏分解模型。考虑到视频前景目标呈结构化分布,以及动态背景对前景提取结果造成影响,该模型利用结构化稀疏范数对前景进行约束,且将稀疏部分所代表的运动区域进一步划分为动态背景部分与前景部分;然后采用广义交替方向乘子法对提出的模型进行求解,并分析了算法的复杂度;最后进行仿真实验将其应用到运动目标检测中。实验数据结果验证了提出的方法比其他基于低秩稀疏分解的运动目标检测方法更加稳定有效,更具有普适性,且对不同类型的噪声均具有一定的抗噪性。

改进的截断核范数及在视频前背景分离中的应用

视频前背景分离的主要目的是从视频中提取感兴趣目标,但是由于噪声、光照变化等的影响使其仍是计算机视觉等领域最具有挑战性的任务之一。截断核范数(truncated nuclear norm,TNN)算法是一种经典的鲁棒主成分分析(robust principal component analysis,RPCA)算法,被广泛地应用于视频前背景分离。但是,该算法中的截断核范数对传统鲁棒主成分分析中的秩函数逼近度不高,导致其稳定性不强,对一些复杂场景下的视频前背景分离精度不高。针对该问题,本文提出了一种改进的截断核范数(improved truncated nuclear norm,ITNN)算法。该算法首先采用非凸γ范数替代TNN模型中的核范数,并分析了相对于核范数而言,非凸γ范数对秩函数具有更高的逼近度,同时提出了该算法所对应的模型;其次,为了求解提出的模型,本文引入了广义交替方向乘子法(generalized alternating direction method of multipliers,GADMM)对该模型进行求解;最后,将提出的ITNN算法应用于多个公共视频的前背景分离实验中,并通过展示提取不同视频的前景效果,从视觉角度验证了ITNN算法的有效性。同时,计算提出算法和对比算法提取的视频前景的F-measure值,从量化的角度进一步验证了ITNN算法的有效性。另外,实验还记录了各算法的视频前背景分离的运行时间,验证了ITNN算法的效率。总之,本文通过实验验证了提出的ITNN算法在视频前背景分离中的有效性和优越性。