一类修正邻近梯度法及其收敛性

许多现代统计和信号应用问题都可以归结为非光滑凸优化问题,该文提出了一类适用于求解非光滑凸优化问题的修正邻近梯度法.算法的特点是采用一个自适应步长,并且该算法的线性收敛性不需要目标函数的强凸性作为前提.

源独立邻近梯度法求解频率域全波形稀疏约束反演问题

全波形反演(Full waveform inversion,FWI)寻求利用地震记录的全部信息来重构复杂地层介质,可有效地排除偶然因素的影响,是获得具有高分辨率的地下地层结构成像的有力工具。地震FWI从理论走向实际面临着诸多难题,其一是需要一个较为精确的震源子波。为了使用FWI处理地震数据,震源子波的估计严重影响模拟数据与观测数据的吻合程度,从而影响反演的精度。其二是波形反演是不适定的,即数值结果对数据比较敏感,所以必须采用正则化方法求其近似解。将变分投影方法应用于对频率域全波形反演过程中的数据校正,令反演过程不再依赖震源子波。为了克服传统的Tikhonov正则化方法过度光滑的弊端,引入稀疏约束正则化方法,并利用邻近映射克服目标泛函的不可微性,构建适合此类问题的邻近梯度算法,对稀疏约束目标泛函进行求解。初步数值试验结果表明,在没有震源信息的情况下,所设计的方法仍能获得较为精确的反演结果。

可分离凸规划问题的交替邻近梯度法的次线性收敛率

给出了目标函数为3个凸函数的和且具有线性约束的可分离凸规划问题的交替邻近梯度法在遍历意义下的次线性收敛率为■的一个充分条件.

求解一类双层规划问题的邻近梯度算法

非光滑双层规划问题来源于具有广泛应用的经济学、工程学和自然科学等领域。邻近梯度法是一类求解非光滑优化问题的有效算法。当目标函数具有某些特殊结构,特别是当具有某些解析形式的邻近算子时,邻近梯度法是求解非光滑优化问题的高效算法之一。在本文中,首先以凸分析、变分分析与非光滑优化等理论为基础,其次应用参数极小化技术,将具有某些特殊结构的非光滑双层规划问题转化为单层优化问题,最后应用邻近梯度法逐次求解,并建立算法的收敛性分析。

一类非光滑凸优化问题的邻近梯度算法

考虑求解目标函数为光滑损失函数与非光滑正则函数之和的凸优化问题的一种基于线搜索的邻近梯度算法及其收敛性分析,证明了在梯度局部Lipschitz连续条件下该算法是R-线性收敛的,并在非光滑部分为稀疏块LASSO正则函数情况下给出了误差界条件成立的证明,得到了线性收敛率。最后,数值实验结果验证了方法的有效性。

一种求解Lasso问题的不精确邻近梯度算法

针对Lasso问题,基于邻近梯度法,考虑在光滑项梯度及邻近算子的计算中存在误差,提出了一种带有误差项的不精确邻近梯度算法,并在适当条件下给出该算法的收敛速度分析。数值实验结果表明,不精确邻近梯度算法求解Lasso问题是有效的。

非凸优化问题的惯性邻近梯度算法

研究了惯性邻近梯度法求解极小化一个非光滑函数与一个光滑函数之和的优化问题。通过假定目标函数满足KL不等式,证明了该算法的收敛性。

基于重启技术的加速邻近梯度算法

加速邻近梯度法是在梯度法基础上的一个改进,虽然效率比梯度法有明显提高,但仍存在收敛轨迹出现往回迭代的情况。为了克服该缺点,提出了把重启技术应用在加速邻近梯度法上的方法,并通过数值例子进行了比对,证明了该技术的有效性。

非线性最优化问题几种梯度算法的研究

借助目标函数的梯度或次梯度作为搜索方向解决最优化问题的最优化算法.研究共轭梯度法、投影梯度法、增量次梯度法以及邻近梯度法的迭代形式、迭代特点、收敛性分析以及实际应用范围,并介绍一些与梯度算法相关的最优化方法,对它们在收敛性、算法运用以及优缺点方面进行比较.

非凸优化中一种带非单调线搜索的惯性邻近算法

本文考虑一类目标函数由可微(可能非凸)函数和凸(可能非光滑)函数组成的极小化问题。惯性邻近(iPiano)算法是解决这类问题的一种有效而重要的方法。通过引入非单调线搜索,提出了非单调线搜索的iPiano (iPiano-nml)算法。通过证明说明了由iPiano-nml生成的序列的任何聚点都是一个稳定点。最后,对图像处理问题进行了数值实验来说明新算法的理论结果。

求解块Lasso类型问题的邻近次梯度法

Lasso问题是压缩感知,信号处理和稀疏线性回归等领域的热点问题.本文基于邻近算子提出了邻近次梯度方法来求解分块Lasso和稀疏分块Lasso类型问题.在问题的目标函数不需要强凸性的前提下证明了所提出算法的线性收敛速率并用数值实验验证了算法的效率.

单调算子理论与分裂算法

本文主要回顾了单调算子理论与分裂算法的基本概念和结果，重点介绍Forward—Backward分裂算法和Douglas-Rachford分裂算法的收敛性理论及应用．同时，也介绍了这些方法处理非凸优化问题的最新进展以及一些前沿和热点问题．最后提出了几个未来可以继续研究的方向．