一种基于弱拟牛顿方程的单调梯度法的收敛性

基于弱拟牛顿方程,Leong W J等人提出了一种单调梯度法,该算法在每次迭代时利用对角矩阵逼近Hessian矩阵,使计算量和存储量明显减少,并且此算法对凸函数具有收敛性。在此算法的基础上,进一步研究了算法对于一般函数的收敛性,并证明了在一定的假设条件下算法仍具有全局收敛性、R-线性收敛性和超线性收敛性。

非单调共轭梯度法的全局收敛结果

共轭梯度法主要依靠d1=-g1,dk+1=-gk+1+βkdk,k 1,其中g为目标函数f(x)的梯度,进行迭代,不同的βk会产生不同的算法.本文主要是在非单调线搜索的条件下,当βk满足σ|βk/βFRk| σ(0<σ<1,0< σ<12)时证明了其全局收敛性.

一类无约束优化问题的非单调共轭梯度法

主要研究了一类在推广的线搜索条件下的非单调共轭梯度法 ,并在较弱的假设条件下证明了其全局收敛性 .

非单调谱投影梯度法求解Toeplitz矩阵的正则化逼近

研究Toeplitz矩阵的正则化逼近问题,先利用迹函数的French导数给出目标函数的梯度,再计算任意矩阵到可行集上的投影,最后利用谱投影梯度方法求解Toeplitz矩阵的正则化逼近问题,并用数值例子验证迭代方法的可行性.

非凸优化中一种带非单调线搜索的惯性邻近算法

本文考虑一类目标函数由可微(可能非凸)函数和凸(可能非光滑)函数组成的极小化问题。惯性邻近(iPiano)算法是解决这类问题的一种有效而重要的方法。通过引入非单调线搜索,提出了非单调线搜索的iPiano (iPiano-nml)算法。通过证明说明了由iPiano-nml生成的序列的任何聚点都是一个稳定点。最后,对图像处理问题进行了数值实验来说明新算法的理论结果。