一类Armijo搜索下新的共轭梯度法及其全局收敛性

为有效求解大规模无约束优化问题,提出了一类新的混合共轭梯度法.该方法在每步迭代中都不依赖于函数的凸性和搜索条件而自行产生充分下降方向.在适当的条件下,获证了在Armijo搜索下,即使求解非凸函数极小化的问题,算法也具有全局收敛性.同时,数值实验表明所提算法可以有效求解优化测试问题.

Armijo线性搜索下Hager-Zhang共轭梯度法的全局收敛性

Hager和Zhang提出了一种新的非线性共轭梯度法(简称HZ方法),并证明了该方法在Wolfe搜索和Goldstein搜索下求解强凸问题的全局收敛性.但是HZ方法在标准Armijo搜索下求解非凸问题是否全局收敛尚不清楚.该文提出了一种保守的HZ共轭梯度法,并且证明了这种方法在Armijo线性搜索下求解非凸优化问题的全局收敛性.此外,作者给出了一些数值结果以检验该方法的有效性.

结合广义Armijo步长搜索的一类新的共轭度算法及其收敛特征

对求解无约束规划的共轭梯度算法中共轭梯度方向中的参数给了一个假设条件,从而确定它的一个取值范围,使其在此范围内取值均能保证共轭梯度方向是目标函数的充分下降方向,提出了一类新的共轭梯度算法,在去掉迭代点列有界和广义Armijo步长搜索下讨论了算法的全局收敛性。同时给出了具有好的收敛性质和较快收敛速度的FR,PR,HS共轭梯度法的修正形式。数值例子表明新算法比Armijo搜索下的FR,PR,HS共轭梯算法更稳定更有效。算法需要较小的存储,特别适于求解大规模无约束最优化问题。

黎曼流形上带Armijo步长准则优化算法

研究求解 Riemann流形上优化问题的带 Armijo步长准则时的一般情形下降算法 .给出了算法描述、算法的收敛性、收敛速度分析 。

一类Armijo搜索下的混合HS-PRP共轭梯度法

为有效求解大规模无约束优化问题,本文基于HS方法和PRP方法,提出了一类新的混合共轭梯度法.该方法在每步迭代中都不依赖于函数的凸性和搜索条件而自行产生充分下降方向.在精确搜索下,本文算法将还原为标准的PRP方法.在适当的条件下,获证了该法在Armijo搜索下,即使求解非凸函数极小化的问题,算法也具有全局收敛性.同时,数值实验表明本文算法可以有效求解优化测试问题.

Armijo型线搜索下的三项共轭梯度法

基于无记忆BFGS拟牛顿法结构,给出一个LS型的三项共轭梯度法,证明了该方法在Armijo型线搜索下对非凸函数具有全局收敛性,对二阶连续一致凸函数具有至少R-线性收敛速率.初步的数值实验表明该方法是有效的.

基于Armijo准则的自适应稳定转换法

结构可靠度分析是结构不确定性设计的关键环节,计算效率和鲁棒性是评估可靠度分析算法性能的两个重要指标。首先针对两个已有的一次二阶矩算法(iHL-RF算法和方向性稳定转化法)进行分析,发现iHL-RF算法根据Armijo准则可以自适应调整迭代步长,但计算效率低;方向性稳定转化法根据振荡的方向性可以提高计算效率,但自适应性差。结合两种算法的优点,将Armijo准则用于自适应调整方向性稳定转化法的混沌控制因子,提出了基于Armijo准则的自适应稳定转换法。通过四个非线性算例将本文提出的算法与HL-RF、iHL-RF、混沌控制法以及方向性稳定转换法等四种算法的收敛性和计算效率进行比较。结果表明,相比其他四种可靠度分析算法,本文算法在求解二维和多维非线性极限状态函数时均具有更好的收敛性和更高的计算效率。

新Armijo线搜索下的PRP共轭梯度法及其收敛性分析

优化算法研究,主要工作是给迭代点寻求可接受且有效的步长及可行的下降方向.在求解大规模无约束优化问题时,共轭梯度法被广泛应用.其中, Polak-Ribiere-Polyak方法 (简称:PRP方法)是众多共轭梯度法中数值表现相对较好的,但它在许多线搜索下并不具备全局收敛性,如何发挥PRP方法数值优良,而克服其收敛性差,是学者们致力探索的热点课题.本文提出新的PRP参数公式,并对Armijo线搜索方法进行修正,建立了新Armijo线搜索下的PRP共轭梯度算法,证明算法满足充分下降条件,并证明算法在适当条件下具有全局收敛性.

结合Armijo步长搜索的一类新记忆梯度算法及其收敛特征

对于求解无约束规划的共轭梯度算法中的共轭梯度方向参数 ,给定一个假设条件 ,确定它的一个取值范围 ,以保证搜索方向是目标函数的充分下降方向 ,由此提出了一类新的记忆梯度算法。在去掉迭代点列有界和Armijo步长搜索下 ,讨论了算法的全局收敛性 ,同时给出了结合FR、PR、HS共轭梯度算法的修正形式。数值实验表明 ,新算法比Armijo步长搜索下的FR、PR、HS共轭梯度法更稳定、更有效。

一类共轭梯度法在非单调Armijo型线搜索下的全局收敛性

在Armijo型线搜索的基础上提出两种非单调Armijo型线搜索,研究了一类在非单调Armijo型线搜索下的无约束优化问题的共轭梯度算法,证明了其全局收敛性。

一类基于Armijo线搜索的新的谱共轭梯度法

为了构造具有更好收敛性的谱共轭梯度法,根据已有的共轭系数β~*_k和β■,构造了一个新的共轭系数β■,从而给出了一个新的谱共轭梯度法。经过选取适当的谱系数,保证新方法在每次迭代时总能产生充分下降的搜索方向。该性质具有既不依赖所使用的线搜索,又不依赖目标函数凸性的优点。利用Armijo线搜索,在一般假设条件下,给出了该方法全局收敛性的证明。

Armijo线搜索下谱共轭梯度法全局收敛的一个充分条件

在一般假设下,提出并证明了Armijo线搜索下谱共轭梯度法全局收敛的一个充分条件,分析了充分条件的优越性。分析结果表明:1)该充分条件的一个推论是文献[9]中定理1弱化后的结果;2)谱参数对谱共轭梯度法的全局收敛性起着重要的调节作用;3)该充分条件为构造全局收敛的谱共轭梯度法提供了依据。

两类Armijo-type线搜索下的PRP新算法

给出了新的PRP算法,该算法具有充分下降性和在无需任何线搜索的情况下自动保持搜索方向在可行域的特性,而且该算法在非凸函数和一致凸函数上具有全局收敛性,最后证明了新算法的线性收敛速度.

结合广义Armijo步长搜索的一类记忆梯度算法及其收敛特征

本文对求解无约束规划的超记忆梯度算法中线搜索方向中的参数,给了一个假设条件,从而确定了它的一个新的取值范围,保证了搜索方向是目标函数的充分下降方向,由此提出了一类新的记忆梯度算法.并在去掉迭代点列有界和广义Armijo步长搜索下,讨论了算法的全局收敛性,且给出了结合形如共轭梯度法FR,PR,HS的记忆梯度法的修正形式.数值实验表明,新算法比Armijo线搜索下的FR,PR,HS共轭梯度法和超记忆梯度法更稳定、更有效.

Armijo型线搜索下一种共轭梯度法的收敛性

对无约束非线性规划问题,本文分别在两种不同的Armijo型线搜索下证明了Liu-Storey共轭梯度法的所有搜索方向都是充分下降的,并进一步证明了该算法是全局强收敛的。对另一种放松了函数值下降条件可以获得更大步长的Armijo型线搜索,本文还证明了该算法是全局强收敛的。

一类Armijo搜索下的记忆梯度法及其全局收敛性

通过构造新的kβ,提出了一种新的无约束优化问题的记忆梯度算法,同时在Armijo线搜索下分析了该算法的全局收敛性,数值实验表明了新算法的有效性。

广义Armijo步长搜索下的梯度算法的收敛特征

:对无约束规划 (P) :minx∈Rnf(x) ,其中 ,f(x)是Rn→R1上的一阶连续可微函数 ,在去掉迭代点列 {xk}有界和广义Armijo步长搜索下 ,讨论了梯度算法的全局收敛性 ,证明了算法具有较强的收敛性质。

结合广义Armijo步长搜索的带误差项的记忆梯度算法

对非线性无约束规划提出了结合广义Armijo步长搜索规则的一类带误差项的记忆梯度求解算法,在目标函数梯度一致连续的条件下,证明了算法的全局收敛性,同时给出带误差项的结合拟-Newton方程的记忆梯度算法。数值结果表明算法是有效的。

结合Armijo步长搜索的新三项共轭梯度算法及其收敛特征

对求解无约束优化问题提出了一类新的三项共轭梯度求解算法,在去掉迭代点列{xk}有界和Armijo步长搜索下,讨论了算法的全局收敛性.同时给出结合FR、PR、HS共轭梯度参数的三项共轭梯度算法.数值算例表明新算法比Armijo步长搜索下的FR、PR、HS共轭梯度算法有效.

结合广义Armijo步长搜索的一类记忆梯度算法

给定记忆梯度算法搜索方向中的参数一个假设条件,从而确定它的一个取值范围,使其在此范围内取值均能得到目标函数的充分下降方向,由此提出一类新的记忆梯度算法.在去掉迭代点列有界和广义Arm ijo步长搜索下,讨论了算法的全局收敛性,且给出了结合形如共轭梯度法FR,PR,HS的记忆梯度法的修正形式.数值实验表明,新算法比Arm ijo线搜索下的共轭梯度法FR、PR、HS和记忆梯度法更稳定、更有效.