结合广义Armijo步长搜索的一类记忆梯度算法及其收敛特征

本文对求解无约束规划的超记忆梯度算法中线搜索方向中的参数,给了一个假设条件,从而确定了它的一个新的取值范围,保证了搜索方向是目标函数的充分下降方向,由此提出了一类新的记忆梯度算法.并在去掉迭代点列有界和广义Armijo步长搜索下,讨论了算法的全局收敛性,且给出了结合形如共轭梯度法FR,PR,HS的记忆梯度法的修正形式.数值实验表明,新算法比Armijo线搜索下的FR,PR,HS共轭梯度法和超记忆梯度法更稳定、更有效.

结合广义Armijo步长搜索的一类记忆梯度算法

给定记忆梯度算法搜索方向中的参数一个假设条件,从而确定它的一个取值范围,使其在此范围内取值均能得到目标函数的充分下降方向,由此提出一类新的记忆梯度算法.在去掉迭代点列有界和广义Arm ijo步长搜索下,讨论了算法的全局收敛性,且给出了结合形如共轭梯度法FR,PR,HS的记忆梯度法的修正形式.数值实验表明,新算法比Arm ijo线搜索下的共轭梯度法FR、PR、HS和记忆梯度法更稳定、更有效.

结合广义Armijo步长搜索的一类新的共轭度算法及其收敛特征

对求解无约束规划的共轭梯度算法中共轭梯度方向中的参数给了一个假设条件,从而确定它的一个取值范围,使其在此范围内取值均能保证共轭梯度方向是目标函数的充分下降方向,提出了一类新的共轭梯度算法,在去掉迭代点列有界和广义Armijo步长搜索下讨论了算法的全局收敛性。同时给出了具有好的收敛性质和较快收敛速度的FR,PR,HS共轭梯度法的修正形式。数值例子表明新算法比Armijo搜索下的FR,PR,HS共轭梯算法更稳定更有效。算法需要较小的存储,特别适于求解大规模无约束最优化问题。

新Armijo线搜索下的PRP共轭梯度法及其收敛性分析

优化算法研究,主要工作是给迭代点寻求可接受且有效的步长及可行的下降方向.在求解大规模无约束优化问题时,共轭梯度法被广泛应用.其中, Polak-Ribiere-Polyak方法 (简称:PRP方法)是众多共轭梯度法中数值表现相对较好的,但它在许多线搜索下并不具备全局收敛性,如何发挥PRP方法数值优良,而克服其收敛性差,是学者们致力探索的热点课题.本文提出新的PRP参数公式,并对Armijo线搜索方法进行修正,建立了新Armijo线搜索下的PRP共轭梯度算法,证明算法满足充分下降条件,并证明算法在适当条件下具有全局收敛性.

Armijo型线搜索下的三项共轭梯度法

基于无记忆BFGS拟牛顿法结构,给出一个LS型的三项共轭梯度法,证明了该方法在Armijo型线搜索下对非凸函数具有全局收敛性,对二阶连续一致凸函数具有至少R-线性收敛速率.初步的数值实验表明该方法是有效的.

一类共轭梯度法在非单调Armijo型线搜索下的全局收敛性

在Armijo型线搜索的基础上提出两种非单调Armijo型线搜索,研究了一类在非单调Armijo型线搜索下的无约束优化问题的共轭梯度算法,证明了其全局收敛性。

一类基于Armijo线搜索的新的谱共轭梯度法

为了构造具有更好收敛性的谱共轭梯度法,根据已有的共轭系数β~*_k和β■,构造了一个新的共轭系数β■,从而给出了一个新的谱共轭梯度法。经过选取适当的谱系数,保证新方法在每次迭代时总能产生充分下降的搜索方向。该性质具有既不依赖所使用的线搜索,又不依赖目标函数凸性的优点。利用Armijo线搜索,在一般假设条件下,给出了该方法全局收敛性的证明。

Armijo线搜索下谱共轭梯度法全局收敛的一个充分条件

在一般假设下,提出并证明了Armijo线搜索下谱共轭梯度法全局收敛的一个充分条件,分析了充分条件的优越性。分析结果表明:1)该充分条件的一个推论是文献[9]中定理1弱化后的结果;2)谱参数对谱共轭梯度法的全局收敛性起着重要的调节作用;3)该充分条件为构造全局收敛的谱共轭梯度法提供了依据。

Armijo型线搜索下一种共轭梯度法的收敛性

对无约束非线性规划问题,本文分别在两种不同的Armijo型线搜索下证明了Liu-Storey共轭梯度法的所有搜索方向都是充分下降的,并进一步证明了该算法是全局强收敛的。对另一种放松了函数值下降条件可以获得更大步长的Armijo型线搜索,本文还证明了该算法是全局强收敛的。

广义Wolfe线搜索下一类新共轭梯度法的全局收敛性

对求解无约束最优化问题的共轭梯度法中的方向参数βk给定一个假设条件,确定其取值范围以保证搜索方向是目标函数的充分下降方向,并在较弱的条件下讨论了算法在广义Wolfe线搜索下的全局收敛性.

广义Armijo步长搜索下的梯度算法的收敛特征

:对无约束规划 (P) :minx∈Rnf(x) ,其中 ,f(x)是Rn→R1上的一阶连续可微函数 ,在去掉迭代点列 {xk}有界和广义Armijo步长搜索下 ,讨论了梯度算法的全局收敛性 ,证明了算法具有较强的收敛性质。

Armijo线搜索下一个杂交共轭梯度法及其强收敛性

讨论无约束优化问题,提出了一个新的杂交共轭梯度法公式.基于新公式,采用Armijo型线搜索条件确定步长,建立了一个杂交共轭梯度算法,在常规假设条件下证明了新算法的下降性和强收敛.

结合广义Armijo步长搜索的带误差项的记忆梯度算法

对非线性无约束规划提出了结合广义Armijo步长搜索规则的一类带误差项的记忆梯度求解算法,在目标函数梯度一致连续的条件下,证明了算法的全局收敛性,同时给出带误差项的结合拟-Newton方程的记忆梯度算法。数值结果表明算法是有效的。

广义箱子约束优化基于线性逼近子问题的显式搜索方向算法

讨论带广义箱子约束的非线性约束优化.基于Topkis-Veinott线性规划逼近法,对搜索方向子问题进行改进,产生两个新的线性逼近子问题,重要的是两个新子问题的解均能以简单的显式表达式直接给出.由此建立问题非精确线搜索算法,算法大大降低了计算量,复杂性及CPU时间.仅在目标函数连续可微的条件下,算法具有全局收敛性.对算法进行较大规模的数值试验.

Armijo型线搜索下一种修正HS共轭梯度法的全局收敛性

本文对HS算法进行了修正,在Armijo型线搜索下,该方法保证每次迭代中的搜索方向是充分下降的.在较弱的条件下,证明了此修正HS算法具有全局收敛性.最后对算法进行了数值试验,试验结果表明该算法具有良好的收敛性和有效性,尤其适合求解大规模无约束优化问题.

广义Cury线搜索下一种新共轭梯度法及其全局收敛性

本文对无约束最优化问题：ｍｉｎｆ（ｘ），ｘ∈Ｒｎ，提出一种新的共轭梯度法．该算法中参数βｋ采用一种新取法，并结合广义Ｃｕｒｙ线搜索及ｎ步重新开始策略．在关于目标函数较弱条件假设下，证明了所给算法的全局收敛性．

Armijo线搜索修正LS共轭梯度法的收敛性

基于修正LS共轭梯度法,给出合适的初始步长,使采用Armijo线搜索的迭代过程满足充分下降性.在较弱的条件下,证明算法具有全局收敛性和至少线性收敛速率.

Armijo线搜索下一个修正的PRP共轭梯度法的全局收敛性

提出一个求解大规模无约束优化的修正PRP共轭梯度算法.在每步迭代中,该算法均能自动产生一个不依赖于任何线搜索的充分下降方向且该方向具有信赖域性质.通过使用Armijo线搜索计算步长,在标准的假设条件下,证明了算法的全局收敛性.数值实验结果表明该算法是有效的.

修正的LS共轭梯度法在Armijo型线搜索下的收敛性

给出了一种修正的LS算法,该算法保证每次迭代中的搜索方向是充分下降的,并在两种不同的Armijo型线搜索下证明了该算法是全局强收敛的。

基于Armijo型线搜索下的谱共轭梯度法

在WYL共轭梯度法的基础上,提出了一种新的谱共轭梯度法,并且证明了该方法在Armijo线搜索下具有充分下降性和全局收敛性.数值试验表明该方法是有效的。