一种新的截断混合谱共轭梯度法

共轭梯度法具有储存小、计算快的优点,对于解决大规模问题具有比较明显的优点.本文基于PRP类的参数类型,修正了HS参数,同时为了保证算法既有较好的数值效果,又具有FR类好的收敛性质,对此设计了一种截断混合共轭参数,在此基础上设计了新的谱共轭参数.并用强Wolfe线搜索条件证明了该算法具有全局收敛性.最后通过对CUTEr测试集里面的问题进行数值实验,结果发现该算法相比其他三类方法,具有较好的数值效果.

基于强Wolfe线搜索下的混合型谱共轭梯度法

共轭梯度法具有储存小、计算快的优点。基于PRP类的共轭参数类型,设计了一种新的具有凸组合的混合型共轭参数。该参数不仅具有FR法的良好收敛性质,而且还具有PRP类方法的良好数值结果。与此同时在新的参数基础上设计了相应的谱共轭参数。用强Wolfe线搜索条件证明了该算法是具有全局收敛性的。最后通过对CUTEr测试集里面的问题进行数值实验,结果发现该算法具有较好的数值效果。

一种WYL型谱共轭梯度法的全局收敛性

为解决大规模无约束优化问题,该文结合WYL共轭梯度法和谱共轭梯度法,给出了一种WYL型谱共轭梯度法.在不依赖于任何线搜索的条件下,该方法产生的搜索方向均满足充分下降性,且在强Wolfe线搜索下证明了该方法的全局收敛性.与WYL共轭梯度法的收敛性相比,WYL型谱共轭梯度法推广了线搜索中参数σ的取值范围.最后,相应的数值结果表明了该方法是有效的.

Wolfe线搜下改进的FR型谱共轭梯度法

谱共轭梯度法作为经典共轭梯度法的推广,它是求解大规模无约束优化问题的有效方法之一.基于标准Wolfe线搜索准则和充分下降性条件,提出了一种具有充分下降性质的FR型谱共轭梯度法.在温和的假设条件下,该算法具有全局收敛性.最后,将新算法与现存的修正FR型谱共轭梯度法进行比较,数值结果表明提出的算法是极其有效的.

一个修正的谱共轭梯度法

对无约束优化问题进行了研究,提出了一个修正的谱共轭梯度法。该算法的搜索方向是下降方向,在标准的Wolfe-Powell线搜索下具有全局收敛性,且在适当的条件下,证明了该算法具有线性收敛率。对一些标准的测试函数进行了数值实验,数值实验结果表明所提算法在算法迭代次数,函数调用次数以及程序运行时间等方面是有效的,且与相关算法相比有一定的优势。最后将该算法应用到图像去噪问题,对经典图像Lena与Camera施加了不同的噪声效果并用该算法进行图像去噪,与文献中相关算法进行了对比,通过信噪比这一指标说明该算法有良好的去噪效果。

强Wolfe线搜索下修正的全局收敛共轭梯度法

针对大规模无约束优化问题,本文提出了一个新的混合共轭梯度公式,以证明在强Wolfe线搜素的准则下以及常规假设条件下新算法的下降性和强收敛性。

无约束非线性优化问题的混合LS-CD谱共轭梯度法

为寻求收敛性质和数值表现具佳的无约束优化算法,利用共轭梯度法和含有两个方向调控参数的谱共轭梯度法,结合LS方法与CD方法给出混合的共轭参数和相应的谱参数,建立采用标准Wolfe线搜索的谱共轭梯度算法,证明了算法满足下降性和全局收敛性,数值试验显示算法是有效的,适合于求解大型无约束非线性优化问题.研究结果表明:谱共轭梯度法两个参数的适当构造有利于降低算法的收敛条件,增强算法的适用性.

一种多参数谱三项共轭梯度法

通过求解带有罚参数的优化问题设计共轭梯度法是一种新思路.基于Fatemi的优化问题求解,通过估计步长和选择合适的罚参数建立一个谱三项共轭梯度法,为证得算法的全局收敛性对谱参数进行修正.在标准Wolfe线搜索下证明了该谱三项共轭梯度算法的充分下降性以及全局收敛性.最后,在选取相同算例的多个算法测试结果中表明新方法数值试验性能表现良好.

一种新的凸组合形式的混合共轭梯度法

本文提出一种新的混合共轭梯度法来求解无约束优化问题,该方法由文献[13]简记(MHS方法)和Dai-Yuan (DY方法)作凸组合,得到新的共轭参数βkHXF,且凸组合形式下的共轭梯度法产生的搜索方向满足共轭条件,进一步证明该方法不依赖于任何线搜索而满足充分下降性.最后,在一般假设条件下,使用强wolfe线搜索,证明了新算法框架具有全局收敛性.

修正Wolfe线搜索下的一类谱共轭梯度法

在已有文献的基础上对共轭参数进行凸组合、修正谱参数,提出一种新的求解大规模无约束优化问题的谱共轭梯度法。该方法使每次迭代都自动产生一个不依赖于任何线搜索的下降方向,并在一定条件下建立了此方法的全局收敛性。

一种具有充分下降性的修正DL型谱共轭梯度法

提出了一种大规模无约束优化问题的求解方法,通过修正Dai-Liao(DL)共轭梯度法的共轭参数和谱共轭梯度法的谱参数,构造了一种修正DL型谱共轭梯度法。所选取的谱参数使得每次迭代都自动产生一个不依赖于任何线搜索的下降方向;在常规假设下,利用强Wolfe线搜索证明了此方法对一致凸函数是全局收敛的。

基于谱共轭梯度法的张量CP分解

针对张量CANDECOMP/PARAFAC(CP)分解问题,提出一种高效的求解算法。首先,将张量CP分解问题转化为无约束优化问题;其次,结合谱梯度法和非线性共轭梯度法的思想,设计了一种基于谱共轭梯度法的优化算法。数值实验结果表明,在保持相同精度的情况下,与已有的基于梯度的优化算法相比,所提算法的计算时间和计算量更少。

一类具有充分下降性的混合型谱共轭梯度法

首先基于共轭梯度法的下降性条件,提出了一类结合了FR法、WYL法、PRP法优点的充分下降的混合型谱共轭梯度法.在Wolfe线搜索下用反证法证明了新的混合型谱共轭梯度法的全局收敛性.最后通过数值算例,将本文算法与WYL法、FR法进行比较,结果表明新算法在迭代次数与迭代总时间上均优于其他另外两种算法.算法的全局收敛性和数值效果的优越性表明新算法是有效的.

一类混合CD-LS共轭梯度法的全局收敛性

为了寻找同时具有良好的收敛性和数值表现的共轭梯度法.将CD方法和LS方法结合,选用推广的Wolfe线搜索,构造出一类新的混合共轭梯度法.新的混合共轭梯度法不需要限制推广的Wolfe线搜索条件中的参数,但得到的下降性与CD法一致,具有比CD方法更好的收敛性,并具有全局收敛性.对新算法进行数值试验,通过与CD法和LS法的数值结果进行比较,表明新算法是可行的,尤其对大规模无约束优化问题.

嵌入共轭梯度法的混合粒子群优化算法

针对标准粒子群算法收敛速度慢和精度低的问题,提出了一种嵌入共轭梯度法的混合粒子群优化算法.算法有效结合了粒子群优化算法较强的全局搜索能力和共轭梯度法快速精细的局部搜索能力,在基本粒子群算法得到的最优解的基础上引入共轭梯度法,加快了算法的收敛速度,克服了基本粒子群算法收敛慢的弊端.相比于基本粒子群算法,它能够以较高精度和较快速度收敛到所求无约束优化问题的全局最优解.数值实验结果表明,所得混合算法是一种求解高维多峰连续函数无约束优化问题的高效方法.

基于共轭梯度法的函数优化混合遗传算法

综合遗传算法的全局搜索能力和共轭梯度法的局部搜索能力，提出了一种混合算法。该算法具有全局最优性和收敛性。同时，数值仿真表明算法是有效的。

最速下降法和共轭梯度的混合算法及全局收敛

将最速下降法与共轭梯度法有机结合起来,构造出一种混合优化算法,并证明其全局收敛性.这种混合优化算法结合了共轭梯度法和最速下降法产生搜索方向,既提高了共轭梯度算法的收敛速度,又解决了目标函数的等值线是扁长椭球时,最速下降法下降缓慢的问题,具有收敛速度快、收敛范围大、适应面广等特点.文中的算法实例表明,混合算法与单纯的共轭梯度法相比,效果更优.

一个新的谱共轭梯度法

谱共轭梯度法含有两个方向调控参数,是求解无约束优化问题的一类有效方法.本文给出一对参数公式以构建新的谱共轭梯度法,该方法在精确线搜索下与标准FR方法等价,在Wolfe线搜索下具有类似标准DY方法的内在性质.我们证明了采用Wolfe线搜索的新算法在每一次迭代中均产生下降方向,并且具有全局收敛性.数值实验结果表明,新算法数值稳定、有效,适合于求解大规模无约束优化问题.

一种混合的HS-FR共轭梯度算法

给出了一个混合的HS－FR共轭梯度算法，其中参数βk＝max｛0，min｝．在无充分下降性条件下，得到两个收敛性定理──定理3与定理4．其中定理3在下降条件与强Wolfe搜索准则下证明了梯度序列必有零聚点；定理4是定理3的改进，它表明在没有下降条件下定理3的结论仍然成立．

共轭梯度法和最速下降法的混合算法

将共轭梯度法与最速下降法有机地结合起来，构造了一种共轭梯度法和最速下降法的混合算法，并证明了该算法的全局收敛．混合算法既提高了共轭梯度算法的收敛速度，又解决了目标函数“性态不优”时，最速下降法难以求解的问题．同时也可以看到共轭梯度法与最速下降法仅仅是混合算法的特例．