非线性约束优化的一个共轭投影梯度法及其全局收敛

针对非线性等式和不等式约束优化问题,结合罚函数法,提出一个共轭投影梯度法,并证明该方法的全局收敛性,给出有效的数值实验.

凸约束非线性方程组的杂交修正HS-FR共轭梯度解法

为改善求解凸约束非线性方程组的运算效率,基于共轭梯度算法和非线性方程组的基础研究,受凸组合技术和杂交思想的启发,采用修正HS(Hestenes-Stiefel)和FR(Fletcher-Reeves)共轭梯度参数的凸组合方法,构建了新的杂交共轭参数.证明了搜索方向具有充分下降性与信赖域性质.在适当的假设条件下,新算法的全局收敛性质.数值试验结果验证了新算法在求解大规模凸约束优化问题时的高效性与可行性.

非线性无约束优化问题的新共轭梯度法

在DY共轭梯度法的基础上,给出一个新的共轭梯度法公式,在精确线搜索下该公式等价于DY公式.建立了基于新参数公式并采用Wolfe线搜索的共轭梯度算法,证明了算法满足下降性和具有全局收敛性,初步的数值实验结果表明该方法是有效的,适合于求解非线性无约束优化问题.

一个求解非线性不等式约束优化问题的带有共轭梯度参数的广义梯度投影算法(英文)

本文提出一个求解非线性不等式约束优化问题的带有共轭梯度参数的广义梯度投影算法.算法中的共轭梯度参数是很容易得到的,且算法的初始点可以任意选取.而且,由于算法仅使用前一步搜索方向的信息,因而减少了计算量.在较弱条件下得到了算法的全局收敛性.数值结果表明算法是有效的.

求解非线性等式约束优化问题的共轭梯度投影算法

利用投影矩阵,对求解无约束规划的共轭梯度算法中的参数βk给一限制条件确定βk的取值范围,以保证得到目标函数的共轭梯度投影下降方向,建立了求解非线性等式约束优化问题的共轭梯度投影算法,并证明了算法的收敛性。数值例子表明算法是有效的。

无约束非线性优化问题的混合LS-CD谱共轭梯度法

为寻求收敛性质和数值表现具佳的无约束优化算法,利用共轭梯度法和含有两个方向调控参数的谱共轭梯度法,结合LS方法与CD方法给出混合的共轭参数和相应的谱参数,建立采用标准Wolfe线搜索的谱共轭梯度算法,证明了算法满足下降性和全局收敛性,数值试验显示算法是有效的,适合于求解大型无约束非线性优化问题.研究结果表明:谱共轭梯度法两个参数的适当构造有利于降低算法的收敛条件,增强算法的适用性.

解带线性或非线性约束最优化问题的结合共轭梯度参数的记忆梯度Rosen投影算法

对于求解无约束规划的记忆梯度算法中的参数,作者利用Rosen投影矩阵给出了一个条件以确定其取值范围,使其在取值范围内取值均能得到目标函数的记忆梯度Rosen投影下降方向,从而建立了求解带线性或非线性约束最优化问题的记忆梯度Rosen投影算法.然后在较弱条件下证明了算法的收敛性,同时给出了具有好的收敛性质和较快收敛速度的结合FR,PR,HS共轭梯度参数的记忆梯度Rosen投影算法,从而将经典的共轭梯度法推广用于求解约束规划问题.由于算法需要较小的存储,算法适合于大规模问题的计算.数值例子表明算法是有效的.

求解非线性无约束优化问题的新共轭梯度算法

提出一类新的解无约束优化问题的共轭梯度法,将搜索方向由满足一个共轭条件变为满足多个共轭条件,从而充分利用前面迭代点信息;证明了新算法的全局收敛性。实验结果表明,新算法在求解非线性无约束优化问题具有一定研究价值。

一个修正的非线性三项PRP共轭梯度算法

基于共轭梯度法迭代简单、计算高效的优势,提出一种修正三项PRP共轭梯度算法。该算法满足充分下降性,对非凸优化问题具有全局收敛性和R-线性收敛性。在无约束优化问题、马斯京根模型参数估计和图像复原问题的数值实验结果表明,该算法都具有更好性能。

种求解非线性无约束优化问题的充分下降的共轭梯度法

共轭梯度法是一类具有广泛应用的求解大规模无约束优化问题的方法.提出了一种新的非线性共轭梯度(CG)法,理论分析显示新算法在多种线搜索条件下具有充分下降性.进一步证明了新CG算法的全局收敛性定理.最后,进行了大量数值实验,其结果表明与传统的几类CG方法相比,新算法具有更为高效的计算性能.

求解非线性方程组的修正Fletcher-Reeves共轭梯度法

针对非线性方程组求解问题,本文在经典的Fletcher-Reeves(FR)共轭梯度法的基础上提出一个新的搜索方向公式,结合超平面投影技术和线搜索技术设计一种修正的FR算法.该算法不依赖任何线搜索满足充分下降条件,搜索方向具有信赖域性质,在常规假设条件下全局收敛.初步的数值实验表明,对选定的测试问题,修正的FR算法比经典FR算法更有效.

一种近似BFGS的自适应双参数共轭梯度法

为了更加有效的求解大规模无约束优化问题,本文基于自调比无记忆BFGS拟牛顿法,提出一个自适应双参数共轭梯度法,设计的搜索方向满足充分下降性,在一般假设和标准Wolfe线搜索准则下,证明该方法具有全局收敛性,数值实验结果证明提出的新算法是有效的.

基于非线性共轭梯度法的混沌微粒群优化算法

为了寻找多峰函数的全部极值点,提出一种基于非线性共轭梯度法的混沌微粒群算法。该算法引入混沌序列设置微粒群位置以提高种群的多样性;然后使用改进的微粒群认知模型对可行域内的所有极值点进行全局搜索;最后利用非线性共轭梯度法对混沌微粒群算法搜索到的较优解进行局部搜索以提高解的精度。仿真实验表明,该算法能准确、快速地找到连续可微多峰函数的全部极值点。

线性约束最优化的一个共轭投影梯度法

本文结合共轭梯度法及梯度投影法的思想,建立线性等式约束最优化的一个新算法,称之为共轭投影梯度法。分别对二次凸目标函数和一般目标函数分析和论证了算法的重要性质和收敛性。

线性约束优化问题的共轭梯度型算法及其收敛性

将共轭梯度法与广义投影技术相结合 ,给出了一个求解带线性等式、不等式约束优化问题的共轭梯度型算法 ,证明了算法的性质及全局收敛性 ,首次将共轭梯度法推广应用于求解带约束条件的优化问题 .

无约束非线性规划的共轭梯度法研究综述

共轭梯度法是50多年来算法研究的热点课题,它最初是基于求解对称正定线性方程组提出的,随后推广到求解非线性无约束优化问题。现在,它已经成为数值最优化领域的一类重要方法,具有所需存储量小、局部和全局收敛性好的特性。综述了求解无约束非线性规划问题的共轭梯度法,总结了它近年来的研究状况,展望了未来的发展趋势。

解带非线性等式和不等式约束优化问题的超记忆梯度广义投影算法

利用广义投影技术 ,将求解无约束规划的超记忆梯度算法推广 ,建立了求解带非线性等式和不等式约束优化问题的一种超记忆梯度广义投影算法 ,并证明了算法的收敛性。该算法具有稳定、计算量小、所需收敛条件弱、收敛性强等特点 ,并改进了广义梯度投影算法的收敛速度。数值算例表明该算法是有效的。

求解大规模非线性单调方程组的共轭梯度算法

基于经典PRP(Polak-Ribière-Polyak)算法,设计一个具有充分下降性和信赖域性质的搜索方向,采用投影技术及经典单调线搜索,提出一种求解大规模非线性单调方程组的修正共轭梯度算法.在常规条件下,新算法具有全局收敛性.初步的数值实验结果表明:新算法比经典PRP算法和3项PRP算法效率更优,鲁棒性更好,适合求解大规模非线性单调方程组.

非线性方程组解法在梯度投影约束最优化问题中的应用

为解决自适应学习算法的寻优能力较差的问题,分析非线性方程组解法在梯度投影约束最优化问题中的应用.首先,构建一类具有齐次特征解的非线性方程组解,采用双曲波动特征分析方法对非线性方程组解的最优化求解,建立非线性方程组解的最优解向量分析问题;然后,采用最大特征分解方法分析非线性方程组解的扰动性,并分析梯度投影约束最优化问题,结合梯度投影约束寻优方法对非线性方程组解空间拟合.最后,实现非线性方程组解法优化和梯度投影约束最优化.分析得知非线性方程组解法在梯度投影约束最优化寻优中具有收敛性和稳定性特征.该方法具有很好的特征优化能力.

非线性约束条件下的共轭投影梯度法

针对非线性等式和不等式约束优化问题,结合罚函数法,提出了一个共轭投影梯度法.在适当的假设条件下,证明了该方法的全局收敛性.由于使用了目标函数的二阶导数信息,该算法的超线性收敛速度也能得到保证.数值结果表明,该算法是有效的.