一种求解矩阵填充问题的带有BB步长的交替下降法

矩阵填充问题是将采样矩阵(仅部分元素已知)合理精确地填充成一个低秩矩阵.目前已有很多算法求解矩阵填充.其中,交替最速下降法是求解大规模矩阵填充的有效算法,但其在每一步更新中都需要计算精确步长.而非精确的BB步长具有良好的数值效果.因此提出一种带有BB步长的交替最速下降算法,并把此算法应用到随机产生的低秩矩阵填充问题中,数值实验结果显示了新算法的有效性.

求解非负矩阵分解的有效集BB梯度算法

非负矩阵分解是在非负限制下的一种将一个高维矩阵分解为两个低维矩阵的分解技术。目前,存在的算法大部分是基于乘性迭代算法和交替最小二乘算法。针对交替最小二乘算法的子问题,文中提出了一种有效集BB梯度法,且该算法是全局收敛的。实验结果显示,该算法比投影梯度算法更为有效。

求解非线性单调方程组的多元谱投影法

结合拟牛顿型算法和共轭梯度型投影法,提出一种用于求解非线性单调方程组的多元谱投影算法.因为拟牛顿型算法需要储存F的Jacobian矩阵,且需要通过求解线性方程组得到搜索方向,所以求解大型非线性单调方程组通常具有一定的局限性.因此,谱梯度法被提出,用一个数量矩阵近似F的Jacobian矩阵,以达到减少储存量,提高计算效率的目的.为了更好的近似F的Jacobian矩阵,考虑用一个对角矩阵近似F的Jacobian矩阵.文中从两个不同的角度,提出两种用对角矩阵近似F的Jacobian矩阵的方法,对应的产生两种多元谱梯度算法.

无约束最优化的信赖域BB法

梯度法是求解无约束最优化的一类重要方法．步长选取的好坏与梯度法的数值表现息息相关．注意到BB步长隐含了目标函数的二阶信息，本文将BB法与信赖域方法相结合，利用BB步长的倒数去近似目标函数的Hesse矩阵，同时利用信赖域子问题更加灵活地选取梯度法的步长，给出求解无约束最优化问题的单调和非单调信赖域BB法．在适当的假设条件下，证明了算法的全局收敛性．数值试验表明，与已有的求解无约束优化问题的BB类型的方法相比，非单调信赖域BB法中ek=｜｜xk-x＊｜｜的下降呈现更明显的阶梯状和单调性，因此收敛速度更快．

一种基于修正二次模型的近似最优梯度法

梯度法因为其迭代形式简单、所需存储量小,在大规模无约束优化问题中得到了广泛的应用.基于修正的二次近似模型,利用修正的BFGS公式,提出了一个新的近似最优步长.用两个著名的BB步长对此步长进行截断,让其保持在两个BB步长之间。在适当的假设条件下,证明了该方法的全局收敛性。数值实验表明,方法优于一些现有的梯度法.