非线性方程组的BFS秩2拟Newton方法及其在MATLAB中的实现

对于非线性方程组F(x)=0,Newton迭代公式x(k+1)=x(k)-[F′(x(k))]-1F(x(k)),(k=0,1,2,…)形式简单且超线性收敛,但它对初值依赖性强且每次迭代都需要计算Jacobi矩阵及其逆矩阵,大计算量易导致误差累积传播.通过对Newton迭代公式的改进,得到BFS秩2拟Newton方法,通过一具体例子,在收敛速度上与逆Broyden秩1方法进行比较,特定条件下,BFS秩2方法比逆Broyden秩1方法收敛速度快,在MATLAB7.5环境中验证了BFS秩2方法是数值稳定的.

非线性方程组的逆Broyden秩1拟Newton方法及其在MATLAB中的实现

对于非线性方程组F(x)=0,Newton迭代公式x(k+1)=x(k)-[F′(x(k))]-1F(x(k))(k=0,1,2,…)的最大优点在于其形式简单且是超线性收敛的,而最大的缺点在于对初值依赖性强且每一次迭代均需要计算Jacobi矩阵及其逆矩阵,计算量大,易导致误差累积传播.通过对Newton迭代公式的逐步改进,展现了逆Broy-den秩1拟Newton方法的形成过程,并以一具体例子,实现该方法在MATLAB7.5环境中的数值求解过程.

在新条件下拟Newton迭代方法的收敛性

该文给出了在Banach空间中求解非线性方程拟Newton迭代方法的新条件,及在新条件下拟Newton迭代方法的收敛性.

改进的OWL-QN方法解稀疏logistic回归问题

稀疏logistic回归,是机器学习中一类重要的问题,它在控制论、管理科学和互联网等领域有着广泛的应用.本文提出了一种改进的基于分象限学习的拟Newton算法来求解稀疏logistic回归问题.新算法采用著名的Barzilai-Borwein步长策略自适应地近似代替目标函数的Hesse阵,并利用目标函数的整体梯度信息来构造拟Newton向量.在适当的条件下,证明了新算法的全局收敛性.数值实验表明新算法是可行的,并且是有效的.

δ^2-加速的Broyden计算格式

本文对于求解非线性方程组 F (x) =0的 Broyden秩 1第二种方法的计算格式进行修正 ,在算法实现过程中使用了δ2 -加速技巧 ,从而大大提高了算法的收敛速度 .