求解非线性最小二乘问题的迭代法

基于解线性方程组的Jacobi迭代法的思想 ,本文提出了一种求解非线性最小二乘问题的迭代法 ,大量的数值试验表明该迭代法具有较好的收敛性 另外 。

大规模非负线性最小二乘问题的一个新算法

研究了求解非负线性最小二乘问题的一个新算法.首先把非负线性最小二乘转化为单调线性互补问题,然后基于牛顿方向和中心路径方向,给出了求解单调线性互补问题的一种势下降内点算法,并证明该算法经过有限次迭代之后收敛到原问题的一个最优解.数值实验表明此方法对求解大规模非负线性最小二乘问题是非常有效的.

非线性最小二乘问题的不适定性及算法研究

非线性模型广泛存在于测量平差、变形监测及路面模量反算领域中。诸如导线测量中以待定点坐标为未知参数的角度观测方程和边长观测方程，它们都是待定点坐标的非线性函数；GPS伪距测量中，卫星至测站的几何距离的观测方程是测站点待定坐标的非线性函数；路基沉降变形分析与预测模型中，沉降量是关于时间的非线性函数；路面模量反算的模型也是非线性函数等。

不适定非线性最小二乘问题的正则化同伦法及其应用

构造一个正则同伦函数来解算Jacob ian矩阵秩亏或者严重病态的不适定非线性最小二乘问题;建立不适定非线性最小二乘的正则同伦迭代格式,提出以残差平方和值大小为判断准则的两种正则参数选取的新策略:直接搜索法和区间划分法。对经典的非线性最小二乘问题进行解算,结果表明该方法是适用的;非线性秩亏自由网平差算例表明,正则同伦法不仅可以降低迭代矩阵的条件数,而且使得整个迭代过程中条件数波动较小,并可得到稳定的较小范数解。

亏秩线性最小二乘问题的AOR迭代法的半收敛性

本文研究了找不相容线性方程组Ax=b的极小范数最小二乘解x=A+b的AOR迭代法.利用广义逆矩阵的知识,我们给出了AOR法的迭代阵Lr,ω半收敛的充分必要条件,并且给出了文[8]与[9]中几个主要定理的较简单的证明.

非线性最小二乘问题的一种正则同伦迭代解法

当非线性最小二乘问题的数值迭代解算方法其Jacobian矩阵是秩亏或者严重病态时,诸多方法如高斯-牛顿法、修正高斯-牛顿法等将会失效。本文结合同伦延拓和正则化方法,构造了正则同伦函数min(α‖f(x)-L‖2+(1-α)‖x-x0‖2)来解算Jacobian矩阵是秩亏或者严重病态的非线性最小二乘问题。采用将f(x)线性化的策略,建立了非线性最小二乘问题正则同伦方法迭代公式,对其迭代过程进行了详细的推导,给出了其连续性和收敛性的条件。对两个非线性最小二乘问题和一个非线性秩亏自由网平差实例进行了解算,结果表明本文所提出方法是正确和适用的。

非负线性最小二乘问题与线性互补问题及不动点问题的等价性

通过Taylor公式建立了非负线性最小二乘问题和线性互补问题之间的等价性,然后,利用这种等价性,把求解非负线性最小二乘问题转化为求解不动点问题中的两个不动点方程.

非负线性最小二乘问题的一种严格可行内点算法

给出了非负线性最小二乘问题的一个新算法。首先,把非负线性最小二乘转化为线性互补问题,结合牛顿方向和中心路径方向,通过求解一个线性方程组得到搜索方向;进而获得了求解非负线性最小二乘问题的一种严格可行内点算法,并证明该算法经过多项式次迭代之后收敛到原问题的一个最优解,数值实验表明此方法是有效的。

投影方法在线性最小二乘问题中的应用

采用正交投影方法推导了最小二乘问题的法方程。首先求出了到最小二乘问题系统矩阵的列空间的正交投影矩阵,然后根据正交投影的性质求出了最小二乘问题的解。该方法可以迁移到带有权重的最小二乘问题。

非线性最小二乘问题的修正拟牛顿法

给出了求解非线性最小二乘的修正拟牛顿方法。该方法结合了非单调搜索技术和结构化拟牛顿法的思想,提出了一种新的求解非线性最小二乘的修正拟牛顿法,并证明了该方法的全局收敛性。

求解大型线性最小二乘问题的贪婪Gauss-Seidel方法

基于一种选择系数矩阵A的工作列的策略,提出了求解大型线性最小二乘问题的一种不同的贪婪Gauss-Seidel方法,并对该方法进行了收敛性分析。数值实验表明,在相同的精度下,所提方法在计算时间上优于文献提出的贪婪随机坐标下降方法。

一种基于高等代数的线性最小二乘问题的解法

自从19世纪初勒让德提出线性最小二乘问题以来,诸多数学家已经就它的意义、误差分析及解法进行了广泛的研究,但基于高等代数理论的解法在许多资料上只有零散的讨论,为此提出了一种基于高等代数理论的线性最小二乘问题的解法。基于严格的证明,得到了适用于数据集为列满秩和非列满秩时的解法,并进一步推算出解集中的最优最小二乘解。实验证明该算法确实可以得到最优最小二乘解,并且在数据集属性数较少的情况下优于负梯度下降法。

解线性最小二乘问题的2个混合交替CQ算法

给出2个改进的混合交替CQ算法求解线性最小二乘问题.许多学者研究这个问题并提出了各种各样的算法去解决它.混合交替CQ算法在科学领域有着广泛的应用,它起源于相位恢复、医学图像重建、强度可调放射疗法、信号工程和X光断层摄影技术.给出2个新的算法的弱收敛性证明,作为应用考虑将其求解线性最小二乘问题.

求解非负线性最小二乘问题的改进帝企鹅算法

针对帝企鹅算法存在易陷入局部最优、收敛精度较低等问题,提出了一种改进帝企鹅算法求解非负线性最小二乘问题.算法利用变异算子增加种群多样性,防止算法陷入局部最优.同时,融入学习策略,提高算法全局搜索能力.通过对非负线性最小二乘问题实验并与其他算法比较,表明改进帝企鹅算法是可行有效的.

求解加权线性最小二乘问题的一类预处理GAOR方法

为了快速求解一类来自加权线性最小二乘问题的2×2块线性系统,本文提出一类新的预处理子用以加速GAOR方法,也就是新的预处理GAOR方法.得到了一些比较结果,这些结果表明当GAOR方法收敛时,新方法比原GAOR方法和之前的一些预处理GAOR方法有更好的收敛性.而且,数值算例也验证了新预处理子的有效性.

关于"求解加权线性最小二乘问题的一类预处理GAOR方法"一文的注记

在“求解加权线性最小二乘问题的一类预处理GAOR方法”一文中,作者提出了求解加权线性最小二乘问题等价2×2块线性系统的一类预处理GAOR方法,并给出了几个比较定理来说明新提出预处理GAOR方法的优越性.本文我们将指出该文中几个比较定理的不完善之处和证明的错误之处,并给出正确的证明.

直交投影与最小二乘问题

本文介绍一个计算直交投影的递推公式，并介绍如何用其求解线性最小二乘问题。

亏秩最小二乘问题的最优AOR方法(英文)

主要研究了求解亏秩线性最小二乘问题的AOR方法的最优参数、渐近半收敛因子及其明晰的表达形式.并给出了两个数值例子阐明结论.

解加权约束最小二乘问题的行M-不变方法

本文提出了一种新的求解加权约束线性最小二乘问题方法,即利用行M-不变矩阵得到了求解加权约束线性最小二乘的updating问题的递推方法。