大规模非负线性最小二乘问题的一个新算法

研究了求解非负线性最小二乘问题的一个新算法.首先把非负线性最小二乘转化为单调线性互补问题,然后基于牛顿方向和中心路径方向,给出了求解单调线性互补问题的一种势下降内点算法,并证明该算法经过有限次迭代之后收敛到原问题的一个最优解.数值实验表明此方法对求解大规模非负线性最小二乘问题是非常有效的.

非负线性最小二乘问题的一种严格可行内点算法

给出了非负线性最小二乘问题的一个新算法。首先,把非负线性最小二乘转化为线性互补问题,结合牛顿方向和中心路径方向,通过求解一个线性方程组得到搜索方向;进而获得了求解非负线性最小二乘问题的一种严格可行内点算法,并证明该算法经过多项式次迭代之后收敛到原问题的一个最优解,数值实验表明此方法是有效的。

基于非线性摩擦力模型和WLS-CS算法的机器人动力学参数辨识

为了实现对工业机器人的高精度控制,需要一个高精度的动力学模型,因此要对动力学参数进行精准辨识。提出一种基于非线性摩擦力模型和加权最小二乘法与布谷鸟算法(WLS-CS)结合的动力学参数辨识方法。首先通过Newton-Euler法进行机器人的动力学建模,结合非线性摩擦力模型,完成机器人全动力学模型的建模。设计5阶有限项傅里叶级数作为激励轨迹,并优化激励轨迹参数。使用加权最小二乘法对动力学参数进行初步辨识。辨识结果作为布谷鸟算法的初始解范围,结合Levy飞行与巢穴的优胜劣汰机制,寻找到动力学参数辨识的全局最优解。更换轨迹对机器人全动力学模型进行验证,计算机器人的仿真力矩,并与实验力矩反馈值进行对比。结果表明上述方法辨识的动力学参数辨识精度的残差方根(RMS)值下降8.6%,可以建立精确度较高的动力学模型。

钻井液卡森模式流变参数非线性最小二乘估计新算法

针对卡森流变方程的特点,提出了一种非线性最小二乘估计的新算法。该算法不需要人工给定迭代初始值,迭代过程稳定的收敛到参数允许区域中的唯一最小点,不会陷入极小点陷阱,存储需求量小,收敛速度快。新算法是一个全局优化算法,所得到的流变参数估计具有拟合残差近似无偏性和方差几乎为最小的特征。利用实际钻井液数据计算的实例表明,新方法具有比线性回归方法更小的拟合方差、相近的均值及优良的拟合残差统计特性。该方法可以应用到钻井液卡森流变模式流变参数的确定、钻井液流变模式优选及钻井液性能调整和评价等方面。

化学计量学非线性偏最小二乘算法进展评述

评述了偏最小二乘法 (PLS)近年来非线性化的进展以及重要算法的原理、特性和应用。一类是对自变量进行非线性前处理的方法 ,包括二次变换、Chebychev变换和基于机理的变换 ;另一类是基于内部非线性映射的PLS ,主要有多项式映射、样条函数映射、由遗传算法辅助实施的任意非线性映射和神经网络映射 ;介绍了具有类似功能的正交网模型。本文还就算法的普适性、稳健性和简易性 ,及其非线性化的演变进程予以评述。

基于遗传算法的广义非线性最小二乘测量平差

为了解决当前“数字地球”、“数字国家”、“数字城市”、“数字矿山”等数字化工程中广泛出现的具有多源、多维、多类型、多精度、动态和非线性等特点的测量数据的误差处理问题,本文采用了一类基于自然界生物进化基本法则而发展起来的新算法——遗传算法,在提出、设计基于遗传算法的广义非线性最小二乘参数平差方法的同时,给出了遗传算子中选择、交叉、变异算子的设计,以及具体的算法步骤。通过实例计算表明,该遗传算法是进行广义非线性最小二乘参数估计的具有全局最优化的有效方法,为广义非线性测量数据处理提供了又一新的思路。

非线性最小二乘估计的遗传算法

探讨了用遗传算法进行非线性模型参数估计的可能性,设计了非线性最小二乘估计的遗传算法,并用实例验证了该算法的有效性。通过比较该算法与其它算法的结果,得出了一些具有参考价值的结论。

两种新的有效的非线性系统最小二乘辨识算法

提出了两种新的有效的最小二乘算法——改进的双对角化最小二乘算法ＭＢＬＳ－Ⅰ与ＭＢＬＳ－Ⅱ．在存在舍入误差的条件下，证明了算法的收敛性．该算法具有几乎不受舍人误差影响的优点，优于一般常用的最小二乘算法，包括数值性态极佳的ＳＶＤ算法．同时，基于该算法及ＳＶＤ算法，构造出了一种新的ＮＡＲＭＡＸ模型结构与参数辨识的一体化算法．仿真结果证明了此新算法的优越性．

基于非线性最小二乘的电容层析成像图像重建算法

针对电容层析成像技术中的'软场'效应和病态问题,提出了基于非线性最小二乘算法的新电容层析成像(ECT)算法。在分析非线性最小二乘问题残量原理的基础上,给出了目标函数中二阶信息项的割线近似的校正公式,并利用Lipschitz空间连续的性质对非线性最小二乘算法的收敛性进行了证明,在此基础上探讨了ECT应用该算法的可行性。该算法满足收敛条件且重建图像误差小。仿真和实验结果表明,与LBP、Landweber和共轭梯度算法相比,对于简单流型该算法兼备成像质量高、边界均匀稳定等优点,该算法的提出为ECT图像重建算法的研究提供了一个新的思路。

一种全最小二乘算法及其在非线性滤波器中的应用

针对输入输出观测数据均含有噪声的滤波问题,提出了一种稳定的总体最小二乘自适应算法。该算法以系统的增广权向量的瑞利商(RQ)与对增广权向量的最后元素的约束的和作为总损失函数,利用梯度最陡下降原理导出权向量的自适应迭代算法,并将该算法应用于非线性Volterra滤波器。研究了算法的稳定性能,提出的算法不仅有良好的收敛性能,而且在权向量的自适应迭代时不需要标准化处理,使得算法的实施更为简单。仿真实验表明,无论在线性系统或非线性系统,本文算法的收敛性能,鲁棒抗噪性能和稳态收敛精度明显高于其它同类总体最小二乘算法。

基于最小二乘算法及神经网络的非线性离散系统的自适应控制

针对有关文献所设计的控制律 ,在一较弱的条件下 ,去掉了符号运算部分 ,证明该控制律可避免“零除”问题 ,提高了运算速度。对于这种基于神经网络和 L S算法的自适应控制问题 ,证明了系统状态落入一紧集中 ,闭环系统的所有信号都是有界的 ,且系统输出和参考输出之间的跟踪误差收敛于以零为原点的某一有界球中。

复指数信号模型非线性最小二乘解的几何结构及迭代算法

本文给出了复指数信号模型非线性最小二乘解的几何结构 .从分析迭代算法的收敛性态入手得到解的几何结构 ,将有助于构造十分有效的迭代算法 .另外 ,本文在低信噪比 (10dB)及较小频率差 (0 0 2Hz)的情况下 。

基于多群体遗传算法的非线性最小二乘估计

由于非线性模型参数估计理论广泛使用的传统牛顿类算法对初值的敏感性,以及简单遗传算法易陷入局部最优的问题,提出了一种多群体遗传算法,它采用多个群体执行遗传算法搜索解,并且能根据各个群体在较少迭代次数中找到的最优解动态调整参数域,提高了遗传算法的性能及搜索到的解是全局最优解的可靠性.实验结果表明:新的算法是一种有效的非线性系统模型参数估计方法.

改进的非线性最小二乘算法训练多层前馈神经网络

本文通过在普通非线性最小二乘算法的准则函数中加一个正则项，推导出一种改进的非线性最小二乘算法，包括算法的批处理形式和递推形式．使用该算法的递推形式训练多层前馈神经网络能克服病态、减少计算量和内存占用量．文中给出的仿真结果说明该算法具有比常用的ＢＰ算法更好的收敛性能．

纳米颗粒粒径测量的非负最小二乘法算法分析及改进

介绍用于光子相关光谱法颗粒粒径分布计算中的非负最小二乘法,并对其进行改进,增加自动搜索反演范围功能。通过数值模拟分析,比较了在无噪声和多种噪声水平影响下非负最小二乘法和自动搜索反演范围的最小二乘法对单分散和双分散颗粒系的反演结果。研究表明:自动搜索反演范围的最小二乘法用于颗粒粒径的计算能获得更加准确的结果。

基于改进同伦算法的非线性最小二乘平差

为了寻求一种更有效的非线性最小二乘平差算法,根据同伦思想提出了一种改进的同伦算法.该算法直接从非线性方程入手,将非线性最小二乘平差准则转化为同伦最小二乘平差准则;根据最优化问题的极值条件,将同伦最小二乘平差准则转化为求解非线性方程组的不动点同伦问题;在L i-Yorke算法的基础上,对切向量及步长求解进行改进,并用于求解微分方程初值问题,进而跟踪同伦曲线.对改进同伦算法的收敛性进行了分析,并采用M atlab语言编程进行了试验.结果表明,较之牛顿迭代法和L i-Yorke算法,改进同伦算法是一种结果稳定、精度较高、速度较快和收敛域扩大的整体收敛方法.

基于遗传算法的维修时间分布参数非线性最小二乘估计

维修时间分布参数估计是维修性验证与评定的一项重要工作。本文针对指数分布与对数正态分布两类常见的维修时间分布函数,给出不同参数编码区间的确定方法,以维修度函数的经验分布与含有待估计参数的维修度函数之间的误差最小为优化目标,提出了基于遗传算法的维修时间分布参数非线性最小二乘估计方法。分别结合服从指数分布与对数正态分布的维修时间样本给出了验证实例,结果表明本文方法精度在多数情况下要高于极大似然估计。

基于遗传算法的非线性最小二乘在纯方位系统中的应用

鉴于非线性最小二乘法在国内目标运动分析中应用较少的现状,研究了纯方位系统的非线性最小二乘解法,提出了遗传算法的求解方法。结合实际问题设计了具体的遗传算法,并用实例进行了仿真分析。通过仿真结果的比较,可以看出用遗传算法的非线性最小二乘法明显优于线性方法,也优于非线性方法的梯度解法。

基于前向神经网络的非线性时变系统辨识的改进递推最小二乘算法

标准的递推最小二乘算法随着递推次数的增加,增益矩阵将逐渐趋于零,致使递推算法慢慢失去修正能力,出现所谓的"数据饱和"现象。为了克服"数据饱和"问题,首先对递推最小二乘算法进行改进,得到了改进的最小二乘算法(IRLS),并给出了收敛性证明,然后将该算法应用于基于前向神经网络的非线性时变系统辨识。通过对两个非线性时变系统进行有效验证,仿真结果表明本文算法计算精度高、计算速度快、数值稳定性好,并能有效克服"数据饱和"。

非线性系统辨识的改进双对角化最小二乘算法

本文提出了一种新的有效的非线性系统最小二采辨识算法─—改进的双对角化最小二乘（MBLS）算法，在存在合入误差的条件下，给出了算法的收敛性证明。事实上，算法的收敛性几乎不受舍入误差的影响，算法是大范围数值稳定的，仿真结果说明了新算法的有效性。