无约束优化问题的精细修正牛顿算法分析

无约束优化问题是人们在探讨优化问题的典型和基础。为了解决这一问题,这一问题被提出时,牛顿通过研究确定了一种快速收敛的方式,解决了最速下降法存在的收敛性局限问题。但与此同时,牛顿算法不能解决一般非凸函数求解中迭代点矩阵正定不定的问题。最速下降法和牛顿算法可以分别解决迭代点矩阵负定或半负定、正定的问题。在前人研究的修正牛顿算法的基础上,笔者提出对最速下降法、牛顿算法及修正牛顿算法的优势进行结合,从而获得一种精细修正牛顿算法,用以解决迭代点矩阵正定不定的问题,收效良好,可以进行全局的收敛分析。

一种可变步长的暂态稳定自适应修正牛顿组合算法

为满足日益扩大的复杂互联电网的暂态仿真需求,讨论一种基于自适应修正牛顿(Shamanskii)算法和非诚实牛顿法(very dishonest Newton method,VDHN)的可变步长暂态稳定仿真组合算法。本算法在微分代数方程组联立求解框架下,首先根据隐式梯形积分局部截断误差理论,对步长进行控制,在保证精度的条件下,减少了积分步数;其次,在每时步非线性方程组迭代求解中,考虑牛顿类算法的收敛性,引入Shamanskii算法,自适应控制雅可比矩阵的更新,并进一步应用VDHN法对迭代过程中电压向量的计算进行简化。针对多组算例进行测试,讨论该算法的有效性及局限性。计算结果表明:该算法可适应不同规模算例,在故障较严重情况下,仍可较好地提升仿真效率。

几个修正拟牛顿算法的收敛性分析

将几个拟牛顿算法推广到一类新拟牛顿方程,得到几个修正拟牛顿算法;在目标函数为一致凸的条件下,证明了它们都具有全局收敛性。

结合锥模型算法的修正多步拟牛顿法

提出一种解决维数较大的无约束优化问题的混合算法.该算法采用了一个开关用于切换修正多步拟牛顿算法和锥模型算法.结果表明,该算法既保留了拟牛顿算法的快速有效性,又将适用范围扩大到了二次模型逼近效果较差的函数,且对于大多数维数较大的函数都是切实可行的.

TDOA中的修正牛顿及泰勒级数方法

在多站无源时差定位系统模型下,泰勒级数算法和牛顿算法在较差初始值条件下容易出现迭代发散问题.针对这一问题,提出了基于修正泰勒级数法和牛顿法的时差定位算法.该方法对于较差初始值引起的病态海森矩阵,运用正则化理论中的吉洪诺夫法或衰减奇异值分解法进行修正,其中控制海森矩阵修正量的重要的正则化参数由著名的L曲线理论确定.实验结果证明:相对于原泰勒级数及牛顿算法,经过改进后的算法对于较差的初始值,具有较高的概率使迭代算法的解稳健地收敛到目标的真实位置,并拥有较强的能力移除局部最小值;相对于时差定位模型下的一些广泛应用的线性解法,也成为闭式解法,在低信噪比环境下具有更高的定位精度.

应用修正正交有限内存拟牛顿算法的全波形反演

全波形反演(FWI)通过最小化观测数据与计算数据之间的误差,得到高分辨率的地下模型参数。正则化技术常用来克服FWI的不适定性。复杂地质模型可能同时具有平滑特征及锐利边界,单一的正则化方法往往不能得到令人满意的反演结果。为此,针对带有混合正则化的目标泛函不可微性,提出一种修正正交有限内存拟牛顿方法,求解相应的正则化目标泛函。在具有复杂构造的修正Marmousi模型以及BG Compass模型上进行数值模拟试验,且与不带有正则化的全波形反演及邻近有限内存拟牛顿方法进行比较,结果表明所提修正正交有限内存拟牛顿算法在计算效率及定量分析上具有明显的优越性。

电阻抗断层成像的MPSO-MNR算法研究

基于修正粒子群算法(MPSO)和修正的牛顿-拉夫逊(MNR)算法的优点和局限,提出MPSO-MNR算法,通过对研究的平面圆形求解域采用有限元法进行剖分,电流注入采用三角电流法的园域内单个、两个仿真目标采用该算法进行电阻抗断层静态重构。采用定义的适应值函数和误差总和作为评价重构质量的物理量。数值仿真结果表明,在一定迭代次数内,提出的MPSO-MNR算法对求解域内目标位置定位准确,能够较准确反映场域内电阻率的分布。

FBMC系统中原型滤波器的迭代设计算法

基于滤波器组的多载波系统的整体性能完全由一个原型滤波器决定,例如频率选择特性、符号间干扰和信道间干扰。为构建近似完全重构的多载波系统,提出了一种迭代算法来设计原型滤波器。该算法将设计问题归结为一个无约束的优化问题,其目标函数为符号间干扰、信道间干扰以及原型滤波器阻带能量的加权和。通过推导目标函数的梯度向量和海森矩阵,采用修正牛顿算法来迭代优化原型滤波器,每次迭代更新中,原型滤波器都是通过闭合公式求解,因此算法的计算复杂度很低。仿真实验表明,与已有的设计算法相比,所提出的算法提高了系统的整体性能。

MNR图像重建算法中正则化因子研究

为了提高电阻层析成像图像重建算法求解逆问题精度,对修正牛顿-拉夫逊算法中正则化因子进行了研究。借鉴改进粒子群算法中惯性权重递减策略,根据算法迭代过程中成像精度,自动更新正则化因子的最大值,提出一种新的改进牛顿-拉夫逊图像重建算法,应用于两相流典型流型——层状流、泡状流、环状流、中心流及复合流型图像重建。仿真实验结果表明,相同实验条件下,相比迭代线性反投影算法、修正牛顿-拉夫逊算法,新算法有效提高了图像重建精度。

基于压缩感知的欠定源信号恢复算法比较

构建了基于压缩感知的欠定盲源分离源信号恢复模型,比较研究了基于互补匹配追踪算法(CMP)、基于L1范数的互补匹配追踪算法(L1CMP)和基于修正牛顿的径向基函数算法(NRASR)实现欠定源信号恢复的应用效果。结果表明:源信号时域充分稀疏情况下,CMP,L1CMP和NRASR的恢复效果接近,但L1CMP算法计算复杂度最低;变换域充分稀疏情况下,CMP和L1CMP恢复效果接近,NRASR恢复效果较差;时域非充分稀疏情况下,CMP效果较差,L1CMP和NRASR效果接近。综合考虑,L1CMP算法效果最佳;在观测信号数和源数较少的情况下,算法在时域恢复信号精度会下降;稀疏表示法结合压缩感知重构能够提高源信号恢复的效果。

一种基于多项式逻辑回归高光谱影像分类方法的改进

针对多项式逻辑回归分类器在参数寻优过程中精度提升不明显和运行速度缓慢的问题,提出一种利用DFP修正拟牛顿算法进行多项式逻辑回归参数求解的方法来提高多项式逻辑回归参数优化的效率,该算法以弦截法代替牛顿算法中的二阶Hessian矩阵,并采用DFP修正法不断修正。利用该算法对两幅高光谱影像进行分类实验,结果表明:与传统的多项式回归分类方法相比,该算法在分类精度和效率方面都有明显的改进。