几种优化方法在频率域全波形反演中的应用效果及对比分析研究

全波形反演方法是一个有效求解参数重建问题的方法,其本质是一个寻找最优解的优化问题,目前多用局部最优方法求解,如最速下降法、共轭梯度法、高斯-牛顿法、拟牛顿法等.文中给出了常用的优化方法,基于二维声波方程,将这些方法应用于部分overthrust模型的反演,通过对各方法所得反演模型的精度和计算时间的对比分析,对各个方法的优缺点进行总结,为后续多参数反演或高维方程参数反演提供方法选择上的参考;针对所要求解的反问题,选用的优化方法需要在收敛速率、计算存储量和算法的稳定性之间进行权衡,以得到一个最优的反演结果.

基于DFP校正拟牛顿法的傅里叶神经网络

针对傅里叶神经网络采用最速下降法导致局部极小、学习速度慢以及泛化能力差的问题,提出一种基于DFP校正拟牛顿法的新学习算法。该算法计算复杂度低,能保证网络具有良好的泛化能力和全局最优性。通过2个数值算例检验该算法,同时和BP神经网络以及另外2种傅里叶神经网络作比较。结果表明,该算法计算复杂度约为最速下降法的5%,为最小二乘学习算法的80%,具有较好的泛化能力。

涉及拟反向强单调算子零点的一个弱收敛结果及其应用

采用经典的最速下降法构造一类Lipschitz连续的拟反向强单调算子的零点,在相当宽松柔和的条件下,建立了一个弱收敛结果。将弱收敛定理应用于分裂公共不动点问题,所得结果改进了近期文献的相应结果。

全局最优化的一种新的拟全局下降法

对全局最优化中的无约束优化问题提出了一种新的拟全局下降法,通过搜索获得一系列的局部最小值来得到全局最小值.具体地,由局部极小化的两个阶段的循环构成:第一阶段是对原始目标函数进行局部搜索;第二阶段在一个新的下降函数的最大步长下降方向里确保原目标函数是全局下降的.这种新的下降法的关键在于这个新的下降函数具有很好的结构特性.

基于拟下降方法的遗传算法及其收敛性

在遗传算法中嵌入一个传统下降算子,且保留最好个体,利用最好个体的记忆信息对搜索过程进行指导,从而得到既有较快收敛速度,又能以较大概率得到全局极值的用于函数全局优化的混合算法.定义了适当的适应度函数和子代个体的选择算子,且从拟下降观点证明了算法的收敛性.数值计算结果表明了本算法显著优于遗传算法和传统下降算法.

关于一般约束非线性规划问题的一族下降函数

首先建立等式和不等式约束非线性优化问题的结构拟牛顿法，并以此产生搜索方向δＸ。然后给出以δＸ为下降方向的一族含双参数的下降函数，并且在一定条件下证明了该函数族关于结构拟牛顿法产生的点列是严格下降的。

关于一般约束最优化问题的下降函数的几点注记

详细讨论了一般约束非线性优化问题的搜索方向与一族下降函数间的关系，并证明了该方向为此函数的下降方向。

广义最速下降法逼近拟增生算子方程解的一个特征条件

倪仁兴最近的文章研究了广义最速下降法强收敛于拟增生算子方程解的一特征条件.本文对此进行了修正和改进,给出了一个新的特征条件.所得结果同时改进和推广了一些已有的结果.

无约束优化的一个全局收敛算法及其收敛速度

对最速下降法与拟牛顿法的结合算法进行了改进 ,证明了改进算法的全局收敛性 ,而且给出了局部超线性收敛性 .初步的数值计算结果也表明了改进的算法比原算法有更好的收敛效果 .

基于遗传算法的函数优化拟下降算法

在传统优化算法中嵌入一拟下降步，改善了算法的收敛性质；用遗传算法计算拟下降步，提高了算法的全局搜索能力，又不改变原算法的收敛性．数值计算结果表明，所提出的算法结合了遗传算法和传统算法的优点，是一种可行的解决函数优化问题的混合算法．

无约束优化全局收敛性算法

为解决一个无约束优化极小化问题,已有文章结合牛顿方向和最速下降方向提出了一种全局策略,对于一个任意的初始点,全局收敛性能保证。用拟牛顿方向来代替牛顿方向,使得在每次迭代中搜索方向的选择尽肯能地靠近拟牛顿方向或者是它本身。

求解点覆盖问题的拟物转换及算法

本文首先基于CNF－SAT问题已有的拟物型的求解思想，将点覆盖问题转换为连续情形的目标优化问题，进而提出一种新的竞争式下降梯度方法，从而获得了求解点覆盖问题的高效实用的快速算法．

拟合矩阵与两阶融合迭代加速推荐算法

传统的矩阵分解模型无法充分探索用户与物品在均值、偏置和特征之间的内在联系,提出拟合矩阵模型,通过构建用户与物品矩阵分别代表用户与物品特性来提高预测性能。矩阵分解模型在推荐系统领域有精度优势,但求解模型参数最常用的梯度下降法收敛速度缓慢,因此考虑与拟牛顿法融合,加快收敛速度。提出的算法命名为拟合矩阵与两阶融合迭代加速推荐算法(fitting matrix and two orders fusion iterative,FAST),实验表明,FAST算法比传统的非负矩阵分解(NMF)、奇异值矩阵分解(SVD)、正则化奇异值矩阵分解(RSVD)在平均绝对误差(MAE)与均方根误差(RMSE)上有下降,在迭代效率上有显著提高,缓解了精度与迭代效率难以平衡的问题。

基于神经网络和准同步采样算法的电力谐波分析

针对非同步采样的电力系统谐波分析精度问题,文章提出了一种准同步采样算法和神经网络相结合的谐波分析算法。其以准同步采样算法为基础,给出了常用情况下的准同步窗系数的函数表达式,为神经网络谐波分析算法提供了基波频率估计值;然后,基于最速下降法,确定了迭代方向上的适应性最优步长,该步长使神经网络算法收敛于全局最小值。在非同步采样情况下,该算法迭代次数均为10余次,幅值检测的相对误差精度可达1×10-10%,相量检测的相对误差精度可达1×10^(-8)%;并且在信噪比为30 dB时,幅值检测的相对误差基本低于1×10^(-2)%。仿真结果表明,该算法检测速度快且精度高,具有较好的应用价值。

求解拟变分不等式问题的一类无导数下降算法

利用广义正则gap函数的方向导数,构造了一种迭代方向,提出了一类求解拟变分不等式问题的算法。此算法不需关心目标函数的梯度计算问题,与相关文献比较,该算法的适用范围更加广泛。在某些假设条件下,证明算法的收敛性。

神经网络在交通图像压缩中的应用

利用神经网络的结构特征及良好的数据处理能力、在数据压缩领域拥有的先天优势,采用性能优良的BP算法构建网络模型。分析BP网络压缩的原理,搭建压缩系统模型,分别使用自适应学习率梯度下降法和BFGS拟牛顿法训练网络,从而实现交通图像的压缩与重建。实验结果表明,基于BFGS拟牛顿法的BP神经网络收敛速度快,压缩性能优良,获得低压缩率的同时重建图像视觉效果良好。

引入二阶导数的梯度法

对最优化方法中的梯度算法进行了改进．当2f/x2=≠0时，将二阶导数与梯度方向相结合，构造出一种新的下降方向d=[1＋δ／（2f／x2）]（f／x），其中δ=1或-1．用新的下降方向设计了一种算法，使梯度法得到改进．新的算法比梯度法的收敛速度快，而且比牛顿法计算量小．

基于L2正则化的逻辑回归求解设计

本文通过对L2正则化逻辑回归进行分析,使用随机梯度下降(SGD)和限制内存拟牛顿法(L-BFGS)来求解回归参数使得条件对数似然函数最大。在手写数字图像数据集USPS-N和HTML网页数据集上的两分类结果表明,随机梯度下降求解方法在两数据集上有较高的测试错误率。因此,在设计L2正则化逻辑回归求解方法时,可使用限制内存拟牛顿法作为缺省求解方法。

拟增生算子方程广义最速下降法的收敛性特征条件

本文给出了广义最速下降法强收敛于定义在一致光滑实Banach空间的真子集上的局部有界拟增生算子的零点的一特征条件.所得的结果推广和统一如徐宗本和蒋耀林等人的相应结果.

临近空间滑翔飞行器初始下降段轨迹规划

对临近空间滑翔飞行器初始下降段的轨迹规划问题进行了深入研究。首先利用拟平衡滑翔条件,推导了初始下降段末端的切换条件;然后将初始下降段分为开环控制段和轨迹规划段,在轨迹规划段以攻角作为控制量,设计满足过程约束、切换条件和控制约束的控制律。根据所建动力学模型,采用高斯伪谱法进行轨迹优化;以航迹角偏差为自变量,设计圆弧过渡函数生成攻角指令。仿真结果表明:两种方法都能满足各种约束,且圆弧过渡法不依赖于传统的标称攻角设计,计算量小,便于在线运用。