一类分式优化问题的带非单调线搜索的近端梯度次梯度算法研究

本文主要研究一类分式优化问题,其中分子是凸非光滑连续函数与非凸光滑函数的和,分母为凸 非光滑函数。 首先给出了问题的一阶最优性条件,然后给出了求解分式优化问题的新算法,即带 非单调线搜索的近端梯度次梯度算法(简称NL-PGSA)。此外,基于Kurdyka-L- ojasiewicz性质, 可以保证算法生成的整个序列的全局收敛性,最后,对l1/l2稀疏信号恢复问题进行了数值实验,验 证了该算法的有效性。

利用模糊次梯度算法求解拉格朗日松弛对偶问题

针对利用次梯度算法处理拉格朗日松弛对偶问题时,计算过程容易出现振荡,求解效率较低的问题,首先提出了一种基于模糊理论的次梯度算法,利用隶属度函数给出迭代过程中所有次梯度的合适权重,并将它们线性加权得到新的迭代方向;其次证明了算法的收敛性;最后通过仿真实验验证了该方法的有效性.

无约束最优化问题的二次梯度算法

根据无约束最优化问题的梯度算法 ,提出了二次梯度算法 ,并证明了其收敛性 .

稳固非扩张映射不动点集处均衡问题的一种不精确次梯度算法（英文）

本文提出了稳固非扩张映射不动点集处均衡问题的一种新算法.该算法要求双函数是连续的,但不一定是单调的.首先,通过事先引入的参数确定一个闭凸集;其次,根据双函数的不精确次梯度在闭凸集上的投影构造中间迭代点;最后,下一个迭代点由当前迭代点和中间迭代点的凸组合在稳固非扩张算子的映射得到.在适当条件下,本文给出了该算法的全局收敛性证明.

求解可分非线性不可微多阶段有补偿问题的对偶次梯度算法

本文将文［１］中的结果做进一步的推广与改进，给出了求解具有简单补偿的非线性不可微多阶段问题的广义对偶型次梯度算法。并证明了算法的收敛性。所给算法与文［１］中的算法一样，具有简单易行，计算量小且全局收敛等优点。

基于共轭次梯度算法的磁传感器安装误差校正

随着头盔显示技术的发展,对头盔电磁定位的精度要求越来越高,在现有的加工工艺和机上安装条件下,要提高定位精度,必须对传感器安装误差进行校正。通过坐标转换原理对安装误差进行建模,在此基础上利用最小二乘原则选取目标函数,将校正过程抽象为最优化问题求解。提出一种基于共轭次梯度算法的最优化问题求解方法,实现了传感器安装误差校正。利用MATLAB上对校正算法进行仿真,仿真结果表明,共轭次梯度算法简洁易用、校正精度高、收敛速度快,能够明显提高磁场测量精度。

一种改进的动态步长的次梯度算法

次梯度法是解决大规模凸优化问题的经典和有效的方法之一,步长的选取对次梯度法的收敛性起着至关重要的作用.Goffino等(1999)提出了动态步长次梯度算法,通过改进其中的一个参数,提出了改进的动态步长次梯度算法,并证明了改进算法的收敛性.最后,通过数值实验可以看出改进的算法比原来的算法更有效.

拟凸优化问题中常值步长准则下次梯度算法的收敛性

求解凸优化的方法通常也是一般拟凸优化问题的基础。在拟凸优化问题中,次梯度优化算法也是一种常用的迭代算法。步长的选取对次梯度算法的收敛性至关重要,且迭代点列满足的基本不等式对算法的收敛性有着一定的影响。本文给出一个次梯度算法的更一般的框架,给出了在框架下次梯度算法在常值步长准下的收敛性,并通过数值实验对算法的收敛性进行了分析,实验表明,常值步长准则在收初始迭代点和步长取值时影响较大。

Hilbert空间中伪单调变分不等式的新次梯度外梯度算法

引用一种新次梯度外梯度算法,在Hilbert空间中证明了伪单调变分不等式解的弱收敛性.

求解非单调变分不等式问题的修正惯性次梯度外梯度算法

变分不等式问题在经济金融、交通运输、数学规划、力学等领域都有着广泛的应用。近年来,变分不等式问题受到许多学者的研究,且这些研究主要集中在求解单调或者伪单调变分不等式问题。文章在实希尔伯特空间中,针对非单调变分不等式问题,提出了求解该问题的算法。借助惯性原理和Mann型方法,构造了一个带Armijo线性搜索的修正惯性次梯度外梯度算法;在没有Lipschitz连续性的假设下,证明了由算法产生的迭代序列强收敛于变分不等式问题的解,值得注意的是,定理的证明并没有要求映射的任何单调性假设;最后,给出了两个数值实验,阐明了文章算法的有效性和优越性,所得结果推广和改进了许多最新的结果。

变分不等式的惯性次梯度外梯度算法

在实Hilbert空间中提出求解单调变分不等式的惯性次梯度外梯度算法,其中变分不等式的可行集是一个光滑凸函数的水平集.新算法应用惯性加速技巧,迭代过程中对映射F赋值一次,并只需向两个半空间作投影两次.在适当的假设下,证明该算法的弱收敛性.新算法改进和推广相关文献中的相应结果.

具有通信时延的多个体分布式次梯度优化算法

文章研究了存在通信时延情况下的多个体分布式次梯度优化算法。通过系统扩维,将存在通信时延情形的优化问题转化为无时延情形的优化问题,同时所得通信网络对应的邻接矩阵是一个所有主对角元素不必全为正数的随机矩阵,从而弱化了已有文献关于邻接矩阵的若干假定;进而利用不可逆Markov链的相关结论,证明了只要通信时延有上界,则优化算法最终仍然收敛,并发现通信时延会造成较大的迭代误差;最后通过仿真算例验证了文中算法的有效性。

基于加权次梯度投影算法的数字助听器自适应声反馈抑制

本文提出了一种利用加权自适应次梯度投影算法(Weighted Adaptive Projection Subgridient Method,WAPSM)进行声反馈抑制的方案。WAPSM算法来自于自适应次梯度投影算法(Adaptive Projection Subgridient Method,APSM),它以次梯度投影的超平面作为搜索区域来进行松弛投影。本文提出的算法将估计系统的先验知识以权重因子一在很多应用中为指数衰减一的方式加入APSM算法中提高算法性能。以WAPSM算法应用于助听器声反馈抑制的大量仿真实验表明,算法相比传统的NLMS算法和APSM算法在收敛速度、稳定性和精度方面取得了显著的进展。进一步的实验表明,算法在以实际语音作为数字助听器输入信号时取得了优异的性能,并且在低信噪比条件下具有较强的鲁棒性。

切换网络分布式次梯度优化算法

研究了切换网络的多个体分布式次梯度优化算法。在有向切换网络是周期强连通的且对应的邻接矩阵是随机的而非双随机的条件下,利用非二次李雅普诺夫函数方法证明了所提多个体分布式次梯度优化算法的收敛性。最后,通过仿真实例验证了所提算法的有效性。

基于范数标量化方法的多目标次梯度算法

【目的】提高多目标优化问题的收敛速率及解的精度。【方法】在欧式空间中基于范数标量化方法提出了求解多目标优化问题的次梯度算法。【结果】在每个目标函数与相应最小值的差的平方为凸函数的假设下,证明了多目标次梯度算法的Pareto弱有效解的收敛性。【结论】数值实验结果表明:提出的多目标次梯度算法在求解多目标线性优化模型时具有更快的收敛率,并且在求解非光滑多目标优化问题时具有更高的解的精度。

多个体切换网络分布式量化次梯度优化算法

由于已有的分布式次梯度算法大多基于理想的假设:网络拓扑是有向平衡的,构成网络的个体间通信的是各个个体某个状态变量的完全精确的信息。针对更一般的非平衡切换网络以及实际生活中网络通道的带宽限制,提出一种基于有限量化信息通信的切换网络分布式量化次梯度优化算法。在非平衡切换网络中,通过设计具有有限量化水平的一致量化器使所有信息在发送之前都经过量化,利用非二次李雅普诺夫函数方法,证明了所提出的多个体分布式量化次梯度优化算法的收敛性。最后仿真实例验证了所提算法的有效性,而且通过调节量化水平参数,在相同的带宽条件下,可提高信息传输速率,使网络中的个体更快地达到一致。该方法弱化了对刻画网络拓扑的邻接矩阵的假设及对网络带宽的要求,更具实用性。

基于改进的次梯度优化算法的QoS路由问题研究

文章研究基于Lagrange松驰的QoS路由模型,给出普通次梯度优化算法的算法步骤。通过改进步长因子公式和搜索方向,在普通次梯度优化算法(GSOA)的基础上,提出了一种改进的次梯度优化算法(MSOA),并给出算法步骤;运用改进的次梯度优化算法(MSOA)给出了基于La grange松弛的QoS路由模型,并求解该路由模型。

库存路径调度问题的随机次梯度拉格朗日算法

为有效提高库存路径问题在供应链中的配送效益,建立了以最小化库存成本、运输成本和缺货损失成本为目标的库存路径规划模型,并针对此模型设计了一种随机次梯度拉格朗日松弛算法。在算法求解过程中,每次迭代采用随机因子调节次梯度来获得更好的拉格朗日乘子更新方向,以加快求解速度。最后通过算例表明:与传统次梯度算法和智能优化算法相比,所提算法能够在较短时间内得到较好的下界值和对偶间隙,随着数据规模的增大,其优越性越好。

黎曼流形上次梯度算法及其收敛性的研究

主要研究了黎曼流形M上一类最优化问题,并给出了解决该问题的一种ε次梯度算法.并在流形M是一个完备的且具有非负截面曲率的黎曼流形时,证明了算法得出的无限迭代点列的收敛性.

同时次梯度投影算法求解分裂可行性线性收敛性研究

分裂可行性问题又能推广到多集分裂可行性问题,其本质与分裂可行性问题相同,均为优化问题。探讨希尔伯特空间中的多集分裂可行性问题的求解算法,使用动态步长的方法来对传统的梯度投影算法进行优化,并提出一种带有动态步长的同时次梯度投影算法,研究该算法的线性收敛性。研究结果表明,该算法具有收敛性;达到目标精度的迭代次数比算法2少137次;能以最少的迭代次数对84.9%的测试问题进行成功求解,比算法2多16.7%,比算法3多26.9%。以上结果证明,同时次梯度投影算法拥有较好的收敛性,能够有效地求解多集分裂可行性问题。