一类非Lipschitz约束优化的光滑化投影梯度算法

本文研究一类具有箱约束的非凸非光滑非Lipschitz最小化模型,它是一类典型的稀疏优化问题,在图像重建、信号处理、变量选择等领域有广泛的应用。本文在最优性条件的基础上,提出了光滑化投影梯度算法对其进行求解,分析了算法的收敛性,通过数值试验验证了算法的有效性。

一类非Lipschitz约束优化的最优性条件

本文研究一类具有箱约束的非凸非光滑非Lipschitz最小化模型,它是一类典型的稀疏优化问题,在图像重建、信号处理、变量选择等领域有广泛的应用。该模型的目标函数包含一个非凸、非光滑、非Lipschitz的正则项,约束区域是一个闭凸集。本文给出该模型的一阶和二阶最优性条件,为进一步算法设计和分析提供前提和基础。

光滑神经网络解决一类线性约束的非Lipschitz优化问题

带有线性不等式约束的非光滑非优化问题被广泛应用于稀疏优化,具有重要的研究价值.为了解决这类问题,提出了一种基于光滑化和微分包含理论的神经网络模型.通过理论分析,证明了所提神经网络的状态解全局存在,轨迹能够在有限时间进入可行域并永驻其中,且任何聚点都是目标优化问题的广义稳定点.最后给出数值实验和图像复原实验验证神经网络在理论和应用中的有效性.与现有神经网络相比,它具有以下优势:初始点可以任意选取;避免计算精确罚因子;无需求解复杂的投影算子.

非负组稀疏约束优化问题的最优性条件

基于Bouligand意义下的切锥与法锥和Clarke意义下的切锥与法锥,该文研究了非负组稀疏约束优化问题的最优性理论.该文定义了非负组稀疏约束集的Bouligand切锥与法锥和Clarke切锥与法锥,并给出了它们的等价刻画形式.在目标函数连续可微的条件下,借助于非负组稀疏约束集的切锥和法锥,给出了该优化问题的四类稳定点的定义,并讨论了它们之间的关系.最后,建立了非负组稀疏约束优化问题的一阶和二阶最优性条件.

复杂约束条件下的无线资源优化:AI视角下的方法和洞察

针对无线资源优化问题中普遍存在的复杂约束条件,详细梳理了各种基于AI的优化方法。尽管现有基于AI的优化方法在各种功率分配和波束赋形设计问题上取得了巨大成功,但大多数方法考虑的问题都仅仅配备较为简单的约束条件(例如功率预算约束条件),这些约束条件可以通过简单的投影操作得到满足。然而,对于更为复杂的约束条件,例如非凸的服务质量约束条件,其优化变量和无线信道通常是耦合的,如何有效处理非凸耦合的约束条件仍然是一个较大挑战。针对复杂约束条件下的无线资源优化问题,将现有基于AI的优化方法分为三类:监督学习方法、惩罚学习方法和拉格朗日对偶方法,并对这三类方法的适用性和不足作了细致的分析。最后,提出了一种基于增广拉格朗日法的惩罚-对偶学习框架,通过交替训练两个独立的神经网络,分别用以推断原问题的解和相应的拉格朗日乘子。此外,将所提出的惩罚-对偶学习框架应用于两个典型的无线资源优化问题上,并通过仿真实验表明,所提出的惩罚-对偶学习框架在约束违反和计算时间方面,分别优于当前最先进的AI和传统优化方法。

非负正交约束优化问题的理论、算法及应用

非负正交约束优化问题是同时带有非负约束和正交约束的优化问题,该类问题在机器学习和数据科学中有着重要的应用。常见的非负正交约束优化问题包括二次指派问题、图匹配问题、非负正交矩阵分解问题、非负主成分分析和K-指示模型等。由于非负约束和正交约束的共同作用,该类问题具有一定的组合结构,一般是NP-难的。本文主要介绍非负正交约束优化问题的基本理论性质、求解算法以及相关的应用模型。

局部有限寿命疲劳约束条件下的结构拓扑优化方法

拓扑优化方法为工程结构抗疲劳性能的改善提供了有效的设计策略,为了减少大规模局部疲劳约束引起的计算代价,往往采用P范数方法将其凝聚成全局约束,但是,满足这类弱约束的最优解与原问题的最优解存在间隙。为了精确满足局部疲劳约束和降低约束数量,采用增广拉格朗日方法将原问题处理为无约束问题,提出局部有限寿命疲劳约束条件下的结构拓扑优化方法。考虑变幅值的比例载荷作用,采用Palmgren-Miner线性损伤假设和Sines疲劳准则评价材料点的疲劳强度,以局部疲劳性能为约束条件,建立结构的轻量化设计模型,采用全局收敛移动渐近线算法求解局部疲劳约束下的结构拓扑优化问题。另外,将非结构化多边形网格技术融入到拓扑优化模型,实现复杂几何边界结构的抗疲劳轻量化设计。数值算例结果表明,与P范数方法的优化结果相比,局部疲劳约束条件下的优化结构具有更优的抗疲劳性能和更少的材料用量,因而考虑局部疲劳约束有益于材料的充分利用和结构抗疲劳性能的改善。

同伦方法求解无约束非凸优化问题的局部极小

利用同伦方法求解无约束非凸优化问题,证明了在同伦映射为正则映射的条件下,选取合适的同伦方程,当算法可以排除鞍点时,同伦方法一定收敛到局部极小解,而非极大解.

带有界约束非凸二次规划问题的整体优化方法

通过研究带有界约束非凸二次规划问题 ,给出了求解该问题的整体最优解的分枝定界方法及其收敛性 ;提出了定界的紧、松驰策略 ,把球约束二次规划问题作为子问题来确定原问题的整体最优值下界和上界 ,应用分枝定界方法达到了对原问题的求解。

非单调信赖域方法求解无约束非光滑优化问题

提出了非单调信赖域算法求解无约束非光滑优化问题,并和经典的信赖域方法作比较分析。同时,设定了一些条件,在这些假设条件下证明了该算法是整体收敛的。数值实验结果表明,非单调策略对无约束非光滑优化问题的求解是行之有效的,拓展了非单调信赖域算法的应用领域。

多约束非均匀线阵天线的粒子群布阵优化算法

为了有效解决孔径约束的非均匀线阵天线优化问题,提出一种动态边界计算的粒子群算法,并在优化过程中利用多种群协作提高优化稳定性。实验仿真显示,该算法可以快速得到满意解,有效地解决非线性优化中的约束问题,提高算法收敛速度和解的质量。

无约束优化的一类新的非单调信赖域算法

当选取的初始搜索点处于峡谷附近时,利用现有的信赖域算法将搜索到的最优解可能是局部最优解。针对此问题提出了无约束优化的一类新的非单调信赖域算法。该算法是在现有的非单调信赖域算法的基础上通过放宽信赖域半径的校正条件,从而放大信赖域半径,即而可能跳出峡谷。使搜索到最优解可能是全局最优解。在一定的条件下,证明了此算法的全局收敛性,并通过数值实验验证了算法的有效性。

线性约束两分块非凸优化的ADMM-SQP算法

基于乘子交替方向法(ADMM)和序列二次规划(SQP)方法思想,致力于研究线性约束两分块非凸优化的新型高效算法.首先,以SQP思想为主线,在其二次规划(QP)子问题的求解中引入ADMM思想,将QP分解为两个相互独立的小规模QP求解·其次,借助增广拉格朗日函数和Armijo线搜索产生原始变量新迭代点.最后,以显式解析式更新对偶变量·因此,构建了一个新型ADMM-SQP算法·在较弱条件下,分析了算法通常意义下的全局收敛性,并对算法进行了初步的数值试验.

解无约束最优化问题的一个非单调的新的BFGS信赖域算法

给出了一个解无约束最优化问题的非单调的新的BFGS校正的信赖域算法.将非单调算法应用于解信赖域问题,前人已卓有成效.本文的关键之处就是提出了新的BFGS校正公式,此算法具有较好的性质,所给的BFGS校正的具有二次约束的信赖域子问题总保证校正矩阵是正定的,也即信赖域子问题是严格凸二次规划.在较少的假设条件下还结合相关理论证明了所提供的算法具有全局收敛性.

带消失约束的区间值优化问题的最优性条件与对偶定理

本文考虑一类带消失约束的非光滑区间值优化问题(IOPVC)。在一定的约束条件下得到了问题(IOPVC)的LU最优解的必要和充分性最优性条件,研究了其与Mond-Weir型对偶模型和Wolfe型对偶模型之间的弱对偶,强对偶和严格逆对偶定理,并给出了一些例子来阐述我们的结果。

带有二次约束非凸二次规划问题的一种全局优化方法

对带有二次约束非凸二次规划问题进行研究,利用二次函数的结构和性质,对目标函数和约束函数进行线性下界逼近,建立原规划问题的一个新的线性规划松弛,以便确定它在超矩形上全局最优值的一个下界;利用超矩形上的最长边的对分策略,以及超矩形的缩减和删除技术,提高算法的收敛速度;通过对松弛线性规划可行域的细分以及一系列的松弛线性规划的求解过程得到原问题的全局最优解,从理论上证明了算法能收敛到原问题的全局最优解,最后数值例子也说明了算法是有效的。

无约束优化中带线搜索的非单调信赖域算法(英文)

将信赖域与线搜索方法相结合,采用非单调技术,提出一种求解无约束优问题的非单调信赖域算法,并在适当的条件下,证明算法有全局收敛性和Q-二次收敛性.算法在试探步不被接受时,采用非单调线搜索寻找下一迭代点.算法克服了传统非单调算法中用于产生非单调性的参考函数值远大于实际函数值的问题.初步的数值试验证实算法是有效的.

一种约束非光滑优化问题的信赖域算法

提出了一种易实施的求解带线性约束的非光滑优化问题的信赖域算法 ,并在一定的条件下证明了该算法所产生的迭代序列的任何聚点都是原问题的稳定点 .有限的数值例子表明 。

求解非凸约束优化问题的p次幂拉格朗日方法

针对非凸约束优化问题,引入了一种等价的p次幂形式,并考虑了一类p次幂拉格朗日函数.给出了求解非凸约束优化问题的p次幂拉格朗日算法并且分析了它的全局收敛性.借助于数值实验,说明了算法的有效性.

凸约束优化的非单调信赖域算法的收敛性

本文对凸约束优化问题提出一类新的非单调信赖域算法 ,在二次模型 Hesse矩阵{ Bk}一致有界条件下 ,证明了算法具有强收敛性 ;在 { Bk}线性增长的条件下 ,证明了算法具有弱收敛性 ;这推广了现有线性约束或凸约束优化问题的各种信赖域算法 。