广义乘子法求解构造变分问题的神经网络方法

边界条件的施加是求解偏微分方程定解问题的重要步骤。神经网络方法求解偏微分方程定解问题时,将原问题转化为对应的构造变分问题后,损失函数是包含控制方程与边界条件的泛函。采用经典罚函数法及其改进方法施加边界条件时,罚因子的取值直接影响计算精度和求解效率;直接采用Lagrange乘子法施加边界条件,计算结果可能偏离原问题最优解。为破解此局限性,使用广义乘子法施加边界条件。基于神经网络获得原问题的预测解,再使用广义乘子法构建神经网络的损失函数并计算损失值,利用梯度下降法进行参数寻优,判断损失值是否满足要求;不满足则更新罚因子与乘子后再进行求解直至损失满足要求。数值算例的计算结果表明:与采用经典罚函数法、L1精确罚函数法和Lagrange乘子法施加边界条件构造的神经网络相比,该文提出的方法具有更好的数值精度和更高的求解效率,且求解过程更加稳定。

基于广义乘子法的月球软着陆轨道快速优化设计

从探月器质心运动方程组出发,以探月器环绕月心的旋转角速度为中间变量,通过积分变换,将其对时间变量的积分转化为对状态变量的积分,使得原问题转化为终端积分变量固定型最优控制问题。在此基础上,通过优化变量的直接离散化和四阶Admas预测-校正数值积分方法,将软着陆轨道优化问题转化为有约束非线性规划问题。采用广义乘子法处理约束条件,采用拟牛顿法求解处理后的无约束最优化问题。仿真结果表明,此方法收敛速度快(耗时小于1s),优化精度高(接近理论最优解),对初始控制量不敏感、鲁棒性好,可用于探月器机载计算机实时生成软着陆轨道。

用广义乘子法求解航天器最优平面再入轨迹

从纵向平面无量纲航天器质点运动方程出发,引入了能量参数对运动方程进行推导,使得运动方程和优化问题易于处理。通过将优化变量转化为分段连续的线性函数和Runge-Kutta数值计算方法,将轨迹优化问题转化为非线性规划问题,应用广义乘子法对其进行数值分析,给出了不同航程要求下,总加热量最小,满足终端要求以及过载、动压、热流约束的航天器最优轨迹,并分析了其特点。

基于广义乘子法的有约束的自由曲面形态创建

实际工程中,结构的设计往往会受到各种因素的约束和限制,因此有必要在自由曲面结构的形态创建中引入约束条件.采用NURBS(非均匀有理B样条)方法生成自由曲面,以应变能最小为优化目标,以体积为约束条件进行自由曲面形态创建,并将广义乘子法与梯度法相结合对该有约束的优化问题进行求解,通过Fortran语言编制了有约束的优化算法的程序.在算例中,分别对一个正高斯自由曲面和一个负高斯自由曲面进行有约束的形态创建,并与无约束的创建结果进行了对比分析.研究表明,提出的基于广义乘子法的有约束的自由曲面形态创建方法是合理可行的,具有实际应用价值.

求解LASSO问题的广义对称交替方向乘子算法

随着数据规模的增加,有效地解决LASSO问题面临巨大挑战。对称交替方向乘子法是求解LASSO问题的一种有效方法,其将原问题分解为多个子问题交替求解,很大程度上提升了求解LASSO问题的效率。本文提出了一种广义对称交替方向乘法。与对称交替方向乘子法相比,该算法引入了一个半近邻项近似地求解x子问题,克服了之前算法的不足。此外,算法中引入了松弛算子进一步提升了算法的效率,数值实验说明了该算法是有效的。

非凸不可分离问题的广义交替方向乘子法的收敛性

交替方向乘子法(ADMM)是求解大规模优化问题和非凸非光滑问题的一种有效的方法,但当目标函数为非凸非光滑的情况时,原始ADMM算法的收敛性无法保证,且若目标函数中存在耦合函数,则算法的收敛性证明将更为复杂。在现实生活中存在的很多问题,其本质都是非凸的。因此,本文提出了一种改进的ADMM算法。与原始ADMM算法相比,该算法引入了一个松弛因子α,构造了一种广义交替方向乘子法(GADMM)来求解具有线性约束的非凸不可分离优化问题。在一定的假设条件下,通过假设增广拉格朗日函数满足K-L不等式,证明了当惩罚参数足够大时,算法生成的序列收敛到增广拉格朗日函数的稳定点。

外罚函数法与广义Lagrange乘子法的比较研究

基于非线性约束优化问题,讨论了外罚函数法与广义Lagrange乘子法,并通过MATLAB编程实现了两种算法。实验表明:(1)广义Lagrange乘子法在迭代次数和收敛结果上优于外罚函数法且对初始点的选取要求不高;(2)广义Lagrange乘子法的罚因子的修正系数不宜过大,一般在区间(1,2)上取值,广义Lagrange乘子法更具优越性。最后,通过3个工业工程中的非线性规划实际问题说明乘子法比外罚函数法具有更广泛的实用性。

基于广义近似交替方向乘子法求解可分离凸优化问题

本文提出了一种广义近似交替方向乘子法(gPADMM)来求解可分离凸优化问题。和近似邻近点算法(APPA)和扩展邻近交替方向方法(ePADM)相比,新算法不仅更新自定义矩阵的结构,而且引入随机变量进行随机加速更新步长,从而克服了旧算法固定步长的不灵活性。在某些适当的假设条件下,本文证明了新算法的全局收敛性,并且初步数值实验表明该算法是有效的,收敛速度比旧算法更快。

基于BFGS算法的广义Lagrange乘子法研究

广义Lagrange乘子法是解决约束优化的问题的一种重要方法,基于BFGS算法,利用MATLAB工具,研究了初始点的选取、罚因子的改变及罚因子修正系数的改变对该算法收敛效果的影响。结果表明:(1)对于初始点的选取,应尽量在最优点附近进行取值,才能有不错的收敛效果。(2)罚因子过小或过大都对算法求解问题产生困难。如果罚因子太小,大量的搜索时间将花费在非可行域,使迭代次数增加。另一方面,如果罚因子过大,算法将很难被推进到可行域以内,导致算法收敛失败。(3)随着罚因子修正系数的变化,随时会出现无法收敛的现象,故该系数的值应在迭代成功率相对较高的分段选取。

基于速度集的高速动车组运行能耗优化操纵模型及算法

分析高速动车组的运行过程,针对基于最大值原理的传统最优经济算法未考虑限速工况这一不足加以改进,建立以给定区间运行时间、距离及限速等为约束条件的高速动车组运行能耗优化操纵模型,将求解高速动车组运行能耗最小值问题转化为寻找满足约束条件的高速动车组目标速度值及为实现这一目标值而操纵高速动车组以不同速度运行的速度集合,并据此制定高速动车组的优化操纵方案。改进的优化经济算法按照坡道、曲线、隧道和限速等特征以及线路化简条件将运行区间划分为若干子区间,并根据目标速度值和约束条件得到高速动车组在各个子区间内对应的速度,构成速度集合;在模型中引入拉格朗日乘子和惩罚项,消除时间、距离和限速约束条件,利用广义乘子法搜索目标速度值及对应的速度集合,将优化高速动车组运行能耗的有约束非线性规划求解问题转化为无约束极值求解问题。仿真结果表明:与传统最优经济算法比较,使用改进的优化经济算法不但计算速度更快,而且以此制定的高速动车组最优操纵方案能够进一步降低运行能耗(约2%),实际操纵也更简便。

月球着陆轨道的一种快速优化方法

提出一种基于积分变换,广义乘子法和拟牛顿法的月球着陆轨道快速优化方法。从探月器质心运动方程组出发,通过积分变换,将其对时间变量的积分转化为对状态变量(探月器环绕月心的旋转角速度)的积分,使得原问题转化为终端积分变量固定型最优控制问题。在此基础上,通过优化变量的直接离散化和四阶Admas预测-校正数值积分方法,将月球最优着陆问题转化为有约束非线性规划问题。采用广义乘子法处理约束条件,采用拟牛顿法求解处理后的无约束最优化问题。仿真结果表明:此方法收敛速度快(耗时小于1s),优化精度高(接近理论最优解),对初始控制量不敏感、鲁棒性好,可用于探月器机载计算机实时生成着陆轨道。

大规模严格凸二次规划问题一个新算法

根据广义乘子法的思想，将具有等式约束和非负约束的凸二次规划问题转化为只有非负约束的简单凸二次规划，通过解简单凸二次规划来得到解等式约束和非负约束的凸二次规划新算法，新算法不用求逆矩阵，这样可充分保持矩阵的稀疏性，用来解大规模稀疏问题．数值结果表明：在微机４８６／３３上就能解较大规模的凸二次规划．

基于牛顿法的并行优化算法

针对非线性数值优化问题,提出一种在分布式环境下的基于牛顿法的并行算法。引入松弛变量,将不等式约束转换为等式约束,利用广义拉格朗日乘子将约束优化问题转换为无约束子优化问题。为了并行地求解这些子优化问题,将Newton迭代法中的Hessian矩阵进行适当的分裂,采用简单迭代法求解Newton法中的线性方程组。在理论上对该算法进行了收敛性分析。在HP rx2600集群上进行的数值实验结果表明并行效率达90%以上。

一类自适应广义交替方向乘子法

广义交替方向乘子法是求解凸优化问题的有效算法．当实际问题中子问题难以求解时，可以采用在子问题中添加邻近项的方法处理，邻近矩阵正定时，算法收敛，然而这也会使迭代步长较小．最新研究表明，邻近矩阵可以有一定的不正定性．本文在基于不定邻近项的广义交替方向乘子法框架下，提出一种自适应的广义交替方向乘子法，动态地选择邻近矩阵，增大迭代步长．在一些较弱的假设下，证明了算法的全局收敛性．我们进行一些初等数值实验，验证了算法的有效性．

基于非线性规划的高超声速滑翔轨迹优化

研究了最大航程的无动力滑翔轨迹优化问题。为避免间接法的缺点,采用直接单重打靶法将轨迹优化问题转换为非线性规划问题,并利用非梯度优化算法和梯度优化算法相结合的混合优化策略得到最优轨迹。仿真结果表明,在采用更为真实的大气模型和动力学模型条件下,该方法具有较高的求解精度、收敛性以及鲁棒性,降低了初值要求;相对于最大升阻比轨迹,射程提高1.54%。

升力式航天器再入最优轨迹研究

从无量纲飞行器质点运动方程出发 ,引入了能量参数对运动方程进行推导 ,使得运动方程和优化问题易于处理 .通过将气动力假设为能量参数的分段连续线性函数 ,并且采用Runge Kutta数值计算方法 ,将轨迹优化问题转化为多维非线性规划问题 ,应用广义乘子法对其进行数值求解 .针对给定不同最大航迹角的 2种情况 ,获得了总加热量最小 ,满足终端要求以及过载、动压、热流约束的最优轨迹 ,分析了返回最优轨迹的特点 .

带有短缺的模糊生产-库存模型

在实际生产环境中,许多生产因素是模糊的,通常用模糊语言来描述。文章基于经典的带有短缺的生产-库存模型,在全部生产要素均为模糊数的假设下,建立了模糊生产-库存的数学模型。将广义Lagrange乘子法与反证法相结合,给出模型最优解的求解过程。从而进一步说明,该模型更加适应于实际生产环境。

改进的低秩稀疏分解及其在目标检测中的应用

针对传统低秩稀疏分解算法用于运动目标检测时,前景提取结果容易受噪声干扰以及检测结果不完整的问题,提出了一种新的低秩稀疏分解模型。考虑到视频前景目标呈结构化分布,以及动态背景对前景提取结果造成影响,该模型利用结构化稀疏范数对前景进行约束,且将稀疏部分所代表的运动区域进一步划分为动态背景部分与前景部分;然后采用广义交替方向乘子法对提出的模型进行求解,并分析了算法的复杂度;最后进行仿真实验将其应用到运动目标检测中。实验数据结果验证了提出的方法比其他基于低秩稀疏分解的运动目标检测方法更加稳定有效,更具有普适性,且对不同类型的噪声均具有一定的抗噪性。

基于模糊数学理论的工程成本-工期研究

为了提高工程在不确定环境下对工程成本的控制,通过对工程成本分析,并依据工程成本与工程规模、工期的关系,建立以工程成本为目标,人工费、材料费、机械费为不确定因素影响条件的优化模型,该模型通过模糊数学理论和方法,结合四边形模糊数的解析方法,将广义Lagrange乘子法与反证法相结合,得出模型最优解的求解过程,以期为工程成本控制提供一定的借鉴。

改进的截断核范数及在视频前背景分离中的应用

视频前背景分离的主要目的是从视频中提取感兴趣目标,但是由于噪声、光照变化等的影响使其仍是计算机视觉等领域最具有挑战性的任务之一。截断核范数(truncated nuclear norm,TNN)算法是一种经典的鲁棒主成分分析(robust principal component analysis,RPCA)算法,被广泛地应用于视频前背景分离。但是,该算法中的截断核范数对传统鲁棒主成分分析中的秩函数逼近度不高,导致其稳定性不强,对一些复杂场景下的视频前背景分离精度不高。针对该问题,本文提出了一种改进的截断核范数(improved truncated nuclear norm,ITNN)算法。该算法首先采用非凸γ范数替代TNN模型中的核范数,并分析了相对于核范数而言,非凸γ范数对秩函数具有更高的逼近度,同时提出了该算法所对应的模型;其次,为了求解提出的模型,本文引入了广义交替方向乘子法(generalized alternating direction method of multipliers,GADMM)对该模型进行求解;最后,将提出的ITNN算法应用于多个公共视频的前背景分离实验中,并通过展示提取不同视频的前景效果,从视觉角度验证了ITNN算法的有效性。同时,计算提出算法和对比算法提取的视频前景的F-measure值,从量化的角度进一步验证了ITNN算法的有效性。另外,实验还记录了各算法的视频前背景分离的运行时间,验证了ITNN算法的效率。总之,本文通过实验验证了提出的ITNN算法在视频前背景分离中的有效性和优越性。