拉格朗日神经网络解决带等式和不等式约束的非光滑非凸优化问题

非凸非光滑优化问题涉及科学与工程应用的诸多领域,是目前国际上的研究热点。该文针对已有基于早期罚函数神经网络解决非光滑优化问题的不足,借鉴Lagrange乘子罚函数的思想提出一种有效解决带等式和不等式约束的非凸非光滑优化问题的递归神经网络模型。由于该网络模型的罚因子是变量,无需计算罚因子的初始值仍能保证神经网络收敛到优化问题的最优解,因此更加便于网络计算。此外,与传统Lagrange方法不同,该网络模型增加了一个等式约束惩罚项,可以提高网络的收敛能力。通过详细的分析证明了该网络模型的轨迹在有限时间内必进入可行域,且最终收敛于关键点集。最后通过数值实验验证了所提出理论的有效性。

一种新型拉格朗日神经网络解决非光滑优化问题

针对函数是非光滑的问题以及采用固定惩罚项的弊端,利用Clarke广义梯度的理论和Lagrange乘子法的思想,建立了一个微分包含的神经网络模型。此模型是采用罚函数的方法,有效避免了固定项的缺陷。理论证明了网络是有全局解的,并且收敛到原问题的关键点集,对于凸问题来说网络收敛的平衡点就是问题的最优点。最后通过仿真实验验证了理论结果的正确性。

拉格朗日神经网络解决非凸优化问题

本文介绍了应用拉格朗日神经网络模型解决目标函数非凸的优化问题。针对带有等式和不等式约束的非凸优化问题,基于拉格朗日乘子理论构造了神经网络模型。而且对于目标函数非凸且非光滑的情形,采用光滑逼近技术将非光滑函数转化为光滑函数,进而求出满足约束条件的可行解。最后给出两个实例验证理论的有效性及正确性。