稀疏加组稀疏优化问题的一阶和二阶方向稳定点研究

在本文中,我们考虑一类非凸非光滑的无约束稀疏加组稀疏优化问题,其损失函数是二阶连续可微函数(可能非凸),惩罚项是稀疏惩罚与组稀疏惩罚的组合,其稀疏惩罚是ℓ1范数,组稀疏惩罚是折叠凹惩罚函数。目前,计算这类带有凸加非凸惩罚优化问题的方向稳定点的研究较少,但利用方向导数定义的方向稳定点比次微分所定义的稳定点(critical点、lifted稳定点等)能更好的刻画解的局部最优性质。因此,本文主要通过方向稳定点来刻画模型的最优性条件。首先,本文引入了一阶、二阶方向稳定点的概念,探讨了它们与问题局部解的关系。其次,给出了一阶、二阶方向导数的具体表达式,这为进一步分析和求解此类问题提供了理论基础。