关于零模正则化逻辑回归问题的研究

逻辑回归是一种著名的分类方法,已经广泛应用于文档分类、数据挖掘、机器学习、计算机视觉和生物信息学等领域。但是在训练样本数有限且特征过多的情况下,逻辑回归很容易出现过拟合,正则化正是用来减少过拟合以获得一个具有鲁棒性的分类器。近来,更多的人对零模正则化逻辑回归问题感兴趣。这是由于在高维数据中,零模正则化被看作一种有效的策略来获得一个稀疏模型,它可以同时进行特征选择和分类。零模正则化在统计、机器学习、信号与图像处理、稀疏模型选择和误差修正、金融工程及量子计算等领域中有着广泛的应用。设计求解这类优化问题的有效快速算法在近几年成为了国内外优化领域中的热点。

一类零模正则复合优化问题的多阶段凸松弛法

本文从零模函数的变分刻画入手,将这类带有组合性质的优化问题等价转化为具有拟双线性结构且全局Lipshitz连续的优化模型,以此设计了求解零模正则化复合优化问题的多阶段凸松弛方法,并对该方法进行了收敛性分析。