逻辑回归模型的Smooth LASSO及Spline LASSO变量选择

对于逻辑回归模型中的参数估计和变量选择问题,提出了Smooth LASSO以及Spline LASSO.当变量具有连续性,使用Smooth LASSO,可以获得局部恒定的系数.但是在有些情况下,系数可能不同并且缓慢变化,可以使用Spline LASSO来估计参数.本文通过理论证明模型的可靠性,利用坐标下降法对模型进行求解,最后通过模拟验证了模型在变量选择中的准确性以及较好的预测性.

基于迭代光滑L_(1/2)算法的变量选择

变量选择是统计学中重要的问题之一,而利用正则化方法来进行变量选择是近年来研究的热点.采用一种迭代光滑L_(1/2)算法,通过增加参数稀疏化阈值条件,使其中绝对值较小的回归参数稀疏为0,从而实现变量选择的功能.将该算法与Lasso(least absolute shrinkage and selection operator),自适应Lasso以及L_(1/2)正则化方法进行比较,数值模拟结果表明该算法同样具有良好的变量选择和预测能力,最后将该算法应用到实际的前列腺数据分析.

线性等式约束广义Lasso问题的算法研究

随着大数据时代的到来,众多研究领域都涉及到优化问题的求解,其中Lasso问题的求解尤其受到学者们的广泛研究。针对Lasso问题的求解,学者们研发出众多算法。随着应用的场景不同以及对数据的要求不同,带有约束的广义Lasso问题逐渐受到人们关注。本文将已有的快速邻近点算法结合半光滑牛顿算法,应用到对一类含线性等式约束的广义Lasso问题进行求解,并在一定的假设条件下证明了该算法的收敛性。最后,通过数值实验证实了该算法的高效性。