一种相关快速软阈值坐标下降算法

软阈值缩减迭代算法(ISTA)以其简单的操作流程成为了机器学习流行的优化算法,但是收敛速度比较慢,仅为o(1k)。快速软阈值缩减迭代算法(FISTA)通过加速技巧将收敛速度提高了一个数量级,达到了o(1k2)。然而,FISTA将特征向量每一维看成是独立同分布的,丢失了各维之间的相关性,会导致准确率下降和额外的时间开销。为了弥补上述的不足,文中提出了一种相关快速软阈值坐标下降算法(RFTCD)。通过大规模数据库实验证实了RFTCD的正确性和有效性。