-
题名线性插值投影次梯度方法的最优个体收敛速率
被引量:5
- 1
-
-
作者
陶蔚
潘志松
朱小辉
陶卿
-
机构
中国人民解放军理工大学指挥信息系统学院
中国人民解放军陆军军官学院十一系
-
出处
《计算机研究与发展》
EI
CSCD
北大核心
2017年第3期529-536,共8页
-
基金
国家自然科学基金项目(61673394
61273296)~~
-
文摘
投影次梯度算法(projected subgradient method,PSM)是求解非光滑约束优化问题最简单的一阶梯度方法,目前只是对所有迭代进行加权平均的输出方式得到最优收敛速率,其个体收敛速率问题甚至作为open问题被提及.最近,Nesterov和Shikhman在对偶平均方法(dual averaging method,DAM)的迭代中嵌入一种线性插值操作,得到一种拟单调的求解非光滑问题的次梯度方法,并证明了在一般凸情形下具有个体最优收敛速率,但其讨论仅限于对偶平均方法.通过使用相同技巧,提出了一种嵌入线性插值操作的投影次梯度方法,与线性插值对偶平均方法不同的是,所提方法还对投影次梯度方法本身进行了适当的修改以确保个体收敛性.同时证明了该方法在一般凸情形下可以获得个体最优收敛速率,并进一步将所获结论推广至随机方法情形.实验验证了理论分析的正确性以及所提算法在保持实时稳定性方面的良好性能.
-
关键词
一阶梯度方法
个体收敛速率
投影次梯度方法
线性插值操作
对偶平均方法
-
Keywords
first-order method
individual convergence rate
projected subgradient method
linear interpolation operation
dual averaging method
-
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
-