一种带记忆的阻尼牛顿法

本文在引进阻尼技术的基础上构造了新的拟牛顿方程,该方程通过利用相邻两次迭代点之间的梯度差和变化量的线性组合,实现了曲率对的更新,以此改进校正公式。为求解高维问题,引入有限内存记忆框架,提出了D-LBFGS算法。利用D-LBFGS算法对神经网络中的权值阈值参数进行优化的算法,进一步提出了D-LBFGS—CNN算法,在解决无创光谱血糖浓度的预测问题中迭代351次时精度达到99.999%。所提出的D-LBFGS算法在一定程度上优于标准的LBFGS算法(迭代474次时精度99.999%)、阻尼牛顿法(精度99.359%)及文献中的LBFGS算法(精度99.744%)。