敏度分析的数值方法比较研究

为提高优化方法中敏度计算的精度和效率,比较研究了拟梯度、复数步长微分和自动微分三种数值方法原理及实现。采用操作符重载和模板技术实现复数步长微分和自动微分,并将自动微分前向模式和反向模式结合起来计算Hesse矩阵。研究表明:拟梯度能有效地减少函数求值次数,但对高度非线性函数其计算精度较差;复数步长微分方法简单,能得到机器精度的梯度值,但需要处理复数,计算量较大;自动微分在函数求值的同时并行计算高阶精确导数值,计算量适中。