BP神经网络算法改进

BP神经网络因其理论成熟及泛化能力强而被广泛的应用在不同的领域。尽管如此,其仍然存在着两大缺陷:其一,收敛速度慢;其二,容易陷入局部极小。特别是在解决大样本问题时,BP算法的缺陷更加突出。本文首先从样本训练方法上入手对BP算法进行改进从而保证收敛速度,提出一种交叉批量梯度下降算法(Cross-batch gradient descent algorithm,以下简称CBGD)。将改进后的算法用于手写数字的识别,相比于普通的BP算法在收敛速度及测试准确率上都有明显的提高。