基于分布式的神经网络训练研究

建立在大型数据集上的现代神经网络体系结构在各个应用领域取得不错的效果,虽然硬件设备性能不断提升,但是在一台机器上进行网络模型训练可能会花费很长时间。本文介绍了如何使用并行计算从而实现神经网络的高效分布式训练,以望为之后的研究者提供一定的参考。