回复式神经网络及其应用研究综述

回复式神经网络是深度学习领域中一类非常强大的神经网络模型,它主要用于处理和预测序列数据.得益于回复式神经网络的"记忆"功能,它和它的变体网络已经被成功应用于多种任务,比如:机器翻译、语音识别、视频行为识别等.本文首先介绍回复式神经网络的发展历程,之后阐述其网络基本原理、计算过程和网络训练方法.针对传统回复式神经网络存在的短期记忆和梯度消失问题,长短时记忆和门控回复式单元网络结构被详细地分析和对比.然后介绍回复式神经网络的热门应用领域及其相关工作.最后结合近年来工业界和学术界关于回复式神经网络的研究进展,本文总结了回复式神经网络的研究发展趋势.