深度学习应用技术研究

针对深度学习应用技术进行了研究性综述。详细阐述了RBM(受限玻尔兹曼机)逐层预训练后再用BP(反向传播)微调的深度学习贪婪层训练方法,对比分析了BP算法中三种梯度下降的方式,建议在线学习系统采用随机梯度下降,静态离线学习系统采用随机小批量梯度下降;归纳总结了深度学习深层结构特征,并推荐了目前最受欢迎的五层深度网络结构设计方法。分析了前馈神经网络非线性激活函数的必要性及常用的激活函数优点,并推荐Re LU(rectified linear units)激活函数。最后简要概括了深度卷积神经网络、深度递归神经网络、长短期记忆网络等新型深度网络的特点及应用场景,归纳总结了当前深度学习可能的发展方向。

深度学习应用技术探讨

深度学习作为当今计算机智能产业中重要的一支,其在计算机视觉、语音识别、自然语言的处理方面已经有了相当规模的应用。以深度学习技术在现实的具体应用为目标进行分析研究,已经成为当代计算机技术中的热门。本文通过分析逐层预训练后再用微调的深度学习贪婪层训练方法,深入了解了深度学习深层结构的特点,同时涉猎时下最流行的五层深度网络内部组成。通过认真研究相关内容,展望了深度学习的未来前景。