深度学习中激活函数权重初始值的选取

在深度学习的过程中,激活函数的选取是非常重要的,对于不同的激活函数如何选择合适的权重初始值是本文研究的重点。本文主要就激活函数权重初始值的选取提出问题,根据相关资料的查询选择几个较为特殊的权重初始值在不同激活函数上进行验证实验,得出不同激活函数对应的最佳的权重初始值的组合。