基于K-Means聚类的改进模型压缩算法

为了使神经网络模型拥有更好性能,神经网络模型被搭建的更深、更大,其复杂度、参数量、功耗也随之增加,这使得深度学习在移动端的应用发展遇到阻碍。为了压缩网络模型大小,实现移动端的工程应用,文章提出了一种基于K-Means聚类的模型压缩算法。该算法通过对权重参数进行层级聚类,而后建立层间索引完成参数共享,实现模型压缩,再对网络模型进行恢复训练,得到性能最优网络模型。实验结果表明:当k=30时,网络模型在移动端的有良好的性能,能满足工程应用的需要。