PYNQ中实现SoftMax函数加速器

Implement softMax function accelerator in PYNQ

SoftMax函数通常在深度学习中作为激活函数使用,但其计算涉及自然指数和除法运算,传统PC机上计算较慢,拖累了一个神经网络的训练。本文针对自然指数运算的特点,提出了一种名为基底拆分法的新方法。该方法将SoftMax函数中自然指数计算拆分为多个由查找表实现的特定基底上,通过这种方法,一个复杂的自然指数计算过程即可由查找表过程和乘法过程实现。这种方法有效的降低了硬件复杂度以及逻辑传播延时。由于该方法中使用了自定义的数据结构,因此本文采用了CPU+FPGA的架构,通过合理分工,加速SoftMax函数计算。同时,本文将基于这种方法设计的IP核在PYNQ-Z2开发板上进行了板级调试。