边缘侧神经网络块粒度领域自适应技术研究

深度神经网络在边缘设备上运行时会面临模型缩放和域自适应2个挑战,现有的模型缩放技术和无监督在线域自适应技术存在缩放粒度粗、缩放空间小和在线域自适应时间长的问题。针对这2个挑战,提出一种块粒度的模型缩放和域自适应训练方法EdgeScaler,它包括离线和在线2个阶段。针对模型缩放挑战,离线阶段能够从各种DNN中检测和抽取块,并将其转换为多个派生块;在线阶段基于块和块之间的组合,提供大规模的缩放空间,解决模型缩放问题。针对域自适应挑战,设计了一种针对于块的残差Adapter,在离线阶段将其插入块中;在线阶段当新的目标域到来时,对所有的Adapter进行训练,解决块粒度缩放空间中所有选项的域自适应问题。在真实的边缘设备Jetson TX2上的测试结果表明,在提供大规模缩放选项的基础上,所提方法可以将域自适应训练时间平均减少85.14%,训练能耗平均减少84.1%。