基于知识蒸馏的道路交通标志识别神经网络

自然场景下的交通标志识别易受到光照、遮挡和模糊等因素的干扰,从而影响检测精度;同时现有的深度学习模型参数量多、计算复杂度较高导致模型推理时间较长。提出了一种基于知识蒸馏的神经网络架构AFE-ViT(adaptive feature extraction-vision Transformer)用于道路交通标志识别,该架构由自适应特征提取模块和轻量级ViT(vision Transformer)分类器组成,其融合了图像中局部和全局特征信息,对自然场景下的道路交通标志识别具有更好的适应性。其中,自适应特征提取模块结合了InceptionNetV1、SKNet思想和残差结构,实现了多感受野的自适应选择,并作为ViT的前置模块,有效提高了特征提取效率。选择ResNet18作为教师网络,AFE-ViT作为学生网络,采用特征级和输出级知识蒸馏方法对AFE-ViT进行蒸馏,压缩模型参数。实验结果表明,该方法的识别准确率可达98.98%,模型参数量仅为9.9×105,表现优于同类深度学习模型。