边端融合的终端情境自适应深度感知模型

研究边端融合的深度模型终端情境自适应问题.提出边端融合增强的模型压缩方法(X-ADMM),利用模型压缩技术简化模型结构,以层为粒度寻找模型最佳分割点,协同边端设备提高运行效率.为了实现模型分割的动态自适应,提出基于图的自适应深度模型手术刀算法(GADS).当模型运行情境(如存储、电量、带宽等)发生变化时,优先在邻近分割状态中快速搜索最能满足资源约束的分割点,实现快速自适应调整.实验结果表明,该模型平均在0.1 ms内实现了模型分割点的自适应调优,在保证模型精度下降不超过2.5%的情况下,运行总时延最高下降了56.65%.

深度学习模型终端环境自适应方法研究

随着人工智能和物联网的快速发展与融合,智能物联网AIoT正成长为一个极具前景的新兴前沿领域,其中深度学习模型的终端运行是其主要特征之一.针对智能物联网应用场景动态多样,以及物联网终端(智能手机、可穿戴及其他嵌入式设备等)计算和存储资源受限等问题,深度学习模型环境自适应正成为一种新的模型演化方式.其旨在确保适当性能的条件下,能自适应地根据环境变化动态调整模型,从而降低资源消耗、提高运算效率.具体来说,它需要主动感知环境、任务性能需求和平台资源约束等动态需求,进而通过终端模型的自适应压缩、云边端模型分割、领域自适应等方法,实现深度学习模型对终端环境的动态自适应和持续演化.本文围绕深度学习模型自适应问题,从其概念、系统架构、研究挑战与关键技术等不同方面进行阐述和讨论,并介绍我们在这方面的研究实践.