期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
面向深度学习训练的内存交换机制综述 被引量:1
1
作者 高赫然 吴恒 +3 位作者 许源佳 李修和 王焘 张文博 《软件学报》 EI CSCD 北大核心 2023年第12期5862-5886,共25页
随着深度学习技术的快速发展和深入应用,深度学习训练规模持续增大,内存不足已成为影响深度学习可用性的主要瓶颈之一.内存交换机制是应对深度学习训练内存问题的关键技术,该机制利用深度学习训练内存需求的“时变”特征,在专用计算加... 随着深度学习技术的快速发展和深入应用,深度学习训练规模持续增大,内存不足已成为影响深度学习可用性的主要瓶颈之一.内存交换机制是应对深度学习训练内存问题的关键技术,该机制利用深度学习训练内存需求的“时变”特征,在专用计算加速设备内存与外部存储之间按需移动数据,通过瞬时内存需求替代累积内存需求,保障深度学习训练任务的运行.对面向深度学习训练的内存交换机制进行综述,以深度学习训练内存需求的时变特征为研究视角,分别针对基于算子运行特征的内存换出机制、基于数据依赖关系的内存换入机制以及效能驱动的联合换出与换入决策等重要研究工作进行了总结分析,并针对该技术领域的发展方向进行了展望. 展开更多
关键词 深度学习训练 内存交换 内存需求特征
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部