-
题名基于深度学习的类别增量学习算法综述
被引量:7
- 1
-
-
作者
周大蔚
汪福运
叶翰嘉
詹德川
-
机构
计算机软件新技术国家重点实验室(南京大学)
-
出处
《计算机学报》
EI
CAS
CSCD
北大核心
2023年第8期1577-1605,共29页
-
基金
国家自然科学基金(61773198,61921006,62006112)
国家自然科学基金委员会与韩国国家研究基金会合作研究项目(61861146001)
+1 种基金
江苏省自然科学基金(BK20200313)
计算机软件新技术协同创新中心资助。
-
文摘
近年来,深度学习模型在众多领域取得了广泛成功.现有的深度学习模型大多部署在静态环境下,依赖提前收集好的数据集进行离线训练,模型一经确定,便无法进一步更新.然而,现实中开放动态的环境往往存在以流形式不断到来的数据,包括随时间演进不断产生的新类别数据.因此,理想的机器学习模型应能够从流式数据中不断学习新类,从而增强自身的判别能力.这样的学习范式被称作“类别增量学习”(class-incremental learning),且近年来已成为机器学习领域的研究热点.面对流式数据,直接使用新类别样本训练模型会使其遗忘旧类别的数据,造成整体性能的下降.因此,设计增量学习模型时,需确保模型在学习新类的同时也能够抵抗灾难性遗忘.本文从机器学习的三个重要方面(数据层面、参数层面、算法层面)着眼,总结和归纳近几年基于深度学习的类别增量学习算法.此外,本文还在基准数据集上对10种典型算法进行了实验验证,并从中总结出适应类别增量学习的一般性规律.最后,本文对基于深度学习的类别增量学习算法目前存在的挑战加以分析,并展望未来的发展趋势.
-
关键词
类别增量学习
持续学习
开放动态环境
灾难性遗忘
模型复用
-
Keywords
class-incremental learning
continual learning
dynamic environment
catastrophic forgetting
model reuse
-
分类号
TP311
[自动化与计算机技术—计算机软件与理论]
-