摘要
人工智能(AI)的发展经历了符号系统、基于统计的机器学习之后,进入了深度学习阶段.在2017年Transformer出现之后进入了快速发展期,先后出现了GPT、BERT、T5等基于自监督学习的预训练模型,并兴起了预训练模型基础上的微调范式.随后以ChatGPT为标志,在预训练模型中加入了有监督的微调和基于人类反馈的强化学习,AI进入了大模型时代. AI模型和系统在参数量、任务性能、应用场景等方面都实现了飞跃式的突破.在海量数据上训练的百亿、千亿乃至万亿参数规模的大模型,具备了少样本学习、推理解释和对话式交互的能力,在多任务上展现了接近甚至超过人类水平的通用能力,向着通用AI迈出了第一步.
出处
《计算机研究与发展》
EI
CSCD
北大核心
2023年第9期1925-1925,共1页
Journal of Computer Research and Development
