专题序言一

党的二十大报告强调:“推动战略性新兴产业融合集群发展,构建新一代信息技术、人工智能、生物技术、新能源、新材料、高端装备、绿色环保等一批新的增长引擎。”生成式人工智能已成为引领新一轮科技革命和创新的重要驱动力。作为全球最大的发展中国家,我国在生成式人工智能领域取得了令人瞩目的成绩,成为全球科研和应用的重要力量。

下一代深度学习的思考与若干问题

尽管深度学习技术得到了长足的发展,然而发展过程中,存在诸多理论问题需要进一步深入的研究和关注。深度学习的基本思想就是模拟人脑的信息处理机制,希望能够对自然信息,尤其是声音、语言、文字、图像进行很好的处理。而这些是传统的计算机方法难以做到的。但是目前深度学习对于人脑的知识处理机制和推理机制了解的还不够,同时也实现的不够。深度神经网络主要是通过学习和优化来实现对数据的计算处理,从而产生了对海量大数据样本的训练问题、稀疏编码与表征问题、泛化问题、可解释性问题和鲁棒性问题。下面从从类脑启发、物理启发和进化启发等三个方面讨论深度学习的表征、学习与优化理论。