大模型的安全风险及应对建议

习近平总书记指出:“要重视通用人工智能发展,营造创新生态,重视防范风险”。近年来,以生成式预训练大模型(GPT)为代表的生成式人工智能大模型(简称“大模型”)迅猛发展,显著提升了通用理解和生成能力,但也带来了前所未有的安全风险。本文在梳理当前大模型的认知应用、信息应用和物理应用三类应用模式的基础上,分析其对国家安全的冲击。因此,本文建议建立国家级大模型安全科技平台,抢占人工智能安全科技制高点,突破大模型安全关键技术,培育人才队伍,助力人工智能安全产业集群发展,为人工智能大模型的可持续健康发展保驾护航。