欧盟生成式人工智能立法实践及镜鉴

生成式人工智能利用海量未标记数据和合成数据进行持续训练,依赖深度神经网络等机器学习技术逐渐形成自主的行为能力,输出新颖结果、应用日趋广泛,正深刻改变着人际间的互动方式,其模型开发的资源密集型特性也促使复杂价值链条形成。生成式人工智能在运行节点的技术跃迁,引发了版权侵权、数据偏见、能耗过大、风险难测、虚假信息传播以及损害认定困难等监管挑战。欧盟人工智能法作出紧急回应,以“通用人工智能模型”为概念中枢,经由“通用人工智能系统”过渡,将生成式人工智能纳入“人工智能系统”范畴;输入端从数据数量和数据质量双管齐下设置合规义务,处理端引入“高影响能力”的自主性程度判断标准,并将“具有系统性风险的人工智能”嵌入风险分类分级制度,输出端则设计“检测、披露和透明度”等义务来规制虚假信息传播,部署端也专门设计价值链上的责任分配专条。虽然欧盟立法为应对生成式人工智能风险作出了努力,但在“抽象定义的确定性”“衡量数据训练效果的方法”“高级模型与小型模型之区分”“系统性损害的确定”以及“API接口和开源模式对价值分配的影响”等方面仍有继续完善的空间。

欧盟人工智能的实验主义治理路径及中国借鉴

欧盟《人工智能法》采用的实验主义治理路径,借由多主体试错学习快速形成经验,能够及时回应人工智能技术的最新发展。与理论先行的理性主义治理路径相比,实践先行的实验主义治理路径设想建立一种基于契约的合作监管模式,实现监管关系的创新性;倡导设置分级分类的实验性框架目标,为新事物留足发展空间,实现监管目标的创新性;提倡构建扁平化的网状监管结构,将实验信息迅速上升为治理策略,实现监管结构的创新性。面对人工智能等新兴技术的监管问题,中国政府也在最新的人工智能治理策略中采用实验主义治理路径,并于2024年建成国内首个实验性人工智能训练基地。同时,为了防止行业自我监管的情况出现,中国政府可以根据分级分类的理念,对实验主义治理路径的适用领域和适用场景进行合理布局。

欧盟《人工智能法》中的风险防控机制及对我国的镜鉴

欧盟《人工智能法》是世界上第一部促进人工智能安全发展的区域性国际法律文件,将人工智能系统定性为自主性工具,立足于人工智能安全风险全球化视角,以保障本土安全与发展利益为导向,规定了针对不同类型人工智能安全风险的、全过程多方协同防控机制。该法根据风险的类别和大小程度,将防控对象分为禁止的人工智能活动、人工智能系统和通用人工智能模型三大类六小类,分别采取禁止和不同程度的管控措施,重点防控高风险人工智能系统和通用人工智能模型的安全风险。以上防控机制主要通过规定人工智能安全管理义务及其处罚规定来实现,重点规定了高风险人工智能系统和通用人工智能模型的要求及相关方的安全管理义务,并对违反不同义务的自然人、公司以及欧盟机构、部门或实体设置了与行为人类型及义务相称的罚款。我国制定人工智能安全立法应考虑借鉴该法的成功经验,同时避免其出现的防控不全面不充分、法律责任制度存在缺漏、风险防控责任分配不合理等缺点。