从“智人”到“恶人”:机器风险与应对策略——来自阿西洛马人工智能原则的启示

智能机器领域是国家治理体系与治理能力现代化中的关键一环,其能否健康发展关系到公共安全治理水平。在智能机器的输出浪潮中,日益凸显的技术滥觞现象表明,机器智能化虽有助于城市革新,但其背后仍藏有犯罪风险,主要表现为新型网络分离主义运动、机器支援型犯罪和算法黑箱等。作为当代人工智能大宪章,阿西洛马人工智能原则的出台,旨在确保智能技术迸发时人类能够及时规避科技风险,因其就智能机器的良性发展作出了全方位的制度性安排,而满足各国对人工智能新一轮军规的探索需要。将这些原则置于中国语境下来审视目前的机器风险治理方案,发现本土规划留有一定的改良空间,具体方案是鼓励公众和专家参与对话,顺畅社会力量与公共政策的衔接;调整立法方向,加强法治与伦理的互补;细化智能机器产品市场运营规则,实现秩序与自由的平衡。