人工智能系统的规制

人工智能系统的大规模应用向法律提出了巨大挑战。由于目前智能系统的发展尚未达到人类智能的水平,人工智能系统的不可预测性和不可控性将会引发一系列问题,因此有必要对人工智能系统应用模式进行监管。目前人工智能系统有三个核心技术要素,即数据、算法和人工干预。这三个要素对于监管原则的确立有着锚定作用,同时也是监管制度实施的着力点和立法调整的规制对象。监管人工智能系统的最大障碍是它的决策过程难以被相对人理解,这意味着人工智能系统需要在决策过程中保持高透明度,以此确保可理解性。但高透明度是难以通过事后的决策解释来实现的,而应当是通过决策时系统提供决定理由来实现的。因此有必要建立一个基于智能系统决策的理由和监管架构,在架构中将机器决策纳入法律程序中。这样的架构可以使得决定方和相对方充分交换意见,使得个人真正成为数字化秩序的主体,而不是客体。