算法影响评估的三个基本问题:制度定位、机制模式与改革启示

人工智能技术和应用的迭代创新正在推动算法影响评估作为一种新的并在全球兴起的技术治理制度。虽然继承了环境影响评估、数据保护影响评估等类似制度的部分要件,但算法应用浮现出的社会嵌入性、难解释和难穷尽、公平性悖论等新特征,要求算法影响评估作出新的制度发展。在比较既有两类影响评估制度逻辑的基础上,指出算法影响评估的制度内涵在于平衡“开放性”和“责任性”,并最终致力于形成合作治理框架,以实现动态积累治理经验与知识的目标。通过对欧盟、美国、英国、加拿大等主要国家或地区算法影响评估的实践梳理,认为列表清单、底线规制、放权赋能等三种实践模式在体现各自特征的同时仍然存在不足。由此启发,算法影响评估的制度构建应围绕“合作治理作为制度目标、探索平衡开放性与责任性的关键机制、坚持‘技术-组织-社会’的系统论思维”三个维度展开,而相应的机制设计将助力算法影响评估制度的改革完善与实践应用。