算法权力的兴起、异化及法律规制

Algorithm Power:Rise,Alienation and Regulation

在人工智能时代,具有自主学习与决策功能的智能算法与人的行为分离并超越了工具化范畴。算法基于海量数据运算配置社会资源,直接作为行为规范影响人的行为,辅助甚至取代公权力决策,从而发展为一支新兴的技术权力。算法权力以处理海量数据的机器优势、基于复杂算法生态的架构优势与对社会权力运行的嵌入优势为基础,形成了跨越性与隔离性的特征。由于缺乏有效规制,算法权力在商业领域形成与消费者的不公平交易,催生了监视资本主义;在公权力领域嵌入公权力运行的各个环节,甚至成为独立的决策者,严重挑战正当程序制度和权力专属原则。防范算法权力异化,应建立限权与赋权的制度体系。限权制度包括明确算法的应用范围与限制条件,建立正当程序制度和算法问责机制;赋权制度包括赋予公民个人数据权利,建立事后救济制度,加强行业自律以及引入第三方参与合作治理。