政务智能化视域下“算法影子官僚”逐利风险的样态、成因与防范

人工智能等新技术嵌入公共治理实践,在提升治理效率的同时,也带来了治理挑战。科技企业通过公私合作实现从商业主体到“算法影子官僚”的转变,带来了商业利益凌驾于公共利益之上、算法权力侵蚀公权力和政企双方责任归属模糊等风险。“算法影子官僚”的逐利偏向与政府部门面临的公共问责冲突的生成,主要是源于双层委托代理的目标冲突、“算法影子官僚”的“经济人”属性、技术依赖与政府俘获以及政民双方重视不足等因素。基于此,政府要防范“算法影子官僚”的逐利风险,须完善法律政策体系,强化技术主体的责任意识;创新政府监管模式,防范算法独裁的可能性;建立公众监督机制,提高公众的参与度;多主体协作治理,保障服务的公共性。

警惕公共治理中算法影子官僚的风险

在人工智能时代,算法在改善公共管理绩效的同时,也带来了潜在的治理风险。在商业逻辑的支配下,算法公司可能通过程序设定将算法植入公共部门,并将算法优势嵌入公共部门的投入、过程与产出等环节,以期为获得更多的财政资金制造机会,进而充当算法影子官僚,不断扩大算法权力在公共领域的影响。算法影子官僚以盈利思维驱逐公共价值,以算法权力消解公共权力,以算法秩序支配公共领域的资本逻辑将严重背离人本价值,致使公共部门日益空心化。政府与算法影子官僚在本质上是委托代理的关系。因此,消除算法影子官僚对政府潜在的负面影响,关键在于降低算法公司与政府之间的算法不对称,治本之策是坚持以人为中心的公共治理,避免政府过度依赖算法。