行动者互动视域下算法影子官僚异化风险

以算法公司为组成主体的算法影子官僚参与数字政府建设,一方面极大提升数字政务服务能力,另一方面却利用算法优势将政府裹挟进黑箱之中,对数字政府建设造成威胁。本研究在已有研究基础之上,从以行动者为中心的互动视域出发,在宏观制度环境、微观互动逻辑中分别建构理论与现实的具体对话,探究算法影子官僚与政府部门多重行动主体之间互动样态及诱因,以此有效回应已有研究对于行动者之间互动关系结构样态与诱因论证的简单化、笼统化倾向。研究发现,互动关系失衡的异化风险具体表现为依存于固有的委托代理协作关系之下的算法黑箱风险,以及潜藏于层级协调机制所引致的行政偏差之下的隐秘共谋风险。这本质上是由算法黑箱和制度真空双重维度引致的治理堕距造成的,应从法律法规、价值规范、人才引培、监管治理等方面进行针对性化解。

政务智能化视域下“算法影子官僚”逐利风险的样态、成因与防范

人工智能等新技术嵌入公共治理实践,在提升治理效率的同时,也带来了治理挑战。科技企业通过公私合作实现从商业主体到“算法影子官僚”的转变,带来了商业利益凌驾于公共利益之上、算法权力侵蚀公权力和政企双方责任归属模糊等风险。“算法影子官僚”的逐利偏向与政府部门面临的公共问责冲突的生成,主要是源于双层委托代理的目标冲突、“算法影子官僚”的“经济人”属性、技术依赖与政府俘获以及政民双方重视不足等因素。基于此,政府要防范“算法影子官僚”的逐利风险,须完善法律政策体系,强化技术主体的责任意识;创新政府监管模式,防范算法独裁的可能性;建立公众监督机制,提高公众的参与度;多主体协作治理,保障服务的公共性。

警惕公共治理中算法影子官僚的风险

在人工智能时代,算法在改善公共管理绩效的同时,也带来了潜在的治理风险。在商业逻辑的支配下,算法公司可能通过程序设定将算法植入公共部门,并将算法优势嵌入公共部门的投入、过程与产出等环节,以期为获得更多的财政资金制造机会,进而充当算法影子官僚,不断扩大算法权力在公共领域的影响。算法影子官僚以盈利思维驱逐公共价值,以算法权力消解公共权力,以算法秩序支配公共领域的资本逻辑将严重背离人本价值,致使公共部门日益空心化。政府与算法影子官僚在本质上是委托代理的关系。因此,消除算法影子官僚对政府潜在的负面影响,关键在于降低算法公司与政府之间的算法不对称,治本之策是坚持以人为中心的公共治理,避免政府过度依赖算法。