算法秩序的属性、价值与运行

随着数字技术的迅猛发展,信息处理和控制能力成为第四次工业革命背景下政治行为基本模式中的重要因素,这也促使政治秩序形成新的工具体系和空间场域。作为政治活动的重要价值取向,政治秩序在数字空间体系中呈现出全新的运行特征。算法化技术体系运行模式不仅重构了政治秩序运行的基本属性,也带来了政治秩序价值体系形态与运行模式的革新。当前,算法秩序所具有的逻辑属性、政治属性和技术属性,使得其在技术理性、社会控制、权力运行方面体现出特定价值。在此基础上形成的符号秩序、拟像秩序与信息秩序等形态,对思考政治运行的技术属性和社会发展作用机制有重要意义。

算法家长主义现象及其伦理反思

新兴智能科技日益发展,不断推进算法系统与功能的快速迭代。算法从一种演算程序和计算策略逐步异化为一种算法权力意志,即依据其自身的特性与逻辑发挥作用,而这种意志势必会为其自身的强权行为谋求某种合法性与正当性,这便与家长主义立场不谋而合,这使得算法貌似为其自身的强权行为获得了一定程度的道德辩护。这一情形将会合理化算法原有的问题,也会带来值得我们慎思与警惕的新问题、新风险。鉴于此,我们详细论证了算法的家长主义倾向是如何可能的。在此基础上,对算法家长主义可能带来的问题与风险进行伦理反思与批判,即警惕算法家长主义为算法权力提供正当性辩护,慎思算法家长主义为平台权力提供合法性辩护,批判算法家长主义为现存算法秩序提供合理性辩护。

人工智能时代的算法正义与秩序构建

算法从来就不是客观和中立的,通常算法由谁来制定、遵循何种规则和如何被执行反映的是设计者的价值选择与社会分配正义问题。就此而言,算法即规则,而规则即统治,算法已然成为人工智能时代社会变革的关键驱动力量和新秩序的塑造者。然而,作为一种新式的权利和财富分配工具,算法在赋权一部分人的同时,算法滥用、算法误用以及算法垄断也在排斥和边缘化另外一部分人。算法歧视主要源自以下三种形成机制:原生性偏见、学习性偏见和外源性偏见。算法偏见与一般偏见不同,一旦形成不仅难以消除,而且极易产生社会放大效应。治理和规约算法偏见需要遵循以下四原则:授权同意原则、透明性原则、问责求偿原则以及人的价值和尊严优先原则。进而,在算法开发者、应用者、销售者、传播者以及管理者之间建立沟通桥梁并设立管控机制,以便将算法伤害和算法偏见收缩到最小,形成一个公平、公正的算法秩序。

警惕公共治理中算法影子官僚的风险

在人工智能时代,算法在改善公共管理绩效的同时,也带来了潜在的治理风险。在商业逻辑的支配下,算法公司可能通过程序设定将算法植入公共部门,并将算法优势嵌入公共部门的投入、过程与产出等环节,以期为获得更多的财政资金制造机会,进而充当算法影子官僚,不断扩大算法权力在公共领域的影响。算法影子官僚以盈利思维驱逐公共价值,以算法权力消解公共权力,以算法秩序支配公共领域的资本逻辑将严重背离人本价值,致使公共部门日益空心化。政府与算法影子官僚在本质上是委托代理的关系。因此,消除算法影子官僚对政府潜在的负面影响,关键在于降低算法公司与政府之间的算法不对称,治本之策是坚持以人为中心的公共治理,避免政府过度依赖算法。