数字政府视阈下的算法行政:兴起、风险与法治纠偏

随着数字政府建设目标的确立,算法技术嵌入行政成为一种必然趋势,但是算法在促进行政的同时,也带来了法治价值失序的隐忧。算法基于海量数据运算配置社会资源,辅助甚至独立作出行政行为,或许将会成为行政权行使的中枢性力量。但是,过度依赖算法可能导致强调技术理性而忽视价值理性。算法技术本身所带的内生性风险与算法应用中潜在的风险,暗含着行政权力的“技术延伸”和公民权利被侵蚀的隐患,算法行政遭受合法性和合理性的诘难,数字政府建设与法治政府建设面临耦合困境。为防范算法行政异化风险,政府的数字化必须与法治化同步建设,警惕技术理性凌驾于价值理性之上的观念,并从算法的创制、适用以及事后追责的各阶段构建起算法行政的合法性约束机制,避免“权力—权利”格局的失衡,从而促进政府数字化建设和法治化建设的深度融合。

算法行政相对人的权利及其双重保护

算法行政对于提高效率和节约资源具有重要意义,但因技术障碍与法律挚肘,也大幅增加了相对人实体权利减损、程序性权利萎缩、救济性权利虚置的风险。鉴此,有必要建立健全双重机制,全面保护算法行政相对人的权利。在技术上,应保证算法数据的科学性,算法模型的合理性,算法审计的有效性。在法律上,为防止相对人实体性权利受到侵害,应明确算法行政的适用范围与程序,规范信息收集行为,优化算法决策审查程序;为保护相对人的程序性权利,应健全算法告知程序,完善算法披露措施,构建人机协同保护机制;为保护相对人救济性权利,应健全算法选择程序,提升相对人数字能力,明确赔偿责任。

算法行政的正当程序风险及其规正

算法行政重塑了行政行为的作出方式,助力效率价值的实现,但其对技术治理的偏重也给行政正当程序带来了挑战。算法行政系统的复杂性以及平台运营的私营化阻却行政公开的实现,行政行为作出的瞬时性不断架空公众参与的可能性,同时由于算法行政所采用的人机交互的互动模式无法合理把握行政裁量和事实规范之间的因果关系,消弭正当程序中说明理由的功能发挥。因此,在运用算法行政服务数字法治政府建设时需回归行政正当程序的本体价值,在算法技术与法治约束融合发展的路径下坚守人的主体性,通过公开算法基本原理以实现政府透明性,在算法审查中吸纳社会群体实现过程民主性,并赋予行政相对人对个案申请算法解释的权利以弥合说明理由的有效性。

算法行政:文献述评与研究展望

算法在政府治理中的逐步应用推动着行政效能的提升和范式转变,也带来了一系列风险问题,需要有效规制与应对。为更好地理解算法对公共行政的系统性影响,了解现有研究全貌,进而更好地推进该领域的研究进程,论文系统梳理了相关文献,分析探讨算法行政的缘起与内涵、组织形态、效果评价、影响因素、风险类型与规制等重要议题。研究发现,算法行政是算法与公共行政融合背景下传统官僚制发展到一定阶段的新型组织模式,并在实际运行过程中呈现出多样化的组织形态。算法行政的发展受到技术与制度环境、组织能力、公共价值等多重因素影响。算法行政面临的风险包括算法系统的不透明性、技术依赖、民主问责、偏见与歧视、制度适应性等,风险规制则需从价值、技术、监管、制度和协同等多元视角来理解和进行。未来研究需进一步引入法学、政治学、图书情报学、计算机等学科的相关理论与视角,丰富多元方法的使用和场景选择,系统分析算法行政的概念内涵、形成机理、风险挑战等议题,并探索中国制度情境下的算法行政模式与研究。

论算法行政的潜在风险及法律规制

算法行政是算法技术嵌入政府治理体系形成的新型治理模式,数据、算法决策、代码与法律是算法行政生成的三大基石,重构了政府权力和组织架构。当前,算法行政存在行政权威转移、行政程序失当、行政相对人权利弱化、行政主体责任模糊等风险。故而,需要从法律层面控制算法行政风险,包括合理限制算法行政决策权、构建算法行政正当程序、赋予行政相对人算法权利以及明确主体责任归属等举措,以规范算法行政的运用与发展。

通过合同实现算法行政问责

以机器学习算法为代表的数字技术正推动算法行政的兴起。伴随着数字政府建设浪潮,当前算法行政面临多重问责困境,具体表现为算法黑箱加剧行政决策的不透明性、商业秘密阻碍算法问责、算法行政拒斥行政机构专业判断以及褫夺公民参与决策和获得救济权利。面对算法行政问责困境,合同规制进路因具有回应性、灵活性等优势,不失为一种可供选择的补充性算法治理方案。宜从总体原则、重点内容和组织保障三个维度来建构算法行政问责的合同规制进路:遵循以风险为基础的采购原则,将算法问责作为协商重点内容,建立专业算法系统采购小组,确保政府采购具有透明性和负责任的人工智能算法系统,从而实现算法问责,重塑算法行政合法性。

规范性折射与法治——算法行政的法律困境及化解

算法行政是算法与行政程序融合衍生出的新型行政模式,然而算法折射层的存在导致权利异化与风险扩张,算法与法治产生自由裁量与合理性原则、边界溢出与权责统一原则、算法黑箱与行政公开原则等伦理冲突。基于此,需发挥合力、消解冲突,以实现算法效率与风险的平衡,具体措施包括:从当事人进路出发进行算法决策,推动算法折射层的可解释性,重塑多元监管的问责体系。

算法行政的合法性危机与化解方案——基于沟通合法性的视角

在数字政府建设浪潮下,公共行政日益依赖算法。但算法行政所表征的黑箱、扭曲、不公等异化现象,昭示其合法性危机。算法虽与法律具有相似结构,以控制行政活动来担保“形式合法”,但并未当然证成其合法性。因为政府活动往往需在不同情境下考虑各种“隐性知识”,并面向持续变化的任务而调整,不能仅基于规则确定的条件与后果来决策,而需通过“沟通”来证成其合法性。引入“沟通合法性”可知,算法在运作符号、创制方式、适用方式等方面与法律具有差异,诸差异削弱了算法行政的社会沟通能力,是构成合法性危机的深层诱因。故须将“沟通”嵌入算法创制与适用阶段。在创制阶段,应发展“通告—评论”的沟通程序,即以“主题描述”为内容的算法披露和以“有序方式”进行的算法评价;在适用阶段,应强化“说明理由”和“提出异议”,强调基于场景和个案的“算法解释”和对算法方式、内容的“算法异议”,以作为补强算法行政合法性的基本进路。

比例原则规约算法行政的法理基础与路径

算法行政存在边界。权力制约与损益均衡是比例原则规约算法行政的法理基础。以政府对数字接触追踪技术的应用为分析对象,发现存在违背比例原则的算法行政实践样态,表现为目的与手段的不当联结、对公民造成非最小损害以及公共利益与个体损益的比例性失衡。为此,需要从适当性、必要性和均衡性三个维度对算法行政进行比例原则规约,明确算法行政的目的及其边界,坚持最小必要原则,实现目的与手段均衡,以确保算法行政在法治的轨道上运行。

论算法行政的技术性正当程序

算法行政面临着合理性的诘难。算法行政合理性的基础从人与人之间的关系拓展到人与类人机器之间的关系。关系的转变导致社会治理模式从中心化开始转向分布式,进而影响到公权力和私权利的平衡。这些难题在程序上表现为行政机关和其他主体沟通机制的失灵,行政平等和公开原则遭到破坏,进而导致人们对行政行为的认同感降低。技术性正当程序提出规制算法行政的愿景:法律应当保障相对人的程序性权利,维护行政公共性,追求程序正义。在技术性正当程序的引导下,通过构建人工介入的交涉机制、理性化和追求平等的算法运作方式、响应程序公开的算法透明化操作、以重点解释增强可接受性的路径,使算法行政始终以服务相对人为中心,最终满足人们的合理性期待。

算法行政的风险场景及其法律规制——基于算法法权关系架构的分析

算法行政具有客观、高效优势,但同时伴随着技术内生的不确定性风险、法律层面权力行使与权利保障的挑战,以及价值层面技术理性吞噬价值理性等桎梏,亟需法律破解。规制对象是法律制度构建之前提,将“算法法权”作为算法行政风险的法律规制对象具有合理性和可行性,通过“权力—权利”的法权结构,可实现算法行政中“私权利、公权力、私权力”的整体性规制。质言之,算法行政风险的法律规制需要以“算法法权”的科学配置为核心,建构法律、伦理、技术与自我规制一体化的规制体系。

算法行政的程序保障困境及完善

随着数字技术的不断发展,算法早已运用在公共行政当中。算法给行政活动带来的变化包括从固定场所办公到虚拟化作业、从现场执法到非现场执法及从人工裁量到算法决策。算法的特性使行政机关的行政能力得以增强,同时也对行政正当程序带来了挑战。其中,算法的不透明性及专业性冲击行政公开原则,算法歧视撼动行政公正原则,算法的封闭性动摇行政参与原则。对此,可通过增强算法行政透明程度、限制算法行政裁量空间及开放算法行政全过程的途径来保障行政公开、行政公正以及行政参与,以补全算法行政的程序缺陷。

数字政府时代背景下算法行政的风险及其防控

在大数据、智能化时代,我国政府的数字化转型也正逐步推进,数字技术深度嵌入行政权力的运作过程之中,形成新的行政运作模式,即算法行政。随着数字技术的发展,算法行政的运用场景越来越广泛,对社会生活的介入程度也越来越深,其作为一种崭新的行政模式,相较于传统行政更具精确性、高效性、中立性,对于提高行政效率,减轻行政负担具有积极作用。在算法行政为我国政府治理工作带来红利的同时,其也面对着许多不可避免的风险,例如算法错误、算法歧视、影响公众参与,泄露个人信息等。如何有效规避风险,也成为行政主体不得不面对的问题,本文从加强事前审查、加强事中权力规制和加强事后责任分配三个方面具体给出解决方案,通过风险规制,让算法更好地为行政活动服务,从而推动数字政府建设。期望推动数字政府建设。

算法行政背景下个人信息法律保护研究

当今社会,算法和算法权力已经被逐步渗透到了真实社会生活的方方面面,建立在先进科学技术基础之上的方式变革在行政规制领域中也有了初步应用,即算法行政。本文将立足算法行政的背景,就个人信息法律保护的相关内容做出深入分析和探究。

人工智能时代算法行政的公共性审视——基于“人机关系”的视野

人工智能与公共行政融合的不断加深,推动着公共行政范式向“算法行政”转换。从人机关系视野来看,算法行政最为突出的特征是人工智能体嵌入以及人类(公共管理者)角色被替代,人类必须在场的传统公共行政范式面临重构,人类不必在场的情景越来越多,使得围绕人类所建构的“人际秩序”逐渐被围绕智能技术所建构的“机器秩序”取代。人类的主体角色和理性价值开始被弱化,潜在滑向算法支配的隐忧,存在公共性流失的可能。为确保算法行政朝着改进公共治理绩效、提升公共治理价值以及优化公共利益分配的目标行进,需要高扬人类中心主义的价值旗帜,塑造人机和谐共生的链接机制,划定算法介入治理的现实边界,搭建智能算法向善的平台系统。

算法行政下食品安全监管的风险与应对--以上海“天眼”系统为例

算法基于其特有的资源整合与再造优势在现代社会愈显其突出作用,作为信息时代的产物,算法行政逐步将自动化带入社会公共治理领域,形成以算法行政为内容的新的社会治理范式。上海市的“天眼”系统就是算法行政在食品安全监管领域的创新应用。本文聚焦算法行政下食品安全监管新变化以及面临的风险挑战,通过建立评价责任机制、完善算法运行系统、落实信息公开与解释义务、明确算法决策工具属性等,实现算法行政下食品安全监管的最优化。

算法行政的扩张:制度逻辑与治理策略

以大数据、云计算、物联网、移动互联网等为代表的新一代信息技术的迅速发展,对传统公共行政模式提出了巨大挑战,数字化和智能化转型所催生的治理模式被认为是公共治理变革与发展的主要方向。在此背景下,公共行政与算法技术的融合产生了“算法行政”这一崭新的治理模式,在一定程度上促进了现代政府治理能力与水平的提高。以条块分割为主要特征的行政组织制度设计加码算法行政扩张:在纵向发包的权力收缩、横向晋升的过度竞争及治理工具的非理性化三方面制约着算法行政治理效能的充分发挥,算法行政虽然强化了行政体系的既有强项,但却无法从根本上消解行政制度内在结构缺陷。应从明确价值取向、整合数字平台、清晰评估标准、激发参与意识四个方面来优化制度结构、激发数字效能、实现治理现代化。

算法行政的架构原理、本质特征与法治化路径:兼论《个人信息保护法(草案)》

算法行政的架构原理基于三个层面依次发生。政府通过平台化改造将自身重置为规制权力技术设施的数字化连接点。智能时代的分布式信任和信息权力的再分配致使专家意见逐步让位于数据和算法。法律规范的可计算性和大数据技术的兴起使得海量数据被转换为特定的数据密集型知识形式。在信用监管创新的时代背景下,我国以统一社会信用代码为基础构建多类信用信息平台,以信用画像建模推动信用治理自主化和全周期化发展,并着力打造指数化和智能化的分级分类监管工具。算法行政虽然智能高效,却可能在决策透明度、问责度和公正性层面存在风险。我国应明确算法行政须遵循合法、透明、问责、公正、必要的原则,实施算法影响评估制度和算法审计制度,将算法行政纳入法治化发展路径。

算法行政权力及其法律规制

随着法治政府与数字政府的建设,行政权力中不断注入算法技术,但目前算法行政权力缺乏科学分类,阻碍了学术研究的深入,权力配置失衡、规制不足等问题迟滞了算法行政能力建设实践。文章认为,需通过科学的类型化厘清算法注入行政权力后规训行政权力的两个维度,从实践性、规范性、有限人类理性层面论证并构建算法行政权力自我规训的机理。在规范算法权力上,算法权力的规制不是简单的技术或法律规制问题,须尊重算法自身的逻辑,即应在厘清算法行政权力的类型和遵循算法治理逻辑的基础上,打通权力通道以寻证“算法权力”的合法性,通过行政行为分级分类框架规范构建内外型算法行政权力,并建立算法制衡算法的正当程序机制。

算法行政的兴起、风险及其防控

算法行政的高效性、精准性和中立性有助于实现政府治理的智能化转型,提升行政决策的科学化水平。与此同时,算法滥用也可能会产生“技术利维坦”对政府公信力、算法“权力异化”对公共性、数据不公正对社会公平、算法越界对个人隐私的侵犯等诸多风险。算法行政风险给社会公平公正和民众合法权益带来新的挑战。从事前、事中、事后防控算法行政风险的路径包括:通过建立算法分级制度、公开透明的运行机制、安全评估系统,推进事前审查评估;通过建立国家主导的算法机构、依法行政的法治底线、合理应用领域清单,推进事中的权力规制;通过提高算法的可解释性、完善算法行政的监管制度,推进事后的相关规范。