论算法行政的技术性正当程序

算法行政面临着合理性的诘难。算法行政合理性的基础从人与人之间的关系拓展到人与类人机器之间的关系。关系的转变导致社会治理模式从中心化开始转向分布式,进而影响到公权力和私权利的平衡。这些难题在程序上表现为行政机关和其他主体沟通机制的失灵,行政平等和公开原则遭到破坏,进而导致人们对行政行为的认同感降低。技术性正当程序提出规制算法行政的愿景:法律应当保障相对人的程序性权利,维护行政公共性,追求程序正义。在技术性正当程序的引导下,通过构建人工介入的交涉机制、理性化和追求平等的算法运作方式、响应程序公开的算法透明化操作、以重点解释增强可接受性的路径,使算法行政始终以服务相对人为中心,最终满足人们的合理性期待。

技术性正当程序在网络平台治理中的运用——以企业合规管理为视角

当前,由“技术+规则”双轮驱动的平台自治成为首要的网络平台治理方式。而平台权力的兴起及可能的异化风险,要求加强对平台的规制和监管。整体上,技术性正当程序具有的“宽”“疏”“广”“严”四项特征与平台治理的特殊场景相适应,成为破局的关键。在平台规则的制定、执行和申诉处理阶段,技术性正当程序分别强调听取意见、说明理由和提供有效的权利救济。为促进技术性正当程序的落地实施,应当建立多层次、灵活的程序合规体系和创新监管手段督促平台实现程序合规,并建立高效、常态的第三方算法审计制度,以全面提升对平台生态的治理能力和治理水平。

自动化公共信用评价的程序控制--以技术性正当程序为视角

公共信用评价是整个信用规制过程中的关键阶段,它既是信用信息收集发挥价值的方式,也是分级分类监管的依据。受传统消费者信用评价机制的影响,算法自动化决策系统广泛应用于公共信用评价中,形成所谓的自动化公共信用评价。作为一种重要的规制工具,自动化公共信用评价有助于增强政府规制的精准性和针对性,并降低规制成本,但因其本身的不透明性、封闭性和复杂性等特征,也对传统的正当程序原则提出了挑战。“技术性正当程序”是正当程序原则在自动化行政时代的新发展,可以为自动化公共信用评价的程序控制提供解决方案。秉持最朴素的自然正义价值,基于受告知、听证、说明理由、公开等正当程序要素,政府部门应当通过算法信息公开、算法影响评估、算法解释、算法审计等机制强化自动化公共信用评价的公正性、透明性和可问责性,保障公民的程序性基本权利。

自动化行政的技术性正当程序规制研究

技术跃迁诱发行政机关对数字技术的拓深应用,行政许可、行政处罚等公共行政迎来了自动化行政时代。自动化行政具有的算法特征导致法律赋予相对人的陈述、申辩、说明理由、听证等程序性权利被悬置。技术性正当程序是正当程序的数字化延伸。应通过对自动化行政构成要素的提取、要素关系的梳理及要素价值的论证,构建解决自动化行政正当程序问题的“四维度八要素”规制框架,丰富技术性正当程序理论的时代内涵。在将该规制框架转化为法律制度的过程中,应立足于我国自动化行政的规范实践,从理念革新与制度构建两方面形成自动化行政的技术性正当程序规制进路。

数字时代的技术性正当程序:理论检视与制度构建

伴随数字时代信息技术的高速发展和自动化行政的广泛应用,行政法中的正当程序模态正面临全方位的挑战。通过一系列制度方案,对包括行政相对人在内的社会公众予以全过程、全方位的赋能,是确保人在自动化行政过程中充分享有正当程序保障的关键。以赋能为核心旨趣,以提升人的信息能力和行动能力为出发点,技术性正当程序的既有实践和理论主张可被重构为一套理想化模型,这一模型具体包含全程参与、原理公开、充分告知、有效交流、留存记录、人工审查六方面内容。我国立法实践中已有不少能够体现技术性正当程序内在价值的制度设计,未来还需探索建立层次化的原理解释机制、标准化的记录留存机制、结构化的人工介入机制,形成技术性正当程序的完整制度方案。

技术性正当程序:人工智能时代程序法和算法的双重变奏

人工智能的广泛运用正在重塑政府的运作方式,现代社会的权力形态和权力结构均发生改变,算法权力悄然兴起。与此同时,传统行政程序在人工智能的适用场景中失去了原有的效用,诸如“听取意见”、“说明理由”等权利保障措施,对于瞬间即作出决定的自动化机器几无适用的余地,这意味着行政法的关注焦点需要从传统行政程序向计算机程序算法拓展。对算法权力的规制和监督,需要从算法设计的源头构建“技术性正当程序”,即通过程序的代码化实现下列要求:算法公开、透明并具有程序一致性;算法具有可解释性,能提供决策的相关逻辑和实质性信息;对决策结果允许质疑,在专业人员协助下审查算法,有错误及时修正,等等。技术性正当程序要求行政法与时俱进,跟得上技术发展的步伐。

现象、原理和规制:人工智能司法与刑事程序正义的融合之路

在数字化时代,大数据分析和机器学习算法等人工智能技术已经在刑事司法中得到深度应用,并且在预测警务、犯罪风险评估、量刑决策辅助等法律事项上发挥出技术层面的效率优势。同时,也必须清醒地认识到,人工智能介入刑事司法活动当中,对传统刑事程序正义理论的基本理念和价值产生技术性冲击,尤其是算法偏见和算法黑箱等难以避免的技术难题可能在一定程度上侵蚀了裁判中立原则、程序公开原则、程序对等原则和程序参与原则。但是,在弱人工智能司法的现实语境下,刑事程序正义理论因为司法活动中人的主体性依旧可以发挥规制作用,而在人工智能司法中贯彻程序正义的理论基础在于尊严理论、司法公信力理论以及分布式道德责任理论。最后,刑事程序正义理论应当借鉴技术性正当程序理念,通过引入机器决策风险提示、算法透明原则、算法审计以及算法问责机制等举措来实现技术赋权,强化对当事人的诉讼权利保障。

生成式人工智能使用者的透明度义务——以ChatGPT介入学术论文创作为视角

生成式人工智能的基本功能是生成类似于人类创作的结构性内容。在使用生成式人工智能的过程中,人机关系具有隐蔽性与混合性特征,从而改变了传统的学术论文创作方式和评价方式。应给使用者设定透明度义务,令其记录、披露使用生成式人工智能的创作过程、关键要素和生成内容,将其作为评价根据、责任基础与信任保证。透明度义务既有认识功能,也有问责功能。在认识论方面,透明度义务为鉴别、区分和评价学术论文的创新性与作者的创造性、作者的学术贡献与生成式人工智能的学术贡献提供了可追溯的完整记录。在问责方面,透明度义务是技术性正当程序的基本构成要素,是实现可视正义的责任机制,其履行能够保障学术诚信、保证学术公平和学术责任。

算法决策场景中就业性别歧视判定的挑战及应对

就业性别歧视对女性求职者受宪法所保护的平等权、劳动权造成现实的侵害风险。对就业性别歧视判定标准问题,学界已有较为丰富的研究,但传统判定标准在算法时代遭遇适用困境。算法掩盖下的就业性别歧视具有自主性、隐蔽性、延续性和结构性等特征,这不仅可能对求职者的权利主张造成过重的举证负担,亦无法解决算法供应商等第三方主体的归责问题。因此,应当从事前与事后两个维度,探讨对算法就业性别歧视进行有效规制的路径。在概念界定上,应通过扩充就业性别歧视概念的外延,将算法就业性别歧视纳入到反歧视法的规制范围内,使新加入的算法供应商等第三方主体参与到责任分担过程。通过在算法决策过程中引入技术性正当程序理论及其机制框架,搭建起权力主体配合下的“理解—参与”模式,借助合规审计追踪、算法解释等方式,有效控制算法就业性别歧视的风险,保障女性求职者平等权和人格尊严等权益。

论自动化行政过程的公众参与

数据驱动的自动化决策技术的不断发展推动了自动化行政的兴起。公众参与自动化行政对于助推数字法治政府建设、防范算法权力滥用具有显著的积极作用。然而,自动化行政过程中的公众参与实践面临缺乏法律依据、参与渠道有限、参与能力不足、参与效果欠佳等问题。加强自动化行政过程中的公众参与,应以技术性正当程序理论为支撑,完善决策参与、过程参与、末端参与三个阶段的制度建设,对包括行政相对人在内的社会公众予以全过程、全方位赋能。未来应从厘定公众参与的边界、明确原理说明的义务、设定人工干预请求权等方面入手,构建和完善公众参与自动化行政的机制。

自动化行政视角下算法权力的异化风险及规制

人工智能时代算法兴起,算法深入社会治理方方面面,对社会大众的行为形成支配力,演化成算法权力。算法技术广泛应用于自动化行政场景,使得算法权力与行政权交织。一方面,算法权力加剧了行政权的扩张,挤占了私权利空间;另一方面算法权力架空行政权力,一定程度上取代行政机关成为决策者。理应通过构建技术性正当程序实现对算法权力的规制,通过明确算法责任归属解决归责难的问题,通过优先保障行政相对人个人信息使相对人权益得到保障。

大数据技术在警察执法中的应用及挑战

在前大数据时代,公安机关已经不同程度地运用现代信息技术以辅助法律的执行。大数据技术的兴起不仅能更准确地预测违法行为的时空分布、实现对于个体行为的监控与危险评估,还有助于了解执法过程中的风险点和社会公众的需求。我们在肯定大数据对警察执法带来益处的同时,也要认识到其对既有的执法理论和实践所带来的挑战,具体包括虚假的确定性、执法权力的扩大、执法合理性的缺失以及程序设计者的自由裁量权。作为应对举措,我们在充分利用大数据技术辅助执法时,需要明确大数据技术的应用范围和条件,注重对于数据信息权利的保护以及执法过程中的透明性、公开性和可问责性,同时保障相应的技术性正当程序。

人工智能的警务应用一以刑事领域为研究视角

在智慧警务的场景下,人工智能已日益从纯粹的技术工具演化为一种治理手段。当前,人工智能在警务工作中的应用主要包括犯罪预测、犯罪侦查与犯罪预防三种基本类型,且三者均呈现出不同程度的扩张态势。不同类型的人工智能警务应用均不同程度地存在权利保障阙如、技术权力异化与监督机制失灵等风险,且既往的常规救济方案往往难以奏效。对此,应从基本功能及其对基本权利的干预程度两个层面,对人工智能在警务活动中的应用重新进行类型划分,并在此基础上,实现对人工智能警务应用的体系化规制。

数字政府建设中数字化与法治化的融合

数字政府建设在大幅提升国家治理效能的同时,可能导致新型的“数字官僚主义”。权力技术化和技术权力化,其衍生的效应是主体“客体化”和客体“主体化”。自动化行政会不当限缩甚至完全消除权力的裁量空间,数字化控制易侵蚀人的主体性地位。当前,数字人权体系建构滞后于数字技术的迭代更新,数字资本侵犯人权的风险日益增大。未来数字政府建设应着重数字化和法治化的深度融合,走出过度追求工具理性的误区,回归更好地尊重和保障人权的价值理性。应合理划定政府数字化的边界,及时确认并有效保障新兴数字人权,以技术性正当程序约束自动化行政权,运用数字技术促进社会公正,更好地满足公民对美好数字生活的向往。

ChatGPT介入学术论文透明度义务的可视正义功能

透明度规则是可信人工智能的基本准则,透明度义务是人工智能的设计者、开发者、使用者通过技术性正当程序和法律正当程序实现可视正义的责任机制。作为弱人工智能向强人工智能过渡的ChatGPT具有生成类似于人类创作的结构化内容的能力,其在提高学术能力的同时也会对学术诚信带来风险。ChatGPT介入学术论文创作涉及到著作权的底层逻辑、学术诚信的本位逻辑、可信人工智能的顶层逻辑,三重逻辑都要求作者履行透明度义务。透明度义务是数字义务履行的证明方式、数字公平的展示方式、数字责任的表达方式,具有学术诚信、学术责任和学术公平的保证功能。