算法决策对行政正当程序的挑战及其应对

自动化行政领域中,算法决策在极大地提高行政效率、降低政民互动成本的同时,也带来了行政正当程序方面的挑战,诸如正当程序的中立性遭破坏,行政相对人的陈述权、申辩权被压缩,行政主体说明理由较困难。算法决策挑战行政正当程序的原因主要在于算法技术的内在局限性、行政主体治理能力的相对滞后性以及制度规范的不完善性。应将行政正当程序的基本含义与判断标准相结合,从排除偏见、听取意见、说明理由以及权利救济四个方面来应对算法决策可能引起的行政正当程序失灵。

自动化行政中的算法决策拒绝权

《中华人民共和国个人信息保护法》第二十四条第三款将对个人信息的利益保护转变为对算法决策的行为规制,并赋予个人拒绝算法决策的权利。基于该法的公法属性及其在行政领域的适用性,相对人享有在自动化行政中的算法决策拒绝权。面对算法决策方式对行政法治的技术挑战,拒绝权能够丰富相对人在自动化行政中的权利体系,发挥对抗算法决策异化的功能。算法决策拒绝权具有保障相对人参与自动化行政过程,并在设置与改造的程序装置中予以实现的程序属性,以及在权利地位上能够请求利益实现与法律保护,在权利内涵上能够主动选择的积极属性。相对人算法决策拒绝权的实现,需要结合该权利的程序属性和积极属性,构造在自动化行政不同环节的具有即时性特征的行使规则,包括算法决策方式选择规则、算法决策过程脱离规则和算法决策结果抵抗规则。

算法决策优化的伦理进路:道德阈限、责任界分与技术嵌入

算法作为一种决策或预测的技术存在,既重塑人类生产方式,也冲蚀法定权利、削弱道德原则、损伤相关者利益。从算法作为决策价值承担者和决策责任分配者等两个方面,厘清算法决策承载价值并非中立。因此,以推动“算法向善”为目标,从道德阈限、责任界分、技术嵌入等维度提出对算法进行价值敏感设计,进而实现算法决策的公平、准确与客观。

数字平台算法决策歧视的认定与规制

基于算法决策的数字歧视是算法社会化应用中一项亟待解决的问题。算法对于个体的重塑效应是歧视产生的直接原因,而算法之社会化应用过程中的价值冲突则是产生算法歧视的根本原因。由此也导致了算法分析过程呈现出忽略意义的关系分析,以概率性陈述为基础的算法评价所导致的受保护特征的不确定。算法社会化应用中的歧视认定,应当冲破传统反歧视理论,从受保护场景、是否存在算法支配关系、基于受保护特征的差别待遇、对个体或者群体的不利影响以及是否符合比例原则几个角度综合评估。有鉴于此,《个人信息保护法》第24条的相关表述需要进行重新解释和厘定,其中包括决策“公平、公正”、算法解释的内容等;另外,基于算法的数字歧视行为,需同现行侵权制度接榫,并适时进行制度赓续,完善算法歧视的规范治理体系。

税务算法决策失灵的法律规制

税务算法创制的封闭性、编译过程的复杂性和自主学习的不可控性构成税务算法决策失灵的主要成因,进而引发了法律规制的呼声和行动。既有的规制方案主要基于税权平衡的思路,通过个体赋权和制约公权两个方面塑造税务机关与纳税人之间的平衡关系,从而遏制税务算法决策失灵风险的产生,这在哲学维度上体现为关系主义的视角。然而,单一的税权平衡思路具有难以克服的局限性。通过引入本质主义的视角,以税务算法本身为切入点构造更为全面系统的规制方案,可助推规制重心的前移和税务算法的法律归化,对税权平衡思路的不足有明显的补充效果。本质主义视角之下,以税务算法本身为中心搭建完整的规制图谱,应从建立统一的税务算法技术标准,合理限制税务算法的编译范围与强化税务算法的检验和测试等三方面入手。

论算法决策风险的分类分级规制

算法决策将遍布数字社会的方方面面,涉及众多主体的利益,同时算法决策是收益与风险并存的结合体。目前我国学界对算法决策风险分类分级的标准以及分类分级后传统规则如何针对不同风险进行区分应对少有涉及,为此,应制定对算法决策风险进行分类的标准,建立并运用算法决策风险的等级评估机制对不同风险进行评估,同时调整传统规则,构建符合算法决策风险分类分级规制的规范体系。其中,主体治理结构应根据风险性质的不同来确定是以政府为主导还是向社会第三方主体放权,侵权归责原则有必要针对系统性风险引入危险责任进行规制,网络侵权的传统的“避风港规则”和“红旗规则”亦应作出不同调整,保险机制作为分散风险的常用手段应针对风险分级的需要设置多级保险种类。

司法算法决策和裁量正义的冲突与融合

是否有助于实现裁量正义关系到司法算法系统的应用上限和最终走向。形式正义和实质正义共同构成了裁量正义。司法算法决策通过提升裁量的一致性、中立性、客观性和高效性水平助力形式正义的实现,通过提升裁量的理性化水平助力实质正义的实现。但受科技应用自反性影响,司法算法决策会引发有违裁量正义要求的新风险:其一,和司法裁量权专属性相冲突;其二,引发正当程序制度被虚置;其三,无法合理开展价值判断;其四,司法责任难以适当分配。为此,需要遵循技术改进、实现人类法官和司法人工智能系统有机融合的进路,以提升司法算法裁量的优质性和可信性。具体而言,应将“明确适用司法算法决策的裁量模块,提升民众和法官对司法算法系统建构的实质参与性,建立完善的监督制度,充分保障当事人的诉讼权利以及建立合理的责任分配制度”作为应对司法算法决策背离裁量正义目标风险的主要方案。

数字政府算法决策适用困境及优化路径研究

在数字政府迅速崛起的大环境中,算法决策显得尤为关键,因为它拥有高效的决策能力。但是,算法的歧视性、公众的不足监督以及行政权力的弱化等问题仍旧亟需得到解决,这也导致了算法决策过程中的伦理问题。为了有效地应对这些挑战,有必要根据我国现存算法决策权的实际情况,建立合理的伦理标准,增强算法的公共监督和评估,明确各方之间的责任分担,同时也要构建合适的技术支持系统来确保算法决策能够得到有效执行。这不只是对当前挑战的前瞻性回应,同时也代表了公共治理未来创新模式的探索。

自动化行政中算法决策风险的法律规制

算法决策在自动化行政中的应用是推进数字政府建设的必然要求,但由于传统行政法思维在与新兴技术的碰撞中应对不足等原因,自动化行政中算法决策存在潜在风险。为此,应摒弃技术工具理性思维,提升预防性法律规制理念,并通过完善算法决策全过程风险评估预防机制、自动化行政程序立法体制机制、行政相对人权利救济体系、算法决策监管制度等法律路径对自动化行政中的算法决策风险予以规制。

算法决策对民主生活的挑战及其应对

可解释性决策意味着公共决策需要建立在可被阐明、质疑以及辩护的理由之上,构成了保障民主生活的重要技术方案。近年来崛起的算法决策具有高度的不可解释性,存在理由解释不能、目的解释不能以及逻辑解释不能等问题。算法决策的不可解释性导致了决策结果由“可质疑、可辩护”到“绝对正确”,决策依据从“普遍共识”到“单一意志”,决策机制从“重程序、轻实体”到“重实体、轻程序”,民众身份从“决策主体”到“决策客体”,决策结构从“双向制衡”到“单向控制”的转变,在不同的社会领域再造了算法威权。算法威权的化解有赖于深入的权利保障工作与权力制约工作,通过增进个体在算法决策机制中的对抗力量和对抗机会,强化对算法决策权的约束机制,复原人的社会主体地位。

行政决策中算法决策的风险识别与规制路径

算法决策逐渐参与到政府行政决策中,在为政府提供更多智能化、科学化决策的同时,算法滥用所产生各种风险和挑战接踵而至。“技术利维坦”“权力异化”对政府自动化决策的公平正义提出挑战,如何规制成为政府行政绕不开的话题。通过国家算法机构的建立、建立公开透明的算法机制、完善法治和监督制度等,推进政府自动化行政始终在健康有序的道路上前进。

算法决策趋避的过程动机理论

算法常用于决策,但相较于由人类做出的决策,即便内容相同,算法决策更容易引起个体反应的分化,此即算法决策趋避。趋近指个体认为算法的决策比人类的更加公平、含有更少的偏见和歧视、也更能信任和接受,回避则与之相反。算法决策趋避的过程动机理论用以解释趋避现象,归纳了人与算法交互所经历的原初行为互动、建立类社会关系和形成身份认同三个阶段,阐述了各阶段中认知、关系和存在三种动机引发个体的趋避反应。未来研究可着眼于人性化知觉、群际感知对算法决策趋避的影响,并以更社会性的视角来探究算法决策趋避的逆转过程和其他可能的心理动机。

论算法决策中的设计者责任

算法决策是设计主体有意识、有目的的创造性行为。工程设计人员通过算法模型构建人工道德主体的设计路径存在着“知”“情”“意”三重伦理困境,其产品应用会引发哲学上的主体性问题,即算法及其设计主体、用户在不同时空背景下形成的决策行为引发主体责任分担的难题。在设计哲学看来,单纯以从自我出发与从他者出发为依据的设计思想,都不能很好地化解算法决策引发的主体性问题。列维纳斯的他者性伦理思想避免了设计者和用户的对象性关系,但绝对的他者性容易导致设计主体的自我迷失,从而降低设计主体的创新意识。经过批判的温和的他者性思想有助于解决创新责任与社会责任的对立问题,从而在一定程度上解决算法决策中的主体性问题,并将主体性增强明晰为算法决策中的设计者责任。

算法决策涉入下的法官法感研究

在数字化背景下,以算法为代表的大数据人工智能被引入司法权的行使过程并拥有了合法化的外衣,对于作为传统法官裁决案件源点的法官法感产生了威胁与考验。法官法感的失位与演变是司法权面临算法决策所产生的负面效果之一。长此以往,法官法感将失去其司法地位,司法权也将被算法技术所裹挟,必须对此趋势采取控制手段。应通过重构算法决策结果呈现、增强法官法感的价值认同度等手段,配合法官法律素养的提升以促进法官法感层次的上行,利用对通用算法和专业算法的重新构筑保障司法裁判过程中的感觉理性不被虚置或驯化性改变。

自动化行政算法决策的特殊风险与规制路径

自动化算法决策的应用给行政公正原则、正当程序原则、权力与责任相一致原则带来了巨大挑战。这些挑战表现为行政决策违法或不当、决策违反法定程序、行政责任主体不明、行政机关能力弱化等风险。客观层面上,数据流转偏差、算法不透明与技术权力的侵蚀促成此类特殊风险;主观层面上,行政主体对算法的依赖扩张了风险的不可控程度。为有效控制此类新型风险、使算法行政决策更好地造福人类,可以从地位厘定、义务强化、程序控制等角度切入,继续坚持行政机关在算法决策中的第一责任人地位、坚守算法的工具主义立场,场景化、类别化规制算法决策应用程序,在强化相关主体披露义务的同时,创新式贯彻正当程序控制,完善相对人的权利保障与救济体系。

算法决策场景中就业性别歧视判定的挑战及应对

就业性别歧视对女性求职者受宪法所保护的平等权、劳动权造成现实的侵害风险。对就业性别歧视判定标准问题,学界已有较为丰富的研究,但传统判定标准在算法时代遭遇适用困境。算法掩盖下的就业性别歧视具有自主性、隐蔽性、延续性和结构性等特征,这不仅可能对求职者的权利主张造成过重的举证负担,亦无法解决算法供应商等第三方主体的归责问题。因此,应当从事前与事后两个维度,探讨对算法就业性别歧视进行有效规制的路径。在概念界定上,应通过扩充就业性别歧视概念的外延,将算法就业性别歧视纳入到反歧视法的规制范围内,使新加入的算法供应商等第三方主体参与到责任分担过程。通过在算法决策过程中引入技术性正当程序理论及其机制框架,搭建起权力主体配合下的“理解—参与”模式,借助合规审计追踪、算法解释等方式,有效控制算法就业性别歧视的风险,保障女性求职者平等权和人格尊严等权益。

算法决策规制——以算法“解释权”为中心

算法决策正成为经济与社会体系的一部分,一方面,它创造了显著的社会与经济价值,但另一方面,不公不义的预测或推断会损及个人自主与尊严从而使算法备受质疑。由于算法无法解决自身导致的妨害问题,且算法控制者与数据主体间存在明显的信息或权力不对称,因此,有必要赋予个人一项具体的数据权利——算法“解释权”,以强化其对于己不利的算法决策提出异议的权利,进而促进算法正义、保护个人自主与尊严。不过,利用“解释权”对抗算法妨害虽然必要但并不充分,其在技术上面临可解释性难题,且与商业秘密存在紧张关系。因此,算法决策需要统合规制,需要进一步增强算法决策的社会控制,优化算法应用监管。

智能医学算法决策的伦理困境及风险规制

智能医学呈现出难追溯性、不公平性、过程难以理解性、结果不确定性和数据驱动性的技术特征。上述特征与诊疗场景特性的融合交叠可能诱发医生主体地位被削弱、医患信任危机、医疗资源分配不均加剧以及诊疗结果不确定性增加等风险。为有效防范智能算法的决策风险,在智能医学应用中必须遵循以强化医生主体地位为根本出发点,以降低医患信任危机为主导,以平衡资源分配为方向和以增加诊疗结果确定性为目标的伦理规制。

大数据算法决策的问责与对策研究

[目的/意义]随着人机社会的到来,大数据算法决策的应用将会越来越普遍。但是大数据算法决策与普通的人工决策有很大的差异,其问责将是政府和企业未来面临的重要难题。[方法/过程]本文探讨了大数据算法决策问责的含义、重要性和缘起。[结果/结论]在分析了其难点的基础上,从问责主体、机制、救济措施3个方面提出了完善大数据算法决策问责的对策。

智能量刑算法决策与刑事自由裁量权的差异与融合

人工智能量刑系统的应用为刑事司法领域带来诸多便利,提高了司法效率,实现"类案同判"。人工智能量刑系统是以数据模型运算为工作原理,通过逻辑运算形成算法决策。刑事自由裁量权是为了实现个案正义而赋予法官的裁判权力。智能量刑算法决策与刑事自由裁量权不仅价值立场不同,在事实认定、法律适用和权力属性上也有区别,但两者之间可以形成一种相辅相成的关系。为了避免法官量刑的"恣意性"和智能量刑系统的"机械性",应当在量刑规范化改革目标要求下,首先,坚持法官在量刑中的主导地位;其次,明确算法决策介入司法领域的边界;最后,坚持以人为本,构建人机协同的司法治理新模式。