法治与政府决策自动化

透明和责任、可预测性和一致性以及法律面前人人平等,是各国普遍认可的法治价值观。预编程规则系统和从历史数据中衍生出规则系统,是两类典型的自动化系统。澳大利亚、美国、瑞典和中国的公共机构已经在社会福利分配、刑事审判和社会信用评级等领域,应用自动化系统进行决策。政府决策自动化,在增强法治价值的同时也给法治价值带来新的挑战,反映出法治与技术快速变革之间的紧张关系。缓和法治与政府决策自动化之间的紧张关系,需要精心设计、有效实施和持续评估自动化决策系统,需要将自动化决策系统的形式与应用场景相匹配并限制自动化决策在某些场景中的应用。然而,将法治价值观转化为自动化系统的技术规范并加以实施,是一项艰巨的技术和法律挑战。

刑事司法领域自动化决策的风险与规制

自动化决策在中外各国的刑事司法领域已有广泛应用,其原因在于自动化决策符合刑事司法预防和打击犯罪、提高诉讼效率、实现案件公正办理的需求,也有相应的观念和技术条件予以支持。然而自动化决策在刑事司法中的应用可能带来准确性不足、公正性偏离和机械性三方面的风险,应采取措施对自动化决策进行规制,以达到补足准确性、保障公正性和消解机械性的效果,实现自动化决策在刑事司法领域的法治化应用。

反思与重构:行政自动化决策场域中的算法解释权——以《个人信息保护法》第24条第3款为旨

在Web2.0时代,因自动化决策嵌入公权力所引发的算法权力异化的风险指数级上升。为了规制人工智能时代的自动化决策,《个人信息保护法》第24条第3款构建了中国语境下的算法解释权。然而,作为新兴权利的算法解释权具有高度的抽象性和不确定性,存在行权时间(事前解释与事后解释)和解释程度(一般解释与具体解释)层面的解释分歧以及权力限度的适用困境。因此,有必要在对算法解释权进行公私场景类型化划分的基础上,以权力结构的对称性为标准,引入比例原则对算法解释权在行政自动化决策场域下的适用进行教义学阐释。同时,以比例原则为主、法益均衡原则为辅来构建算法解释的方式选择模型。在此基础上,《个人信息保护法》第24条第3款设定的算法解释权在公法领域应为一种事后的、具体的解释,与私法领域事前的、一般的解释相区别。

算法自动化决策对正当程序原则的挑战与因应——基于行政执法的场景展开

随着人工智能、大数据技术的快速发展,算法自动化决策逐渐应用于行政执法领域。其在行政执法过程中发挥着多重优势,提高了行政执法效率,推动了数字政府的建设,但同时使行政正当程序原则在一定情形下出现“失灵”:算法黑箱使行政公开无法践行、公民的程序性权利被压缩、证据证明力等受到挑战。为应对新型技术对行政正当程序原则的冲击,有关部门应增强算法透明度和可解释性、通过程序机制后移贯彻正当程序原则的要求、通过专业机构的评估与认证提升证据证明力,以此调适新技术的运用与行政正当程序原则的冲突,确保算法自动化决策在行政法治框架下作出。

自动化决策权利对抗体系的完善——《个人信息保护法》第24条的解释论进路

《个人信息保护法》在第24条规定了包括免于自动化决策约束权在内的诸多对抗算法的请求权类型。但本规范存在法律性质不清、概念内涵模糊、利益关系失衡以及程序性救济手段缺失等问题。第24条兼具禁止性规定和权利性规定的性质;就具体规范内涵而言,其中“重大影响”限于对信息主体之权利义务存在实质性负面影响;“用户画像”不仅限于基于个人信息的个体用户画像,而且也包括基于相同或者相似群体的用户画像;“决策公平合理”要求数据处理者在数据处理过程中承担合理分析义务;另外,个性化推送也应当纳入广义自动化决策的概念之中。在此基础上,从实体层面和程序层面继续完善自动化决策请求权对抗体系。

商业算法自动化决策的私权构建与实现

商业算法自动化决策的私权建构是算法私人治理中的关键一环,个体赋权的核心在于保护“人”在技术威胁中的主体地位。算法权利能够保护决策相对人的正当利益,捍卫人的独立性与自治,其为概念标准之满足;具体的算法权利或被明文规定于法规中,或可用权利推定的方法从基础权利中派生出,并具有实现可能性,其为实证标准之满足。用“权利束”作为分析权利的实用主义方法,算法权利可被视为决策相对人享有的一系列旨在增强个体抵御算法风险能力的权利类型,具有开放特征和规范弹性。然而,权利理论若向实践转化,需借助算法“权利束”中各个权利的制度化实现,从算法知情权、算法解释权和算法决策拒绝权出发,构建权利实现路径。

已公开个人信息合理使用的解释方式与司法认定——以自动化决策应用场景为例

《个人信息保护法》第13条将个人信息的公开作为知情同意规则适用的例外情形,但第27条等规定又对这种例外情形施加“合理的范围”等限制条件。而在实践中,如何解释“合理的范围”“合理使用”存在诸多争议。控制利益保留论、合理期待论、效率平衡论等学术主张在不同程度上忽视了对已公开个人信息保护理论的探讨,存在已公开个人信息保护强度弱于未公开个人信息的逻辑误区。结合国内“法先生滥用麦某公开个人信息案”来看,“合理使用”的认定标准应当以“合法、正当、诚信且必要”等基本原则为基础,结合处理目的、处理方式以及是否存在《个人信息保护法》第27条提及的“明确拒绝”等具体要素进行判断。在涉及评分推荐类自动化决策时,还需要结合“对个人权益存在重大影响”等要素予以明确。

个人征信机构自动化决策的风险识别与区分规制

个人征信机构运用自动化决策提供信用信息查询、信用评价与信用反欺诈产品或服务,可能因传导不实信息、复现社会偏见与歧视、弱化人类决策个性化空间等对人的权益产生风险。通过对个人征信机构自动化决策应用场景进行分析发现,信用信息查询类产品可引发“算法黑箱”风险,信用评价类和信用反欺诈类产品可同时引发“算法黑箱”“算法歧视”等风险。我国现有法律衍生出个体赋权机制、透明度义务机制和第三方主体外部监督机制,以应对自动化决策引发的各类风险,但单一的规制机制较难解决个人征信机构自动化决策的风险规制难题。对个人征信机构自动化决策的风险进行规制,需要综合考量规制对象、规制目的和规制实效,并以个人征信数据处理关系为分析背景,建构公私法规制机制相衔接的立体化风险规制框架。

自动化决策拒绝权的整体主义实现

个体主义范式的自动化决策拒绝权以人的主体性为价值内核,依靠个人的理性和自主控制能力,以个人的自我保护为主展开。在此范式下形成的自动化决策二分法和个人自主检视模式难以使自动化决策拒绝权充分实现,无法对数智化社会的自动化决策风险进行有效回应。整体主义将事物整体作为基本分析单位,强调事物之间的系统性关联,与我国自动化决策拒绝权构建的基本逻辑相契合,能够为自动化决策拒绝权提供方法论基础。整体主义要求自动化决策拒绝权在价值内核上坚持人的主体价值与共同善的统一,在适用条件上强调基于整体思维的组织结构标准,在实现方式上基于先在规制对义务体系进行重塑。

政府自动化决策责任认定的法理逻辑与限度廓清

政府自动化决策是一种由人工智能参与,部分或者完全取代行政主体参与,实现行政行为过程的自动化、无人化甚至智能化,从而产生对外法律效果的行政行为。行政自动化决策在提升行政效率、坚守决策中立等方面意义凸出,但仍暴露出诸多不敷适用之处,尤其表现在责任认定标准存疑、责任主体识别困难、责任范围划分模糊以及侵权赔偿标准混乱等。基于此,当前应依据实际参与原则与契约自由理念厘清政府自动化决策的责任主体,明确政府自动化决策的责任范围,健全政府自动化决策的监督评估机制,形塑以算法解释权、算法拒绝权、损害评估标准为核心的救济机制。

金融科技场景下引入自动化决策拒绝权的风险化解与制度构建

个人金融信息作为金融科技场景中最不可或缺的基础资源,是金融科技创新发展的核心驱动力。金融自动化决策程序的应用内嵌复杂的现实风险,为个人金融信息保护带来挑战。自动化决策拒绝权作为一项新兴权利,为金融信息主体提供摆脱自动化决策程序做出不利结果的权利基础,同时推动金融科技治理法治化进程。在金融科技场景下,引入自动化决策拒绝权能实现个人金融信息保护和自动化决策规制正当性;与此同时,也面临着权利连续机制不详、适用标准不清、例外规定缺失等程序性风险。为了化解自动化决策拒绝权在实践适用中可能出现的难题,应从立法层面明确自动化决策拒绝权的连续机制、细化“重大影响”标准的认定,设计权利的例外规定,完善自动化决策拒绝权适用的权利保障体系以实现金融科技场景中个人金融信息保护的风险化解。

车险链式自动化决策管理模式

站在新能源汽车和保险行业高质量发展历史交汇点,如何提升车险自动化水平,实现车险业务自动决策、数据自动化挖掘,成为汽车保险行业高质量发展的重要课题。作为中国一汽集团产业金融的重要一环,鑫安汽车保险股份有限公司围绕集团新能源产业发展布局,以全链风险管控为核心,以管理决策效率提升为重点,创新引入AI识别、驾驶行为分析等新一代数字技术,系统打造车险链式自动化决策管理模式,在大幅提升车险业务全流程管理效能的同时,促进了新能源汽车综合用车成本下降,实现了车险经营管理的可跟踪、可回溯。

消费者自动化决策拒绝权研究

消费者信息权益保护一直以来都是信息保护中的重中之重。当前,在平台大肆运用自动化决策手段的背景下,消费者自动化决策拒绝权之于消费者自身信息保护具有重要意义。消费者在行使自动化决策拒绝权的路径中存在平台入口隐蔽、取消自动化决策困难等问题,而诉诸法律诉讼又面临举证困难的尴尬境地。我国应基于《个人信息保护法》与《消费者权益保护实施条例》对自动化决策拒绝权的解释,构建应对平台滥用自动化决策的规制机制。平台应当将保障信息权益价值融入自动化决策算法之中,畅通消费者维权渠道,健全消费者自动化决策拒绝权的全生命周期保障体系。

自动化决策中个人拒绝权的制度困境与应对

我国《个人信息保护法》关于自动化决策个人拒绝权的相关制度设计,为算法支配下的个人权利提供了新的保护路向,然其仍存在衔接机制不明、关键词语模糊以及除外制度缺失三方面的问题。为有效化解该规则在实践中可能出现的适用难题,应当从立法层面明确个人有请求人工干预的权利,细化对“重大影响”的认定,新设适用除外规则,完善个人拒绝权除外适用时的权利保障体系。

自动化侦查决策:实践态势、风险及进路

[研究目的]自动化决策正日益成为侦查决策新范式。相比民商事领域、行政领域的自动化决策,自动化侦查决策会直接涉及人的生命、自由等基本权利,权力和权利的冲突会更为激烈。研究自动化侦查决策,有助于规制侦查决策、保障个人权利、促进侦查技术和法治的协同演进。[研究方法]通过实证研究法、规范分析法、文献分析法阐释自动化侦查决策的实践态势及其风险,并提出解决思路。[研究结论]应当辩证地看待自动化决策,发挥自动化决策的优势,认识到自动化决策是侦查的未来。应对和化解自动化决策风险需要构建数据质量和算法评估机制,构建以人为本、人机协同的侦查决策机制,构建与自动化决策相适应的权利体系,建立适度透明制度及审计、救济、责任制度。

我国算法自动化决策规制的问题与完善

算法自动化决策已经广泛应用在网络空间,为降低算法自动化决策的风险,使算法自动化决策更好服务大众,需要对算法自动化决策现有规制进行完善。以梳理算法自动化决策规制制度和规制手段为基础,通过分析现有制度在算法自动化决策全流程中的不全面之处和传统规制手段固有的风险,提出完善我国算法自动化决策规制的建议。完善的算法自动化决策规制不仅需要构建全方位的自动化决策规制制度,还需要区分场景合理运用传统规制手段,以及创新算法影响评价等新规制手段。

论平台治理视野下自动化决策法律规制路径

在数字技术的升级迭代中,自动化决策系统被广泛运用于各类平台。自动化决策在提高经济效益、帮助资本逐益的同时也带来了挑战。平台或疏于对自动化决策的管理,导致违法违规现象泛滥,或过度使用自动化决策,使得平台用户权益和个体价值受损。为了营造一个公开透明、安全稳定的平台环境,应当明晰自动化决策的本质以及法律规范沿革,分析平台自动化决策中存在的恶性竞争、不当行使私权力、治理具有滞后性以及治理目的存在偏差等问题,明晰平台治理者的责任边界,理解现有法律规范,在此基础上,制定法律规范的配套规则,并在多个主体共同合作下形成良性的治理格局。

算法自动化决策下的个体权利保护困境与出路

数字经济时代下随着人工智能技术的发展,决策算法逐渐实现自动化,在解放人力资源的同时大幅提升了社会效率,推动着数字经济发展。但伴随而来的是算法权力的膨胀,令个体面临信息茧房、算法歧视、隐私泄露等多重威胁,算法为个体制造的权利保护困境近年来逐渐被学者所关注,立法者企图通过构建免自动化决策权以及算法解释权等权利创设路径帮助个体走出困境,但奈何算法技术黑箱的存在以及个体在数字领域的弱势地位的阻碍使行权难度过大,单一的赋权模式终究无法有效应对自动化决策风险。为此,我们亟需建立以事前预防为基点,以算法影响评估制度和算法审计规制细化落实为重点的自动化决策算法监管路径。

算法自动化决策中消费者主体性的保障路径

算法自动化决策改变了消费者接受信息的方式,削弱了消费者的议价能力,威胁消费者的个人信息安全。为防止算法决策工具对消费者主体性地位的消解,应当在制度方面着重保障消费者在线上消费过程中的自主性和能动性。然而,现行治理规则留白过大、联系松散,有必要对现行的治理体系进行更为精细的设计。在治理主体上,当务之急是要正确定位平台的法律角色;在治理手段上,要突破形式控制的局限,加强治理规则之间的联系;在规则制定上,应为消费者预留更多的选择空间;在救济规则上,要明确责任承担的具体规则,协调公私法救济路径。

多元共治视域下银行自动化决策中的个人信息保护

随着人工智能的普及与算法技术的发展,自动化决策广泛应用于银行领域。自动化决策有力地推动银行业提质增效并助力数字化转型,但它也带来算法错误、算法歧视、隐私泄露、认知偏差等多重风险。当前我国自动化决策面临国家规制难以适应现实需求和社会主体参与治理动力不足的双重困境。在多元共治视域下,这些困境的解决需要合理确定个人信息保护的边界,强化多元主体间的合作,采取多元路径推动算法治理不断完善,实现银行自动化决策算法的规范发展。