商业算法自动化决策的私权构建与实现

商业算法自动化决策的私权建构是算法私人治理中的关键一环,个体赋权的核心在于保护“人”在技术威胁中的主体地位。算法权利能够保护决策相对人的正当利益,捍卫人的独立性与自治,其为概念标准之满足;具体的算法权利或被明文规定于法规中,或可用权利推定的方法从基础权利中派生出,并具有实现可能性,其为实证标准之满足。用“权利束”作为分析权利的实用主义方法,算法权利可被视为决策相对人享有的一系列旨在增强个体抵御算法风险能力的权利类型,具有开放特征和规范弹性。然而,权利理论若向实践转化,需借助算法“权利束”中各个权利的制度化实现,从算法知情权、算法解释权和算法决策拒绝权出发,构建权利实现路径。

论自动化决策算法的知识产权保护——以注册算法专有权的建构为切入点

自动化决策算法应受知识产权保护的正当性,可以通过功利主义的激励论与对价论予以证成。但现有知识产权制度中的确权模式与客体审查规则却不能容纳自动化决策算法成为知识产权之客体。“保证公开”与“确认保密”的既有知识产权确权模式妨碍算法监管。同时,算法客体属性决定了其难以在知识产权制度中完成客体识别。通过建构注册算法专有权制度对自动化决策算法予以知识产权保护,且能够协同促进算法监管。具体而言,首先,注册算法专有权制度可凭借注册制,满足知识产权确权与多元化社会监管对信息披露的差异化需求。其次,以注册制为手段,实施自动化决策算法社会化利用管制,可帮助专有权人对自动化决策算法社会化利用行为进行专有控制。最后,注册算法专有权制度以专有性权利为对价换取知识公开,能够有效促进算法知识信息的传播。

算法自动化决策下的个体权利保护困境与出路

数字经济时代下随着人工智能技术的发展,决策算法逐渐实现自动化,在解放人力资源的同时大幅提升了社会效率,推动着数字经济发展。但伴随而来的是算法权力的膨胀,令个体面临信息茧房、算法歧视、隐私泄露等多重威胁,算法为个体制造的权利保护困境近年来逐渐被学者所关注,立法者企图通过构建免自动化决策权以及算法解释权等权利创设路径帮助个体走出困境,但奈何算法技术黑箱的存在以及个体在数字领域的弱势地位的阻碍使行权难度过大,单一的赋权模式终究无法有效应对自动化决策风险。为此,我们亟需建立以事前预防为基点,以算法影响评估制度和算法审计规制细化落实为重点的自动化决策算法监管路径。

算法自动化决策中消费者主体性的保障路径

算法自动化决策改变了消费者接受信息的方式,削弱了消费者的议价能力,威胁消费者的个人信息安全。为防止算法决策工具对消费者主体性地位的消解,应当在制度方面着重保障消费者在线上消费过程中的自主性和能动性。然而,现行治理规则留白过大、联系松散,有必要对现行的治理体系进行更为精细的设计。在治理主体上,当务之急是要正确定位平台的法律角色;在治理手段上,要突破形式控制的局限,加强治理规则之间的联系;在规则制定上,应为消费者预留更多的选择空间;在救济规则上,要明确责任承担的具体规则,协调公私法救济路径。

算法自动化决策在行政处罚中的应用风险与规制路径

随着人工智能和大数据的发展,算法自动化决策逐渐应用于行政处罚领域。其在行政处罚的各个阶段都可以发挥自身优势,有助于降低执法成本、提升执法效率、减少人为干扰、避免同案异罚,但同时也存在抵牾正当程序原则、难以体现过罚相当原则、可能噬夺执法者处罚决定权限等应用风险。为此,在行政处罚领域应对算法自动化决策予以规制:增强算法自动化决策透明度,保障行政相对人的程序参与权;提升裁量基准精细化,保留行政、司法部门的决策审查权;明确算法自动化决策的辅助功能,严格界定自动化处罚裁量的适用边界。

算法自动化决策与行政正当程序制度的冲突与调和

行政治理中存在着两种信息不对称:行政机关与治理对象的信息不对称、行政机关与行政相对人的信息不对称。算法自动化决策嵌入行政活动,一方面极大地缓解了第一组信息不对称,产生了行政权力增强效应;另一方面,算法或压缩行政活动的各个环节,或作为内部行政决策,逃避行政正当程序制度的控制。从信息论角度,行政正当程序中的告知、申辩陈述、理由说明等环节是信息发送与沟通工具。两种信息不对称的此消彼长使得公民权利受到算法自动化决策的侵蚀,“权力-权利”格局严重失衡。因此应以解决行政相对人信息不对称为宗旨,坚持和发展适应算法治理时代的正当程序制度,尤其是行政公开原则、公众参与原则与说明理由制度。坚持和发展行政公开原则,应增强算法透明度、衡平行政公开与商业秘密制度,并规范信息公开方式;坚持和发展公众参与原则,应事前开展算法影响评估、重视陈述与申辩环节;坚持和发展说明理由制度,应赋予相对人获得算法解释的权利,并明确说明理由的内容与标准。

算法辅助决策中意思自治的重构

数字社会已经成为触手可及的现实,算法辅助决策的问题已经亟待解决。算法辅助决策较人类决策具有特殊的技术优势,所以得到很多人的自主、自愿选择。然而,算法参与人类意思的程度并非一致,可以由低到高区分为检索过滤算法、排序精选算法、偏好模拟算法和家长式算法。算法辅助决策亦存在风险,其复杂性使对其解释与认知越来越难,其设计者、运营者具有独立利益需求,其会偏离人的偏好,人的决策能力会受到算法辅助的影响。但是,总体上,算法辅助决策更具效率,更有助于增进人的幸福感,虽然在某些方面有损于人的尊严。据此考量,应当在承认算法超越人的意思能力的基础上,描绘评价算法意思参与的“智能性”光谱,构建“算法规制算法”的治理与保护路径,划分算法辅助决策的责任机制。

民事审判中算法自动化决策的风险规制

随着人工智能技术在司法领域的全面应用,其内嵌的算法风险逐渐进入大众视野。民事案件的特殊性导致算法自动化决策技术在应用过程中存在诸如算法同案识别不精准、基础数据不全面、技术依赖性难以克服等问题。为了确保算法自动化决策技术更好地助力民事审判,应从其潜在风险的生成机制着手,探讨人工智能算法如何影响民事审判。通过优化民事同案认定标准、完善基础数据库建设、限定技术使用限度等方式防范其可能产生的风险,在推动算法自动化决策技术在民事审判领域的深层应用的同时,关注各种司法形式之间的融合,保证算法自动化决策的准确性、透明性和公平性,从而真正实现人工智能司法的数字正义。

算法自动化决策的法律风险及其体系化治理

伴随人工智能的迅速发展以及数字化时代数据信息的大量涌现,算法自动化决策作为解放人力的有力工具被引入社会经济生活之中。然而,越来越多的实践经验表明,算法自动化决策是一把“双刃剑”,其在提高效率、节省成本、提升公共服务水平的同时,也引发了决策偏见、侵害隐私权和个人信息权益等法律风险。算法自动化决策引发的法律风险具有不同阶段指向的流动性特征,这就决定了对算法自动化决策法律风险的治理应是体系化的,既要能够覆盖风险流动的各个阶段,又要能够根据不同阶段的特点做出有针对性的回应。具体而言,针对事前阶段的风险,应通过强化算法审计来实现监督;针对事中阶段的风险,应通过突出数据主体的权利来予以牵制;针对事后阶段由风险造成的损害,应通过归责来对原因主体给予惩罚以及对受损者予以弥补。

算法行政的架构原理、本质特征与法治化路径:兼论《个人信息保护法(草案)》

算法行政的架构原理基于三个层面依次发生。政府通过平台化改造将自身重置为规制权力技术设施的数字化连接点。智能时代的分布式信任和信息权力的再分配致使专家意见逐步让位于数据和算法。法律规范的可计算性和大数据技术的兴起使得海量数据被转换为特定的数据密集型知识形式。在信用监管创新的时代背景下,我国以统一社会信用代码为基础构建多类信用信息平台,以信用画像建模推动信用治理自主化和全周期化发展,并着力打造指数化和智能化的分级分类监管工具。算法行政虽然智能高效,却可能在决策透明度、问责度和公正性层面存在风险。我国应明确算法行政须遵循合法、透明、问责、公正、必要的原则,实施算法影响评估制度和算法审计制度,将算法行政纳入法治化发展路径。

算法自动化决策中的女性劳动者权益保障

算法自动化决策在招聘、任务分配、劳动评估甚至解雇决策中发挥着日益重要的作用,但其对于职场性别平等影响的研究尚未展开。本文尝试通过对国内外职场算法性别歧视案例的分析,探讨算法在数字经济时代就业劳动市场不同阶段发挥的重要作用,分析算法自动化决策可能嵌入既有的性别偏见,成为隐藏性别歧视的分配手段,并且造成难以觉察的性别歧视后果。应对算法自动化决策带来的职场性别歧视,应扩大传统劳动法关于性别平等制度的适用,并具体化算法自动化决策规制的相关制度。此外,还应积极构建性别平等的算法伦理,建设覆盖算法生命周期的性别平等制度,并发展针对算法性别偏见的审计与评估制度,通过制度设计和社会支持系统促进数字经济时代的职场性别平等。

算法规制的法律困境与消解路径

算法的透明规则、反歧视规则和自动化决策解释规则,基本构成了《个人信息保护法》的算法治理规则体系。但是,算法商业秘密的权利保护与相对人知情权之间的矛盾、算法歧视的合理性标准与治理模式选择,以及自动化决策权和拒绝权的矛盾,在该算法治理规则体系中并没有得到解决。在合理解释上述规则的基础上,应通过治理算法黑箱实现对算法透明的制度构建,差异化治理算法歧视以选择适宜的监管模式,规制算法自动化决策和重点权利保障领域来完善算法的反自动化决策规则。

《个人信息保护法(草案)》中的平台算法问责制及其完善

《个人信息保护法(草案)》确立了我国算法自动化决策治理的基本框架,为平台自动化决策的设计部署、运行与结果输出划定了合法边界。平台作为最重要的自动化决策的主体,须承担事前风险预防义务、事中安全运行义务与事后的相关责任。《个人信息保护法(草案)》将平台算法治理时点前移,治理手段升级,相关义务增加,初步确立了算法问责制的基本框架,然而,仍须将平台责任的设置直接指向其底层技术逻辑——算法,算法设计运行是否"符合法律法规"的评估标准扩张至需对公民权利与公共利益无不利影响。此外,需建立平台算法的多元治理体系与层次明晰的平台算法责任体系。

数据全生命周期治理视域下“大数据杀熟”的法律规制研究

“大数据杀熟”是数字经济领域亟需解决的顽疾。审视“大数据杀熟”之法律规制,需关注消费者与电子商务经营者在数据收集、存储、处理、共享、转让、删除阶段受何种保护与限制。数据全生命周期治理视角以数据生命的流动为主线,结合数据、算法、平台和用户等关键要素,在整体上选择最佳行动方案,涵盖了“大数据杀熟”的全部流程,并从各个数据生命阶段对规制“大数据杀熟”提出建议。以此保障消费者合法权益,同时兼顾数据保护和利用之平衡,促进数字经济健康发展。

算法的程序正义

伴随着数字中国建设的深入推进,算法已演变为一种新型的权力形态,即算法权力。算法权力通过算法的主体化趋势、黑箱机制、价值的非中立以及决策结果的不受监督等特性完成了全方位的风险渗透,不仅挑战着程序限制恣意的根本属性,而且冲击着参与、公开、中立和公正等程序正义的内在价值。有鉴于此,程序正义理论和制度内涵需要在传统基础上加以更新和推进。算法的程序正义理论在确立“以人为本”的智能伦理观的基础上,通过算法公开、算法影响评估和问责等新的制度性设计,化解传统程序所面临的正义风险,促进正义价值的实现。

论网络私人生活安宁权及其保护限度

《民法典》颁布后,其第1032条第2款隐私条款加入了私人生活安宁的表述,引起了学界的热议各方争论的焦点是私人生活安宁是一项权利还是一种利益。私人生活安宁权通常受到公共利益、言论自由权、自动化算法决策、容忍义务等的限制,存在保护限度难题,其中网络私人生活安宁权的限度问题尤为突出。应界定网络私人生活安宁权为特殊的隐私权,设置公共利益限制网络私人生活安宁权的基本原则,构建网络私人生活安宁权妨害认定标准,建立以算法透明为中心的网络服务提供者问责体系,划定权利人容忍义务与网络服务提供者注意义务的边界,实现权利人、网络用户和网络服务提供者之间的利益互动与平衡。如此,方能在保证网络健康发展的同时,切实保障权利人和网络用户的合法权益。