中国人工智能治理的理论构想:基于新加坡数字经济协定的思考

数字经济时代,人工智能正在成为推动经济发展的新引擎。随着中美两国之间竞争和博弈的愈发激烈,在美国的科技封锁和制裁之下,中国当下的人工智能发展备受掣肘,人工智能治理理论亟须进行重构。新加坡是世界范围内数字经济协定的先行者之一,自2020年以来陆续和5个国家完成了4个数字经济协定的谈判。同时,新加坡还是全球人工智能治理领域的倡导者,通过对新加坡数字经济协定中人工智能规则的梳理和先进发展经验的总结,可以更好地为中国的人工智能治理提供借鉴与启示。新加坡数字经济协定中人工智能规则的共同目标可以概括为“搭建一个国际性的人工智能治理框架”,实现目标的方式是以《英国—新加坡数字经济协定》第8.61-R条为参照范本,充分发挥国际组织的力量,开展人工智能领域国际合作,促进人工智能技术“道德、可信、安全和负责任”地发展。对中国而言,今后应从国内和国际两个维度出发,建构具有中国特色的人工智能治理方案。在国内层面,正处于研究制定中的《人工智能法》可以考虑采用“促进型立法”模式,以更好地推动中国人工智能产业高质量发展;在国际层面,应继续推进加入《数字经济伙伴关系协定》的进程,同时积极申请加入“人工智能全球伙伴关系”,建立风险分级分类治理机制,尽快搭建起体系化的国际人工智能治理框架。

公私交融的人工智能法

人工智能法的事物本质决定了其公私交融特性。事物本质的观察源于技术不平等与随之而来的信任关系重塑,其基本内涵是主体数字化、数据财产化、财产债权化、权利社会化和责任客观化。人工智能系统、AI agent并非法律主体。同意具有公法内涵但离不开私法分析,智能合约研究进展不大。权利研究不能支撑人类数字化生存的公私利益诉求,数据赋权说已占主流,但仍未能走出数据流通困境。法律责任的研究集中在归责原则的客观化与生成式人工智能之服务提供者的义务及过错判断上。以风险为基础的人工智能治理构成人工智能立法的底层逻辑,应注意风险与责任的互动关系。

论人工智能的激励型立法——基于《拜杜法》的思考

随着人工智能技术的创新发展和应用场景的日益多元化,人工智能正在给人类社会带来一场历史性变革。《拜杜法》的成功经验为中国人工智能法的构建提供了借鉴与启示。今后,人工智能法制定时应考虑采取“激励型立法”模式,在继承“促进型立法”优点的基础上,更好地激励人工智能产业高质量发展。在探讨人工智能激励型立法方案时,首先,应明确立法目的是促进人工智能产业高质量发展;其次,结合域外经验和本土实践,采取“三分法”的分类分级思路;再次,在激励方式上选择“减少成本型”和“增加收益型”激励;最后,考虑增设一部激励属性更强的“人工智能产业促进法”。构建中国特色的人工智能激励型法律规范,充分发挥人工智能的创新活力。

《上海市促进人工智能产业发展条例》的10个关键词

《上海市促进人工智能产业发展条例》是上海市三大先导产业的第一部全市性法规,也是上海市在人工智能高地建设中攀登的又一座新的高峰,为我国人工智能地方立法树立了新的标杆。2022年9月22日,上海市第十五届人民代表大会常务委员会第四十四次会议通过了《上海市促进人工智能产业发展条例》(以下简称《条例》),并于2022年10月1日起施行。《条例》共分6章72条,核心章节是基本要素与科技创新(第二章)、产业发展(第三章)、应用赋能(第四章)和产业治理与安全(第五章)。这部条例有诸多亮点。

生成式人工智能风险治理亟待“伦理-法律”综合框架

随着应用场景的不断扩展,随着应用场景的不断扩展,AIGC已经导致或将潜在导致一系列风险。设计一个AIGC综合监管框架时间紧迫且任重道远。OpenAI基于Transformer架构开发的自然语言处理模型ChatGPT所展现的能力,引发人们对生成式人工智能(GAI)的关注。与决策式/分析式人工智能(Discriminant/Analytical AI)不同,GAI在根据既有数据集执行任务之外,还能通过学习数据中的联合概率分布,创造出全新的内容,在音乐和艺术创作、自然语言生成、图像合成等方面已取得不俗成绩。

迈向个性化法律:转变中的社会与私法

法律发展的历史是法律逐渐个性化的过程。法律类型化、兜底条款等立法技术和意思自治一直推动着法律的个性化发展,数字技术的发展则为法律个性化提供了新的可能性。个性化法律具有显著优势,能够适应异质性的现实,为个体提供个性化的法律保护,从而更有利于实现法律规范的目的,同时促进社会经济目标与非经济目标的实现。构建个性化法律的终极目的,在于最大化个体正义,并在此基础上实现社会正义。意思自治在传统社会中推动着民商事法律向个性化发展,如合同条款的个性化设计、非典型担保的产生和发展、约定财产制和财产继承中的个性化、公司治理的个性化等。数字技术在数字社会中的应用,可以在披露、助推、提供默认规则,适用强制性规则和解释合同等方面拓展法律个性化发展方向,还可以为侵权法中过失认定标准的个性化等方面提供可能性。大数据与算法技术的发展推动着现代社会的转变,我们正在迈进法律个性化时代。

《生成式人工智能服务管理暂行办法》正式施行彰显平衡发展与安全的核心思路

2023年8月15日,《生成式人工智能服务管理暂行办法》(以下简称《办法》)正式施行。《办法》是世界范围内第一部对生成式人工智能作出体系性规制的法律,一经问世即引起国内外广泛关注,标志着我国在人工智能治理方案的探索上迈出了重要一步。

大语言模型的信任建构

以ChatGPT为代表的AI大语言模型技术快速兴起,在颠覆现在内容生产方式和智能技术范式的同时,也由于幻觉、虚假内容等问题带来了信任危机。该技术甚至因为信任危机问题遭到抵制和封杀。尽管业界已在可信AI方面积极开展了大量的技术实践,但公众对AI的信任度仍未显著提升。因此,要解决信任问题,不仅需要厘清信任与可信任的关系,还需要从大语言模型的技术本质出发进行探究。对大语言模型技术的信任应是认知信任,认知信任不仅包含技术信任与人际信任的动态交互,而且是建立在有效监督基础上具有合理性的信任。大语言模型信任的建构路线主要包括以可解释性为核心的信任要素体系,以政府主导的AI治理体系为基础、多元主体协同的信任主体和信任环境,以及培养人们正确信任观的信任认知三个模块。

差分隐私用于个人信息保护的实践难点及化解方案

梳理差分隐私用于人口普查、数字广告和大型语言模型中的个人信息保护案例,发现通过差分隐私实现个人信息保护仍然存在概念定义不一、隐私单元不明、参数难以选定、隐私记账困难、缺乏简明解释、造成不公平问题和法律效果不确定7个难点,并逐个探讨了突破这些难点的思路。化解差分隐私的实践难点不仅可以加强个人信息保护,也可以促进数据要素流通利用。

数字社会中算法消费者的个人信息保护体系构建

算法消费者是消费者体系中的一种新类型,是通过在智能算法接入互联网等信息网络为生活消费购买商品或接受服务的消费者。算法消费者个人信息保护体系的构建需要在《民法典》《个人信息保护法》《消费者权益保护法》《电子商务法》等法律法规的基础上,进行法律衔接与适用空间的解释或立法构造。算法消费者个人信息过程保护应围绕算法消费者的同意机制多元化、平台经营者个性化披露、算法消费者自动化决策拒绝权及个人信息处理者信息信义义务等维度展开,并以公益诉讼保护作为结果保护的手段。

平台经济中个人信息“告知—同意”的性质认定与规范解释

现有的实践显示,平台经济领域中个人信息的“告知—同意”模式深陷困境:经营者的告知义务流于形式,信息主体的同意行为缺乏有效性,该模式未能平衡好保护个人权益和促进数据利用之间的关系.面对实践中的困境,须以法律解释方法,在明确告知义务与同意行为法律性质的基础上,寻求“告知—同意”新的解释框架.告知义务兼具公法和私法属性.隐私政策仅是告知义务的履行行为,不应认定为合同,信息主体作出同意的表示是基于对经营者和国家监管的信赖.构建“告知—同意”新的解释框架,应以告知义务为核心,塑造以信赖为中心的互动环境.告知义务应朝着标准化和场景化发展,宜采用网络用户类群化标准判断,针对不同类别的信息主体确立不同程度的告知责任.而互信环境的建立,不仅需要明确信息主体的多项请求权基础,还应规范好平台经济领域的数据处理活动和竞争秩序.

公共卫生视角下的警察协助

公安机关是公共卫生治理的重要力量,在传染病防治中通过提供协助,保障隔离、检疫措施的实施,但是警察协助引发的警民冲突也唤起公众对公安机关介入公共卫生治理的思考。警察权的发展进程揭示了它与公共卫生治理的紧密关系,但也反映了法治社会对动用警力的审慎态度。我国公安机关在以传染病防治为代表的公共卫生治理中提供的警察协助,面临着形式合法性疑义,亦存在着过度协助的倾向。警察在提供协助时,也缺乏契合公共卫生伦理的实施原则为其提供行为指导。未来有必要通过补足法律授权、勾勒协助实施原则、构建警力供给控制机制等途径实现公共卫生治理中警察协助的法治化。

自动化国家的行政法

行政机关将日益依赖机器学习算法驱动的数字自动化。美国行政法可以适应这样的未来吗?不仅高度自动化的国家完全可以符合存在已久的行政法原则,而且在实现行政法的专家决策和民主问责的核心价值方面,负责任地使用机器学习算法的效果可能更优于现状。显然,算法治理有可能做出更为准确的、由数据驱动的决策。此外,由于其数学特性,算法很可能成为民主机构更为忠实的智能体(agent)。然而,即使自动化国家更为智能、具有更高问责度,它也可能存在缺乏同理心(empathy)的风险。尽管我们不应夸大人工驱动的官僚机构现在所具有的同理心程度,但是大规模转向算法治理将给行政法带来新的挑战,那就是如何确保自动化政府同时也是具有同理心的政府。