人工智能法:必要性与可行性

近期,《人工智能法(学者建议稿)》《人工智能示范法2.0(专家建议稿)》等人工智能立法建议稿相继涌现,加速推动人工智能立法成为学界主流观点。然而,人工智能立法的立法目标、立法体系、具体规则等事项依然存在较大争议。为此,本刊特刊发专题笔谈,邀请了来自北京航空航天大学、中国政法大学、西北政法大学、中国信息通信研究院、中国社会科学院、华东政法大学、西南政法大学等多所院校的知名专家,就人工智能立法的立法逻辑、立法体系、内容模块等核心议题进行了深入的理论探讨和观点交流。

通用人工智能的数据风险及法治应对路径

ChatGPT的横空出世拉开了通用人工智能的时代序幕。通用人工智能迭代泛化能力的实现依托于海量数据,其运行全程与数据深度耦合,伴生了新的数据风险,且随着模型的普适化应用可能演化为现实威胁并产生严重后果。运用“全周期管理”理念剖析通用人工智能的输入、加工、输出环节存在的数据风险,包括多源数据违规获取风险、数据利用存储安全风险、数据虚假生成质量风险。在此基础上,围绕法律规制、伦理引导和行政监管的三重路径构建数据风险治理框架,提出中国应从完善保护利用并举的数据法律制度、健全科技向善导向的技术伦理规范、设计注重风险防控的行政监管规则等方面,化解模型“输入—加工—输出”进程中产生的数据风险,从而推动通用人工智能的良性健康发展。

我国人工智能立法的模式选择与制度展开——兼论领域融贯型立法模式

中国人工智能立法已经纳入《国务院2023年度立法工作计划》,当前,研究重心应从“应否立法”转向“如何立法”。比较国际人工智能立法实践,可归纳出两种基本模式,即统一垂直型立法模式和分散网格型立法模式,两者在制度设计、价值取向等方面各具特征。在分析研判这两种模式的基础上,以法律3.0为指导,提出中国应探索领域融贯型立法。该模式强调人工智能立法系领域法,主要内容应包括风险规制、产业促进、技术标准三方面,形式上要以基本法为主体、产业促进法和技术标准法为分支,旨在实现立法宗旨、人工智能面相及法治系统工程的三重融贯。在该模式下,《人工智能法》(基本法)应当对基本规定、基本原则、基本制度及责任义务体系等内容分别作统一界定、吸纳转介与制度重塑。

生成式人工智能沉迷的法律规制:动因及对策

生成式人工智能的蓬勃兴起为经济社会发展注入了新动能,正在深刻改变人们的生产生活方式,同时也容易导致人工智能沉迷问题。这不仅是个体层面的问题,更涉及人的思维自由、行为自由、人的主体地位等更深层次的问题。当前在防范方面还存在着对象范围过窄、监管方法不当、防沉迷领域局限以及防范义务不明确且手段单一等问题。应当从法律层面对生成式人工智能的沉迷问题进行规制,明确生成式人工智能提供者的防沉迷义务,转变监管方法,加大监管力度,建立生成式人工智能沉迷防范体系,发挥多元主体协同共治,确保生成式人工智能的使用符合人类整体利益。

回应与超越:生成式人工智能法律规制——以《生成式人工智能服务管理暂行办法》为视角

生成式人工智能对于推进新型工业化体系建设、发展新质生产力具有重要作用,但其蕴含重大风险且风险呈现类型复杂多样、损害方式隐蔽、危害结果严重等特点,现有立法回应存在有限性与不适洽性,为此需要进行理论创新和制度创新。生成式人工智能治理应当以总体国家安全观为指引,采取积极的风险防范主义和包容审慎的监管思路,对技术创新给予更大的包容度。从法律规制角度看,可以采用双层多元化规制模式和全生命周期监管机制,解决生成式人工智能的法律地位、成果属性、可问责性等关键问题,进一步建立健全算法可解释规则、“安全港”规则、侵权判断规则、“投诉—针对性阻止”规则等基本准则。

重述“技术公益主义”:人工智能立法的一般理论与实践

随着人工智能技术的不断发展,具有人文价值精神的“技术公益主义”理论正在全方位地渗透到人工智能立法之中。该理论既是对“技术中立论”“技术决定论”的批判,又推动了人工智能立法由“公众权益保障”框架向“公共风险规制”框架的转型。这种转型在欧盟、中国以及美国立法上展现出不同的形态:欧盟人工智能立法对“技术公益主义”理论采取了“半开放性”修正;中国以地方立法试验为主,并展现出强烈的包容性“技术公益主义”倾向;美国则更加注重“技术公益主义”的软法之治。然而,上述实践也表明,当前人工智能立法中“技术公益主义”忽视了市场驱动力(私利)保护,导致了权利义务责任的配置失衡,进而影响了人工智能立法的适用范围。综合上述理论发展与实践探索,“技术公益主义”的理论发展应当更加注重技术价值与法律价值的相互构建、技术公益与责任公益的紧密衔接、立法与软法的协同推进,从而进一步为全人类的可持续发展凝聚出人工智能立法共识。

生成式人工智能反垄断论纲

生成式人工智能技术的发展,依赖于对数据、模型、人才和算力等关键资源的利用。通过分析各个关键资源背后的市场特征,可以发现其中有着内在的结构性垄断担忧。如果缺乏及时、有效的反垄断监管,生成式人工智能技术的发展易受到垄断行为的阻碍。依据垄断行为影响程度的强弱,可以将潜在垄断行为分为封锁型行为、限制型行为和剥削型行为三类。为了营造有利于技术创新的公平竞争市场环境,防止结构性的垄断担忧变成实质性的发展障碍,我国反垄断执法机构应当基于包容审慎的监管原则推进反垄断监管。在此基础上,采用事前预防性监管为主的监管策略,并且强化面向国际、产业的监管合作。

充分发挥合作创新采购在服务新质生产力发展中的作用(上)

2024年6月1日,《政府采购合作创新采购方式管理暂行办法》(以下简称《暂行办法》)正式施行。该办法明确界定了合作创新采购及其适用范围,确立了合作创新采购的核心原则,从采购需求、订购与首购、研发合同等环节系统规范了采购程序,将采购方式制度创新法治化,为以需求引导拉动科技创新提供新的法律工具。以程序规范为核心结构的合作创新采购要发挥其对科技创新的强大杠杆撬动作用,以资源配置方式创新推动技术革命性突破,赋能新质生产力发展,尚需在实体制度上与相关法律法规衔接并完善细化相应规则。

公私法协同视域下专利法对科技法的价值取向融合

开展促进科技成果转化公法改革的同时,为促进民事主体高效协同,专利法需要融合科技法的价值取向。专利法作为私法,其与科技法呈现出相对独立的状态。因此,在科技成果转化私法路径中,应将“科技成果所有权”等科技法概念通过“专利权”等具有稳定内涵的私法概念予以衔接。借助专利法“以公开换取保护”的市场激励功能,通过许可、转让等方式促进科技成果流转与实施,进一步发挥专利法的私法功能,提升科技成果转化效率。在具体规范上,通过职务发明制度的利益倾斜配置机制,衔接公法赋权改革理念;完善专利共有制度,使“科技成果混合所有”在专利权按份共有框架下实现权益合理分割;激发开放许可的私法功能,降低科技成果实施交易成本。

人工智能开源生态的法律治理

开源生态治理对人工智能法治建设至关重要。实践的发展引发了“开源”内涵的演化,应牢牢把握四种“基本自由”的基础内核。人工智能开源生态构成具有高度复杂性,需充分考虑开源生态的关键特性和治理需求,制定科学合理的法律治理框架。应全面考察治理需求、治理主体、治理方式、责任分配等内容,以发展为导向,以国际合作为推力,以敏捷治理为工具,以末端责任为守护,探索建立由若干机制构成的基础性制度框架,主要内容包括:开源类型辨识机制、开源许可限定机制、开源风险防控预案机制与政府社区合作治理机制,以应对人工智能开源生态治理的复杂性。

生成式人工智能应用于司法审判的风险及防范

生成式人工智能在司法审判领域能够助推类案类判、智能生成文书、精确定罪量刑、辅助证据认定等。生成式人工智能在司法审判的应用得到国家政策的支持,应用技术成熟、经验丰富,具有应用正当性。其能够确保审判公正,提升审判效率,加强审判监督,具有应用必要性,但也存在“算法黑箱”损害程序正义、数据不良导致结果误差,信息输出侵犯数据隐私的算法公正性、准确性、安全性的风险。应通过完善司法程序规制算法公正性风险,优化训练数据规制算法准确性风险,统一司法应用规制算法安全性风险。

论水利科技的法律规制

从法律规制的角度看,水利科技研究目的可以概括为合法合理合规治水用水,维护国家水安全,促进国家可持续发展。水利科技研发机构具有研究课题自主选择权、依法提供技术服务、获得捐赠奖励、有偿转让水利科技成果、特别豁免权等主要法律权利,同时赋有积极促进科技成果转化、提供公共科技供给和应急科技支撑、开展水利科普活动、建立健全水利科技资源开放共享机制、保存管理科技档案、加强水利科技保密工作的法律义务。水利科技人员具备署名权、登记申请权、收益分配权、兼职权、特别豁免权等法律权利,应当履行弘扬科学家精神、恪守科研诚信原则、遵守学术规范、履行竞业禁止的义务。水利科技违法行为将会导致行政法律责任、民事法律责任和刑事法律责任。

工程建设标准的法治化现状、成因及对策

本文梳理了全国31个省级绿色建筑地方标准和工程建设行业标准,结合标准化相关法律、法规,指出了工程建设标准存在的主要问题有:制定过程缺少标准化主管部门参与、编号不符合管理办法、未按要求备案、发布公告含有行政许可事项等。然后根据房地产行业现实特征,剖析了工程建设标准化现状的形成原因,最后从强化司法保障、部门联动清理、市场机制培养等角度,提出了推进工程建设标准规范化发展的建议。

我国智能投顾行政规制路径转变之思考

智能投顾是一项深具金融科技代表性的金融服务,随着依托银行业金融机构的相关业务暂停服务,服务平台全部被叫停。从行政监管角度分析,“机构”监管模式不适应智能投顾发展,“命令-控制”监管形式下法律监管制度滞后,“确定性”规则的适用限缩智能投顾功能。国家机构改革完成了智能投顾行政规制路径转变的第一步,通过从“机构”监管到“功能”监管等综合性监管方向的转变,“命令-控制”型到“实验”型规制形式的转变,“确定性”规则到“包容性”原则规范理念的转变,进一步为完善智能投顾行政规制路径转变提供新思路。

人工智能生成行为的决策标准

基于博弈模型分析的人工智能生成行为强调决策收益和决策成本的不同结果,收益和成本的权衡进一步完善人工智能生成行为的决策标准。人工智能生成行为的决策收益与决策成本因生成内容使用行为的共识状态而发生实质变化,对生成行为规范性质形成共识的情况下,人工智能设备所有者与内容使用者仅需要依据共识性理解进行决策。共识性理解即双方主体对于生成内容的使用是否需要取得授权形成一致判断,这就需要人工智能生成行为的规范设计足够明确和统一,当双方主体对于生成内容的使用无法形成规则共识,围绕生成行为的权益纠纷必然增加决策成本并降低决策收益。因此,厘清人工智能生成行为及其法律效力,促进规则共识的形成是决策标准指导规范设计的核心要素。

穿透式监管:以非现场监管为分析视角

穿透式监管具备理念、空间这两重内涵,前者代表“实质重于形式”的理念,后者是穿透物理上空间的非现场监管,非现场监管几乎等同于自动化行政。非现场监管具备推动数字政府建设、推动放管服改革的价值内涵,但是在应用中可能存在技术、权力、责任这三重风险。相应地,可通过以下三点实现对非现场监管风险的控制:一是技术风险的控制,即细化保护个人信息的行政法规范、落实监管数据弄虚作假的法律责任、发布算法解释报告与构建算法伦理评估制度;二是进行成本收益分析与程序控制,即分析非现场监管的成本收益、完善非现场监管具体程序规则;三是对非现场监管进行分类归责,即参考自动化行政的研究采取分类归责思路。

论生成式人工智能与公民合法权利的冲突及其平衡

生成式人工智能主要有生成式对抗网络与扩散模型、ChatGPT与跨模态对齐技术等类型,其能够深度伪造或自动生成假视频、假音频、假图片、假文本。实践中,生成式人工智能与公民的合法权利存在冲突。为了平衡二者的冲突,域外国家和地区制定了相关的法律法规与政策,加强生成式人工智能的引领与规范,加强其应用实践的监管与执法。我国从法律法规、司法解释与部门规章三个层面加强对生成式人工智能的引领与规制,加强对其应用实践的监督与执法,并在司法惩治与救济方面进行了有益的探索。

中国互联网治理的演进与辨析

互联网的诞生给人类带来了翻天覆地的变化,深刻地改变着人类的生产方式和生活方式。互联网治理不同于传统的规制、管制。互联网治理主体强调多方共治,治理手段注重多管齐下,治理机制强调平衡协调。互联网治理领域随着现实世界的数据化、网络化、智能化的深化而不断发展,治理的主体和客体也不断扩展。中国互联网治理实践可以分为3个阶段:自由发展阶段、探索阶段和综合治理阶段。互联网治理从被动管理到主动治理,继而实行综合治理。互联网治理的核心问题是保障互联网技术造福于人,各国唯有秉持携手构建网络空间命运共同体的理念,共建共治共享网络空间,才能确保新兴的互联网科技向上向善。

实体法与程序法衔接视角下生成式人工智能法律地位研究

当前,生成式人工智能在我国民法体系中的法律地位存在学术纷争,引发出其在民事诉讼中地位认定模糊的问题。对此,《生成式人工智能服务管理暂行办法》给出了答案,即仍应将其认定为法律关系的客体,而没有必要规定其作为法律关系的主体。同时,民法主体和民事诉讼法主体分离趋势由来已久,民事诉讼法主体资格的扩张往往是由于实践问题,并在此基础之上才能推动民事主体变更。目前,生成式人工智能本体尚不存在独立起诉应诉的可能性,无法取得独立的民事诉讼主体资格。民事诉讼法应以物作为生成式人工智能最准确的定位,并且根据利用主体不同,从法院和当事人角度分别看待生成式人工智能的运用,妥善利用新兴人工智能技术,以维护司法秩序,实现程序正义与实体正义。

期刊编校中生成式人工智能侵权责任研究

生成式人工智能在大幅提升期刊编校效率的同时,受自身技术特性的限制,也会引发编校质量问题,进而产生侵权责任。生成式人工智能并不满足侵权责任主体的构成要件,相应侵权责任应归属于其提供者与使用者。在提供者与使用者之间,应由使用者先行承担对外责任,进而根据提供者是否存在过错,判定使用者是否有权向提供者追责。期刊编辑应充分认识到生成式人工智能的局限性,对其输出内容进行审慎审查,与生成式人工智能形成合力,共同推动期刊编校质量的持续提升。