生成式AI的法律风险及应对

随着生成式AI应用在多个领域的兴起,在为经济发展、科技进步注入活力的同时,也存在侵害用户权益、损害公共利益的可能。为消弭技术可能带来的多维度风险,监管需求与日俱增。生成式AI模型与AI系统既存在区别又彼此联系,共同在特定场景下发挥作用,构成对生成式AI规制的逻辑起点。以《AI法案》为代表的欧盟立法具有一定的前瞻性,却也在如风险分级、生成内容审核等多方面存在问题,需要持续完善。生成式AI非普通产品,考虑其动态性与场景化的特征,应当采取具有针对性的规制措施。我国立法可适当吸取有益经验,在价值链主体合作机制构建与平台生成内容审核方面予以创新,提高生成式AI规制的有效性。

国际竞争、标准化战略与欧盟的技术权力

标准在地缘政治时代被赋予新的内涵,掌握标准制定可以对他国施加影响而形成一种国际关系中的“标准权力”。世界各大国目前围绕技术标准展开激烈竞争,纷纷出台标准化战略进行国际标准制定权和话语权的争夺。2024年3月欧洲议会通过的《人工智能法案》是世界上首部具有约束力的综合性人工智能法律,旨在为人工智能监管制定全球标准,助力欧盟成为人工智能监管领域的领导者。欧盟在国际标准化领域一直保持着强大影响力,在国际标准竞争中享有技术先发优势。通过整合成员国、欧盟和欧洲层面的标准制定和立法工作,欧盟建立了受欧盟立法管辖、由欧洲标准化组织和国家标准化机构组成的欧洲标准化体系,实现内部标准的统一。欧盟还推行国际标准化战略,国际协议的签署为其赢得国际标准制定主动权。研究显示,欧盟在玩具安全、核能和辐射防护、空间碎片领域的标准制定曾分别处于领先、空白和落后地位,通过对国际标准化组织的机构嵌入、标准制定的关键过程参与和以国际标准为先使其获得先行者优势。在内部“历史制度遗产”基础上,欧盟的国际标准化战略助力其成为技术权力,这为中国在国际标准化领域的国际竞争提供启示。

论欧盟《人工智能法案》中的标准化模式及对我国启示

2024年3月13日,经欧盟议会全会投票,正式通过了全球首个人工智能领域的综合性立法《人工智能法案》。本文对该法案的制定背景、规范体系与其中涉及标准化的内容进行了分析。该法案通过设置1025/2012号条例准用性条款,为法律适用提供了大范围、开放的标准“接口”,一方面可一定程度弥合人工智能技术与法律条款之间的鸿沟,另一方面标准化法规也为欧盟未来人工智能的标准化治理提供了法律保障。此外,本文结合该法案中标准与法律的互通机制提出了我国未来人工智能的治理建议,以供参考。

生成式人工智能训练数据风险的规制路径研究

探讨了生成式人工智能如ChatGPT在训练数据方面的法律风险与规制问题。首先分析了生成式人工智能在数据来源、歧视倾向、数据质量以及安全风险等方面的问题,通过对中欧法律体系的比较研究,建议明确界定治理原则,并针对数据合规性制定完善路径。最后,从具体措施层面,对中国现行的法律规制提出了具体的完善建议,为生成式人工智能的健康发展与法律规制提供有益参考。

大数据时代侵犯公民个人信息罪行为规制模式的应然转向——以“AI换脸”类淫秽视频为切入

《刑法》第253条之一“侵犯公民个人信息罪”采取的是基于源头治理逻辑的行为规制模式,其仅将非法获取与非法提供他人信息的行为规定为犯罪。这种模式设计虽基于一定的理性考量,但其从产生之初即内嵌着忽略非法利用行为原动力地位、过度依赖前端行为与末端行为之间供给关系的固有局限,无法适应利用他人照片制作“AI换脸”类淫秽视频等大数据时代异化而来的新问题,故应进行模式转换,在保留非法获取与非法提供行为的基础上,将非法利用行为纳入侵犯公民个人信息罪的规制范围,合并规定于《刑法》第253条之一第1款,并适用该款法定刑,完成从源头治理到全程打击的模式转型,实现对公民个人信息的周全保护。

人工智能在OODA循环中的应用

当前人工智能(AI)是商业和工业,甚至军事应用领域中最热门的流行语。军事国防领域也已经将人工智能发展成为了一种技术,并应用到军事作战和决策系统中。最初OODA循环是最知名的空战战术模型,后来发展成为各国空军的作战方法。OODA循环对于任务的定义和决策过程的理解起到了重要的作用。本文主要研究了人工智能在OODA循环决策中的应用。讨论了未来OODA循环各阶段中所需的AI作用和技术,包括可解释的人工智能和基于学习的人工智能。

欧盟《人工智能法》中的风险防控机制及对我国的镜鉴

欧盟《人工智能法》是世界上第一部促进人工智能安全发展的区域性国际法律文件,将人工智能系统定性为自主性工具,立足于人工智能安全风险全球化视角,以保障本土安全与发展利益为导向,规定了针对不同类型人工智能安全风险的、全过程多方协同防控机制。该法根据风险的类别和大小程度,将防控对象分为禁止的人工智能活动、人工智能系统和通用人工智能模型三大类六小类,分别采取禁止和不同程度的管控措施,重点防控高风险人工智能系统和通用人工智能模型的安全风险。以上防控机制主要通过规定人工智能安全管理义务及其处罚规定来实现,重点规定了高风险人工智能系统和通用人工智能模型的要求及相关方的安全管理义务,并对违反不同义务的自然人、公司以及欧盟机构、部门或实体设置了与行为人类型及义务相称的罚款。我国制定人工智能安全立法应考虑借鉴该法的成功经验,同时避免其出现的防控不全面不充分、法律责任制度存在缺漏、风险防控责任分配不合理等缺点。