欧盟《人工智能法案》对于预测警务型人工智能的规制研究

人工智能技术在警务领域的应用,优化了资源配置,有效降低了犯罪率,因而得到了全球执法机构的高度认可。然而,其应用亦引发了公众对数据安全性、预测精准度以及算法透明性等方面的关注与疑虑。对此,欧盟通过了《人工智能法案》,该法案采用“以人为中心”的治理理念,依据风险等级对人工智能系统进行分类监管。其中,对于预测警务型人工智能,欧盟将其定位为“具有不可接受风险”的类别,从而在全球范围内首次对其进行了专门规制。此举无疑标志着欧盟在人工智能监管领域的领先地位。对于我国而言,可以借鉴欧盟的立法经验,结合《全球人工智能治理倡议》所倡导的价值观,构建适合我国国情的人工智能数据安全标准,确立算法透明度规则,并完善算法决策问责机制。这将有助于加快我国人工智能立法的进程,确保在保障人权和促进科技发展的双重目标之间取得平衡,引导人工智能技术的健康、有序发展。

欧盟《人工智能法案》的影响与启示

欧盟出台的《人工智能法案》将对全球人工智能治理进程产生重要影响,并对我国推动人工智能健康有序发展的进程带来启示。该法案实施后,全球在人工智能领域的话语权争夺或将愈发激烈,部分区域以“安全”为名构筑“小院高墙”的趋势可能更加显著。同时,我国的出海企业可能面临更高的合规成本。对此,我国应加快在全球人工智能治理领域的前瞻性布局,为出海企业提供有效的海外合规保障。

欧盟《人工智能法案》中的人工智能战略

欧盟《人工智能法案》对于如何实现欧盟人工智能战略自主创新与有效监管两大目标的平衡具有重大影响。该法案通过建立风险分级、监管沙盒等制度,加强内部市场统一,从而推动自主创新;构建以欧盟价值观为核心的法律制度,强化监管协调,以实现有效监管并提升其域外影响力;同时,该法案使创新与监管相互促进。该法案对中国人工智能治理有一定启示作用,其后续发展值得关注。

基于风险的通用人工智能监管——从欧盟《人工智能法案》视角展开

以ChatGPT为代表的通用人工智能火爆全球,在改变我们生活以及提升生产效率的同时,也引发了一系列的监管挑战。为此,欧盟《人工智能法案》采取了一种基于风险的监管方法,通过对不同人工智能的风险进行评估,将人工智能风险分为不可接受的风险、高风险、有限风险、最小风险几个等级,并对应赋予了相应等级的义务。但是,鉴于通用人工智能无固定任务性、适应性、突现性等特点,对其监管有别于传统人工智能,欧盟此种自上而下的静态风险规制路径难以有效监管通用人工智能。因此,有必要采取一种动态风险规制方法,将人工智能风险类别转化为动态风险情景,把风险的主要因素类型化为危害、暴露、脆弱性以及反应。在判断风险的等级时,需综合危害、暴露、脆弱性以及反应四个要素。同时,鉴于提供者、私人机构制定高风险标准的缺陷,应由立法者授权相关行政主管机关制定高风险的标准,并立足于通用人工智能的开发到使用进行全流程监管。

欧盟《人工智能法案》:重点内容、评价与启示

2024年3月13日,欧洲议会投票通过《人工智能法案》(EU Artificial Intelligence Act),被指“标志着欧盟扫清了立法监管人工智能的最后障碍”,2024年5月21日,欧盟理事会正式批准《人工智能法案》。下一步,该法案将由欧盟议会主席和理事会主席签署。

论欧盟《人工智能法案》中的标准化模式及对我国启示

2024年3月13日,经欧盟议会全会投票,正式通过了全球首个人工智能领域的综合性立法《人工智能法案》。本文对该法案的制定背景、规范体系与其中涉及标准化的内容进行了分析。该法案通过设置1025/2012号条例准用性条款,为法律适用提供了大范围、开放的标准“接口”,一方面可一定程度弥合人工智能技术与法律条款之间的鸿沟,另一方面标准化法规也为欧盟未来人工智能的标准化治理提供了法律保障。此外,本文结合该法案中标准与法律的互通机制提出了我国未来人工智能的治理建议,以供参考。

欧盟《人工智能法案》简析

欧盟《人工智能法案》采用基于风险的监管路径,针对不同风险等级的人工智能系统采取不同的监管要求。《人工智能法案》同时也针对自2023年开始引发全球极大关注的生成式人工智能予以了相关规范。本文旨在梳理和介绍《人工智能法案》的立法背景与核心内容,以期为了解欧盟在人工智能领域的立法及监管制度提供参考。

媒介生态系统下社交机器人的行为规范与纠偏——基于欧盟《人工智能法案》的分析

近年来,作为在平台上允许自主发布内容的人工智能体,社交机器人从传播中介一跃成为传播主体,在重塑媒介生态的同时也存在行为失范等一系列问题。欧盟《人工智能法案》从明确定义到规定权利和义务,再到实施严格的制裁手段,站在利益攸关方协商的立法角度弥补了现阶段社交机器人的平台漏洞和监管缺失,为媒介系统下的社交机器人的行为规范提供了现行标准和纠偏机制,也为媒体平台的具体应对提供了相应的法律依据。

欧盟《人工智能法案》简析及对我国的启示

技术的变革总会在法律领域引发新的机遇与挑战。就人工智能而言,其具有巨大的商业潜力,有望赋能各行各业,但同时也带来了许多风险,如数据隐私保护、算法歧视、数据泄露等问题。欧盟推动人工智能立法,力图通过一部综合性立法抢占全球人工智能监管先机。

欧盟《人工智能法案》如何影响教育?

2023年12月8日,经过长达一周的马拉松式磋商和激烈辩论,欧盟委员会、欧洲议会以及欧盟各成员国的代表们就《人工智能法案》(AI Act)达成了初步共识。“靴子落地。”中国现代国际关系研究院欧洲研究所欧洲经济项目负责人董一凡表示,这是一个标志性进展,《人工智能法案》在全球范围内是一份比较领先的整体性监管规则,具有很强的欧盟特色。目前,法案的技术性细节仍在讨论阶段,其最终文本尚未向公众披露。

“去风险”视域下欧盟人工智能战略的推进及影响——以《人工智能法案》为例

近年来,欧盟的经济安全政策愈发受到地缘政治的影响,在“去风险”框架下强调增强抵御外部风险的能力以及确保共同体在全球竞争中不落人后,其中以人工智能为代表的高端技术为重点防范领域。2024年3月13日,欧盟《人工智能法案》最终经欧洲议会批准,是目前世界上最早出台的具有较强约束力的系统性法案。法案在监管体系、监管范围、监管机制和监管理念等多个层面都呈现出欧盟特性且富有创新性。此法进一步彰显了欧盟在人工智能和经济安全领域“去风险”的决心,标志着欧盟在提升全球数字经济影响力方面迈出的重要一步。然而,欧盟严苛的人工智能法案在执行有效性、制度竞争性和规则扩散性三个层面将对我国的经济与科技发展带来不小的挑战,甚至可能形成某种制度性打压。在此背景下,我国需要以欧盟法案作为立法借鉴并且积极在联合国框架下促成人工智能全球治理,推动人工智能技术的健康和可持续发展,实现共同繁荣。

欧盟通过全球首部《人工智能法案》

近期,人工智能领域无论是技术发展还是政策制定,都进展迅速。2024年3月,欧盟通过了全球首部生成式人工智能法案,4月,英美建立了人工智能安全科学合作伙伴关系,成为全球首批就人工智能的安全发展进行合作的国家。此外,还有更多关于人工智能应用的讨论。

人类首个《人工智能法案》及欧盟案例

2024年刚刚获准通过的欧盟《人工智能法案》是全球首个人工智能法案。关天AIGC的治理和论理规范,欧盟有一些独特的经验与思考。欧盟在人工智能方面的认知历经了一个演变的过程。在《人工智能法案》获批之前,欧盟法院判决了一起关于人工智能自动化决策的案件。德国的一家信贷公司使用人工智能进行了自动化的信贷决策。

欧盟《人工智能法案》将落地

全球首份全面监管人工智能的法律,即将在今年上半年正式生效,它对全球人工智能及科技行业的影响不容低估,历经四年,欧盟《人工智能法案》AIAct,下称《AI法案》于2月2日全票通过欧盟理事会常务代表委员会表决。2024年上半年,这份法律将正式生效,成为全球首份全面监管AI的法律。

欧盟《人工智能法案》对我国人工智能治理的启示

2024年5月21日,欧盟理事会正式批准了《人工智能法案》(以下简称《法案》)。《法案》所提出和强调的各类监管措施,对我国进一步完善人工智能产业监管体系、丰富人工智能产业治理手段具有参考借鉴与启示价值。《法案》对人工智能监管呈现五个特点构建全领域适用的供应链责任体系。为了统一相关主体义务,同时防止出现分歧以阻碍人工智能在内部市场自由流通、创新、部署和使用。

欧盟人工智能监管及对上海的启示

2024年7月12日,《欧盟官方公报》正式公布欧盟《人工智能法案》,这标志着全球首部具有域外影响的人工智能统一立法落地生效。《人工智能法案》不仅阐明了欧盟人工智能治理路径和特点,还将对全球人工智能治理产生深刻影响。

欧盟《人工智能法》政策演进、战略考量与影响分析

2024年8月2日,欧盟《人工智能法》正式生效。这是欧盟数字产业和新兴技术治理的又一里程碑,也是欧盟在技术地缘政治和科技伦理规范的重要体现,在进一步以规则塑造强化“规范性力量”和“布鲁塞尔效应”投射同时,也将给其自身和全球未来人工智能规则博弈、产业发展和治理规范方面产生全面影响。

欧盟发布《科学中的人工智能》报告支持利用人工智能加速科学发现和创新

2023年12月,欧盟委员会发布《科学中的人工智能》报告,主张量身定制欧洲研究区的人工智能政策,利用人工智能加速科学发现和促进创新,增强欧盟在全球科学领域的竞争优势。一、人工智能在科学发现中的关键作用研究表明,人工智能已经在科学过程的每个阶段产生影响。人工智能通过加速科研进程、带来变革性突破和促进跨学科合作,有望成为科学创新的主要驱动力,从根本上改变科研工作的方式和科学家的角色。

AI产品侵权归责原则的法经济学考察——兼评欧盟《人工智能责任指令》

AI产品是以AI技术为基础,以销售、使用为目的,依赖研发者设定的固定程序,通过计算进行决策并完成相应任务,被广泛应用于各行业的动产领域;AI产品侵权归责原则大致可分为共同责任侵权原则、严格责任原则和过错侵权原则三类。在适用侵权归责原则时,常见的困境包括共同侵权责任原则缺乏归责上的“共同性”,严格责任原则具有“片面性”,以及过错责任原则难以确定“过错”与“因果关系”。此外,责任主体尚不明确。基于社会成本与委托代理理论,AI产品侵权归责理论可从制度激励、信息不对称与风险分散三个维度解析归责的基本逻辑,以实现社会福利最大化。欧盟《人工智能责任指令》在一般条款外仅规定了举证责任、证据披露和因果关系推定等要素,对产品侵权问题的规制存在漏洞,它所确立的严格责任制度仍具有补充和提升空间。为实现欧盟《人工智能责任指令》下的社会福利最大化,尝试将过错责任原则适用于生产者,将剩余责任即严格责任原则适用于驾驶员,即若生产者存在过错,驾驶员和生产者将以各自的责任份额分担责任;如果生产者被证明遵循了应有的注意义务,那事故损失必须完全由被适用严格责任原则的驾驶员承担。

地缘经济转向、数字主权与欧盟人工智能治理

数字主权战略是欧盟“地缘经济转向”在数字空间的反映,包含监管与创新双重目标。在数字主权战略和人工智能兴起的背景下,欧盟推出了全球首部人工智能全面监管法律《人工智能法案》。在立法过程中,欧盟立法机构不断累积对人工智能风险的认识,并努力在促进人工智能创新和减轻人工智能风险间取得平衡。欧盟能否通过《人工智能法案》实现其领域的数字主权取决于欧盟能力、法案制度设计和人工智能技术特征等因素的共同作用。《人工智能法案》有利于欧盟协调内部行动和影响全球监管立法,但成员国在高风险人工智能监管执行权分配中的授权程度较低、法案制度设计未能弥合监管与创新的分歧、法案转化和修订与人工智能技术迭代的潜在不同步将对欧盟的人工智能主权产生不利影响。