中国发布《全球人工智能治理倡议》聚焦人工智能发展、安全、治理

日前,中国发布《全球人工智能治理倡议》(以下简称“《倡议》”)。中国外交部发言人表示,这是中国积极践行人类命运共同体理念,落实全球发展倡议、全球安全倡议、全球文明倡议的具体行动。

中国为人工智能全球治理注入新能量——《全球人工智能治理倡议》解读

国际社会日益关切如何在享受人工智能技术创新成果的同时,采取必要措施以降低相关道德伦理和安全风险,呼吁提高对人工智能全球治理议题的重视程度。尽管国际社会认识到推动这一全球治理议题的紧迫性,但是相关治理进程依然缓慢顺应全球科技发展趋势,中国加快人工智能技术创新发展,并且为人工智能全球治理注入至关重要的新能量。

从大国协调到全球性机制:人工智能大模型全球治理路径探析

人工智能大模型全球治理的关键是对大模型进行科学分类。大模型可以分为超大模型和一般模型。对于超大模型的治理,可以参考核武器治理的思路,重点是实现超大模型的有限发展和不扩散。对于一般模型而言,要在安全可控的基础上发挥其对各国生产力的推动效应。一般模型的治理关键是对风险进行定价。关于人工智能大模型的全球治理,不仅要充分发挥传统机制的作用,还需要构建新的专门性国际机制,努力形成一种全球性的机制复合体。

人类命运共同体视角下人工智能风险全球治理的国际法规制路径探究

2023年10月中国发布的《全球人工智能治理倡议》是以构建人类命运共同体为视角,提议各国加强信息交流与技术合作、共同做好风险防范、促进人工智能技术向善,开启了人工智能全球治理的新篇章。鉴于人工智能技术所呈现的跨国家、跨领域、跨文化等全球化属性,作为维护全球和平与稳定基石的国际法由此成为推进人工智能全球治理、防范人工智能国际风险和伦理风险的重要力量。然而,目前国际法在人工智能全球治理中依然面临着严峻的风险和挑战,其中主要包括:国际战略博弈加剧、人工智能算法独裁、人工智能技术垄断、人工智能规则霸权等国际政治安全风险;国际贸易摩擦加剧、全球结构性失业、数据跨境流动规制冲突等国际经济安全风险;人工智能军事伦理困境、人工智能战争人权侵犯、人工智能武器技术扩散等国际军事安全风险;等等。为此,需要通过国际软法与国际硬法协同共治、建立和完善数字经济国际规则、加强人工智能武器领域人权保护等方式,构建全方位、多层次、立体化的人工智能国际法体系,为人工智能全球治理提供坚实的国际法治保障,在安全稳定的前提下促进人工智能健康可持续发展。

全球人工智能治理:联合国的角色

近年来,联合国秉持以人为本的核心理念和可持续发展的目标导向,通过设立专门机构和国际论坛,制订一系列治理规范,引领全球人工智能治理议程,成为推动全球人工智能治理的重要平台。然而,现有国际法滞后于人工智能发展进程的新溢出风险,以及国家间存在的人工智能鸿沟等因素,加大了联合国开展全球人工智能治理的难度。同时,受大国竞争影响,联合国开展的全球人工智能治理面临激烈的规则制定权之争。为此,联合国要进一步构建多元主体协同治理模式,提升不同国际行为体人工智能治理框架的互操作性,解决国家间人工智能治理领域的国际合作难题,增强发展中国家在全球人工智能治理中的代表性和发言权,弥合国家之间的人工智能鸿沟。

全球人工智能治理的目标、挑战与中国方案

全球人工智能治理是指国家、市场和技术社群行为体为实现人工智能在全球的安全发展与和平利用而共同制定实施一系列原则、规范和制度的过程。随着生成式人工智能取得技术突破,全球人工智能治理进程加速发展,各个行为体和平台围绕人工智能的伦理、规范和安全建立了诸多治理机制。但是,地缘政治因素和复杂的政治、市场、技术逻辑之间的分歧制约了全球人工智能治理进程。作为人工智能技术大国,中国及时提出《全球人工智能治理倡议》,为全球人工智能治理提供了切实可行的方案。

全球人工智能治理:多元化进程与竞争性图景

人工智能技术的快速发展对国际体系产生了重要影响。国家维度可以成为分析和展示当前全球人工智能治理进程的重要视角。从国家维度展开全球人工智能治理全景图,将会呈现出以三条核心路径为基本架构的多元化进程,分别是美国作为唯一代表的权力目标导向路径,以维护智能领域的霸权为基本特征;以欧盟等为代表的安全导向路径,其突出特征是监管优先;以中日等国为代表的发展导向路径,将治理工具与发展战略结合,希望实现技术和产业的赶超。在无政府状态的制约下,多元化与竞争性将成为国家维度下全球人工智能治理的主要特征。

人工智能全球治理新阶段的特征、赤字与改革方向

人工智能技术及应用超出预期的快速发展已经引起了国际社会的普遍关注,并推动人工智能全球治理进入新阶段。已有研究的单一、静态视角难以刻画人工智能全球治理的全貌,本文从主体、机制双重视角的实践梳理勾勒出其当前进展与特征。人工智能全球治理正在经历从多方主体主导向多边主体主导的演化进程,且形成了以原则理念、技术方案、工作项目、平台机构四项核心机制并行的主要特征,但仍然存在三方面治理赤字:由于治理过程开放性和责任性不足而导致的合理性赤字、由于治理成果的结构性失衡而导致的公正性赤字、由于治理效能难执行与错位问题导致的有效性赤字。面对新阶段的机遇与挑战,“竞争性合作”理念有助于打开新的改革空间,其要求将“零和博弈”转变为“变和博弈”,强调利益与目标不完全一致但又相互依赖的独立决策主体间的关系策略,能够兼具敏捷性与“硬约束”特征,而这三点有助于回应当前进程中的治理赤字。未来,不仅要关注人工智能本身的动态演化及其引发的治理挑战,更应关注围绕技术演化而动态发展的国际关系,以推动人工智能全球治理的良性发展。

生成式人工智能大模型全球治理的理论证成与初步构想

生成式人工智能作为人工智能领域重要技术分支,不仅起到驱动数字经济变革和推进产业智能化升级的正面效应,也引发若干新型社会问题和国家安全风险,生成式人工智能大模型全球治理的提出正当其时。欧盟作为数字时代中美之外“第三极”力量,在全球数字治理规则构建中发挥重要作用。生成式人工智能大模型全球治理应秉承“网络空间命运共同体”理念,先行设计合理的技术规制方案,利用《数字市场法》中的“守门人”制度,防范和化解模型运营商潜在的垄断风险,从技术角度将生成式人工智能大模型视为《数字服务法》中的“在线搜索引擎”,为构建更具体的生成式人工智能大模型全球治理方案奠定基础。

人工智能全球治理机制复合体构建探析

人工智能具有内生安全、应用安全、国家安全以及地缘政治安全风险,并基于各类风险形成不同的治理路径,进而体现了机制复杂性的特征,导致人工智能全球治理困境加剧。人工智能全球治理困境的根源在于治理机制未能反映人工智能安全风险特点;治理格局未能反映人工智能行为体力量变化以及互动关系;治理主导理念未能反映人工智能技术发展趋势等。将机制复合体理论引入应对人工智能全球治理困境,构建人工智能全球治理机制复合体,基于分层,实施模块化的动态治理;基于中心,依赖多主体开展协同治理;基于信任,构建大国协调的责任治理。

人工智能与全球治理:模式、理据和紧张关系

近年来,人工智能成为一个引人注目但又充满争议的议题。全球的行动者都在参与构建围绕人工智能的治理机制。但被治理的“对象”究竟是什么,如何治理,由谁治理,以及为什么治理等问题尚不明确。《俄罗斯学刊》编辑部选译该文,介绍国外学者在参考人工智能、计算治理以及更广泛的监管和治理方面文献的基础上对这些问题的阐释。原文刊登于《法律与社会科学年刊》(Annual Review of Law and Social Science) 2023年第19卷,经作者授权在《俄罗斯学刊》以中文发表。

人工智能的全球治理背景及其治理框架

人工智能带来的全球性风险使其成为全球共同面临的科技治理议题。为应对人工智能带来的全球性风险,需要建立起主体、措施和价值原则“三位一体”的人工智能治理框架。从人工智能治理的主体维度来看,需要构建国际组织、政府、科技公司、研发人员、人文和社会科学学者以及政策制定者、产业相关人员、使用者等多元主体参与的协同共治模式。从治理措施来看,包括伦理规范、法律体系与安全机制三个层面的内容。从人工智能治理应当坚持的价值原则来看,包含科技理性与价值理性相统一,科学文化与人文文化相平衡以及人工智能研发过程中兼顾性别平衡的价值原则。

发挥人工智能创新引领作用加强全球治理合作

人工智能的创新引领已经成为经济社会持续发展的重要力量,既带来了前所未有的机遇,也带来了一系列新的风险挑战。人工智能的发展带来的深远影响是全球性的,要想让人工智能更好地造福全人类、惠及所有国家和地区,加强人工智能发展与治理方面的合作,尤其是国际合作至关重要。

联合国框架下的全球人工智能治理现状、挑战与展望

本文全面分析在联合国框架下人工智能治理的现状、所面临的挑战以及未来发展前景。文章首先明确了全球人工智能治理的定义,描述了联合国在推动全球AI治理进程中的角色,阐述了联合国主导下的核心人工智能治理机制,以及联合国大会通过的首个关于人工智能的决议。文章指出了全球人工智能治理目前面临的主要挑战,如发展不均衡、治理机制的有效性问题等。针对这些问题,文章提出了联合国框架下的敏捷且网络化的治理策略,强调加强南北及南南合作,注重互操作性设计和促进包容性等解决策略,旨在为全球AI治理的未来发展提供指导和参考。

2024年世界人工智能大会暨人工智能全球治理高级别会议于上海盛大开幕

2024年世界人工智能大会暨人工智能全球治理高级别会议(WAIC2024)于7月4日上午10时在上海盛大开幕,本次大会以“以共商促共享以善治促善智”为主题,旨在通过会议论坛、展览展示、评奖赛事、智能体验四大板块,全面探讨和展示人工智能技术的最新进展、应用场景以及全球治理框架。

人工智能与全球治理的挑战

本报告收集了九篇论文,探讨了在全球范围内管理人工智能的复杂性和挑战。该文件讨论了人工智能技术的快速发展、其社会影响以及建立稳健的治理框架以确保负责任的人工智能发展的必要性。主要议题包括当前人工智能监管的分散性、国际合作的潜在好处以及建立类似于欧洲核子研究组织(CERN)的全球人工智能研究机构的建议。这些文章强调了包容、透明和适应性强的治理的重要性,这种治理能够跟上人工智能不断变化的风险和机遇,旨在防止权力集中在私营科技公司,并确保人工智能的益处得到公平分配。

李强出席2024世界人工智能大会暨人工智能全球治理高级别会议开幕式并致辞

国务院总理李强7月4日在上海出席2024世界人工智能大会暨人工智能全球治理高级别会议开幕式并致辞。李强表示,2018年首届大会召开时,习近平主席专门发来贺信,指出新一代人工智能为经济社会发展注入了新动能,正在深刻改变人们的生产生活方式。这些年来,人工智能的新技术不断突破、新业态持续涌现、新应用加快拓展,已成为新一轮科技革命和产业变革的重要驱动力量,同时在法律、安全、就业、道德伦理等方面也面临着一系列新课题。

中国践行人类命运共同体理念的关键里程碑——《全球人工智能治理倡议》解读

2023年10月,在第三届“一带一路”国际合作高峰论坛上,中国发布《全球人工智能治理倡议》(以下简称《倡议》)。《倡议》集中展示中国在人工智能治理长期实践中所积累的宝贵经验,围绕人工智能发展、安全、治理三个方面系统阐述人工智能治理的中国方案。

意图孪生:人工智能军事化的国际安全挑战与治理路径

人工智能对人类的威胁,并不是它在智能上的不断升级并最终进化出“类人”意识,而是它所承载的人类意图。神经网络技术的进步显示,人类正在将其意图复制到人工智能载体上。当前,人工智能军事化的浪潮承载着人类的消极意图,它将颠覆大国之间的军事实力平衡,更重要的是,它将导致国家之间的敌意孪生到人工智能系统中,进而给人类整体带来重大威胁。国际社会对人工智能军事化的管控,应该以人类共同安全为指导原则,以人类命运共同体为价值引领,构建基于人工智能的知识共同体,从科学层面判断人工智能意图孪生的技术拐点,并通过国际军控机制和国家之间军控协议缓解安全困境,多轨并行推进以精准管控人工智能军事化的安全挑战。

全球安全倡议下的中国人工智能治理路径

人工智能的迅猛发展与技术地缘政治竞争为全球带来全新的安全挑战,加强人工智能安全治理成为保障全球安全和稳定的当务之急。全球安全倡议提出“共同、综合、合作、可持续”的全球安全观,为当前中国人工智能治理提供了重要启示。统筹国家安全须以国际安全为依托,将人工智能技术的国家安全治理与国际安全治理密切相连。中国人工智能治理路径应兼顾国家安全和国际安全两大维度,将完善人工智能国内治理与深入参与国际治理有效结合,以更好地应对人工智能的安全挑战,平衡新兴技术的安全与发展。通过健全法律法规与政策体系、制定技术标准与规范、推动国际合作与多边机制、增强人才培养与交流、构建开放透明的治理机制以及推动全球伙伴关系的建立与发展,以规范完善国内治理并深入参与国际治理,为人工智能的可持续发展和新兴技术下的国际安全治理做出积极贡献。