全球人工智能治理的目标、挑战与中国方案

全球人工智能治理是指国家、市场和技术社群行为体为实现人工智能在全球的安全发展与和平利用而共同制定实施一系列原则、规范和制度的过程。随着生成式人工智能取得技术突破,全球人工智能治理进程加速发展,各个行为体和平台围绕人工智能的伦理、规范和安全建立了诸多治理机制。但是,地缘政治因素和复杂的政治、市场、技术逻辑之间的分歧制约了全球人工智能治理进程。作为人工智能技术大国,中国及时提出《全球人工智能治理倡议》,为全球人工智能治理提供了切实可行的方案。

全球人工智能治理:多元化进程与竞争性图景

人工智能技术的快速发展对国际体系产生了重要影响。国家维度可以成为分析和展示当前全球人工智能治理进程的重要视角。从国家维度展开全球人工智能治理全景图,将会呈现出以三条核心路径为基本架构的多元化进程,分别是美国作为唯一代表的权力目标导向路径,以维护智能领域的霸权为基本特征;以欧盟等为代表的安全导向路径,其突出特征是监管优先;以中日等国为代表的发展导向路径,将治理工具与发展战略结合,希望实现技术和产业的赶超。在无政府状态的制约下,多元化与竞争性将成为国家维度下全球人工智能治理的主要特征。

全球人工智能治理:联合国的角色

近年来,联合国秉持以人为本的核心理念和可持续发展的目标导向,通过设立专门机构和国际论坛,制订一系列治理规范,引领全球人工智能治理议程,成为推动全球人工智能治理的重要平台。然而,现有国际法滞后于人工智能发展进程的新溢出风险,以及国家间存在的人工智能鸿沟等因素,加大了联合国开展全球人工智能治理的难度。同时,受大国竞争影响,联合国开展的全球人工智能治理面临激烈的规则制定权之争。为此,联合国要进一步构建多元主体协同治理模式,提升不同国际行为体人工智能治理框架的互操作性,解决国家间人工智能治理领域的国际合作难题,增强发展中国家在全球人工智能治理中的代表性和发言权,弥合国家之间的人工智能鸿沟。

东盟人工智能治理研究

近年来,东盟不断推进区域人工智能治理进程,增强东盟各国在人工智能全球治理中的代表性和发言权,弥合区域人工智能鸿沟。东盟将人本理念作为核心治理原则,着手构建人工智能网络化治理机制,通过“多层治理”模式统筹东盟人工智能治理。在设计思路上,东盟人工智能治理展现出国际化视野,同时深入考量本土化需求;在实践进程中,则强调治理规范的包容性,吸纳多方意见,通过国际软法等灵活调整机制,展现出高度的适应性和前瞻性。由于现行人工智能治理规范的宏观性和模糊性,以及缺乏对人工智能军事应用风险的考量,东盟人工智能治理的施行在一定程度上受到制约,加上东盟成员国之间人工智能水平差距较大,其难以在短时间内摆脱人工智能鸿沟的影响。因此,在现有规范基础上,东盟可以积极借鉴其他国家和国际组织的成功经验,促进区域人工智能治理的“软法”与“硬法”协同发展,加强人工智能治理领域的国际合作与交流,共同推动形成更加公正合理的人工智能治理体系。

国内外人工智能治理研究热点与发展趋势——基于Citespace的可视化分析

文章以CNKI和Web of Science数据库为来源,获取2008—2023年间国内外人工智能治理主题文献,通过Citespace可视化软件从重要作者、核心期刊、关键词、研究热点等角度进行分析,研究表明国内外人工智能治理发文量和研究热度均呈上升趋势。国外文献从多技术、多领域角度对人工智能治理展开颇具广度和深度的综合性研究,国内文献仍侧重于人工智能治理理论构建和适应性研究。未来国内有必要在跨学科视角下拓宽研究所涉领域,探求人工智能技术与社会治理实现更广更深的融合。

敏捷治理:人工智能治理新模式

人工智能敏捷治理作为一种新的治理范式,是对以往探索式、回应式、集中式人工智能治理模式的反思、批判与超越。敏捷治理嵌入人工智能治理当中,其在治理价值、治理主体、治理对象、治理方式这四大核心要素上有新的内涵特征。人工智能敏捷治理概念的生成既是第四次工业革命浪潮的推动,又是促进人工智能“向善”、增进人民福祉和走出人工智能治理困境的需要。与此同时,国家方针政策的指引、政府多重资源的投入、多方实践经验的奠基使得人工智能敏捷治理成为可能。为应对时代挑战、迈向人工智能的敏捷治理,我们需应对传统官僚主义思想,树立敏捷治理理念;合理把握治理节奏,确保治理工具使用张弛有度;健全敏捷治理的制度体系,为人工智能敏捷治理保驾护航。

人工智能治理范式变革——基于政策分析与主题建模的研究

人工智能治理范式是在人工智能技术治理中面对责任分配、资源配置、规则制定及挑战应对等问题时逐步形成的具有指导性、规范性及系统性的范例。文章通过引入范式变革理论,认为人工智能技术发展过程中不断产生的问题,以及人工智能治理导向、主体、内容的持续修正和调节需求是人工智能治理范式具有进步性和动态性的理论根源。基于此,对全球主要国家和国际组织发布的人工智能政策进行量化分析,通过量化政策发布机构、文件类型的时序变化,以及采用BERTopic主题建模归纳总结不同阶段人工智能治理内容的侧重点,解构人工智能治理范式的变革趋势,洞察人工智能治理复杂性。

论人工智能治理体系中绿色原则的建构方式

在现有的人工智能治理论争中,预防技术安全风险已经成为主要的研究领域,并延伸出一系列与安全发展相关的基本原则。在这些论争中,绿色原则的重要性往往被忽视,并被狭隘地理解为一种绿色科技创新的法律价值体现。审视《民法典》引入绿色原则的制度演进过程,绿色原则并没有被简单视为虚置性的法律原则,而是作为民法与环境法在立法逻辑层面衔接的重要依托。相应地,在人工智能治理体系中引入绿色原则,核心目的是将环境法中所要求的“节约资源”和“保护生态环境”等要求转化为相应的人工智能治理原则与规则。绿色原则的制度功能主要表现为“与创新发展等其他基本原则相互衔接”“转化为具体的绿色条款”和“作为科技伦理审查的标准”,进而实现兼顾技术安全和绿色环保的高质量科技创新制度保障体系。

从GPT迈向AGI:人工智能治理的未来路径探索

[研究目的]GPT(生成式预训练模型)已经展现出未来AGI(通用人工智能)的技术端倪,AGI将成为未来社会的基础设施,应用于各行各业。我国目前已经形成了“算法—深度合成—生成式人工智能”的治理推进脉络,但从GPT迈向AGI的进程中,数据资源匮乏、算力供给短缺、模型开源建设落后、责任承担不明确等问题仍是其发展的掣肘,因此亟待探索适应人工智能时代发展的治理路径。[研究方法]立足于国内人工智能发展与治理的现状,深入分析目前人工智能发展所面临的问题,结合美国的灵活监管和欧盟的统一治理等国外人工智能治理经验,从逻辑更新和政策优化两方面破解人工智能目前面临的发展困境。[研究结论]在逻辑更新方面,我国应在明晰AGI为可自主无限处理复杂任务的通用性人工智能系统的情况下,制定面向AGI的包容审慎人工智能治理新模式,重视伦理建设从而规避安全风险。在政策完善方面,应鼓励数据共享流通,加大对算力基础设施的投入,积极推动开源建设,完善人工智能生成物的责任承担制度,以期促进我国人工智能的健康发展。

欧美人工智能治理模式比较及启示

在国际竞争加剧的今天,人工智能成为了关乎国家安全的关键技术。人工智能治理不仅是各国国内政策的当务之急,也成为全球治理的一个全新领域。欧盟和美国是人工智能技术领域的领先者,也在全球人工智能治理中扮演重要角色。在人工智能治理模式上,欧盟采取的是基于权利和风险的“硬监管”模式,侧重在法律层面搭建全面的人工智能治理框架,以加强监管方面的领导力,发挥其“规范性力量”。美国采取的则是基于市场与技术的“软监管”模式,依赖总统行政令等“软法”进行治理,鼓励“行业自治”和“自我监管”,以保持在技术上的领导力。欧盟和美国在人工智能治理方面的差异具体体现在政策工具性质、治理机构设置以及治理过程中私营部门的参与三个方面。欧美人工智能治理模式的差异可以从政策传统、利益集团影响以及产业生态三个方面得到解释。欧美两种治理模式都是根据各自特殊情况探索出的合适道路,两者之间并不存在根本的冲突。中国具备调和欧美两种治理模式的潜力,找到一条平衡的人工智能治理道路。

科技向善:中国全球人工智能治理倡议的核心要义与理论价值

2023年10月18日,习近平主席在第三届“一带一路”国际合作高峰论坛开幕式主旨演讲中提出全球人工智能治理倡议。该倡议的出台有其复杂的现实背景:一是美国对华实施全方位的人工智能战略竞争和打压;二是发展中国家和发达国家之间的智能鸿沟不断扩大;三是人工智能技术突飞猛进所带来的风险及挑战已成为世界各国面临的共同课题。全球人工智能治理倡议既是中国人工智能伦理原则的宣示,也是中国在该领域大力推进人工智能技术发展的路线图,展示出中国在推动全球人工智能技术健康发展方面的愿景和责任担当。该倡议的核心要义涵盖治理理念、治理路径、治理主体、治理原则、治理目标五个层面,具有重要的理论价值。

科技伦理嵌入人工智能治理体系的路径展开——以自动驾驶应用场景为例

人工智能技术风险具有风险重叠交叉的特征,单一的治理工具无法有效控制技术风险,因而科技伦理治理的引导规范作用开始受到关注,并被引入人工智能治理体系。然而,现有研究大多停留于科技伦理层面探讨相应的治理机制建构路径,未能充分阐明科技伦理治理机制如何与法律、技术和市场等其他治理机制相互结合,发挥协同治理的效果。科技伦理治理本质上属于一种方向型、引导性治理机制,具体的治理功能包括引导、协商、识别和反馈四个要素,与此对应的治理机制包括科技伦理风险研判管理机制、科技伦理风险识别评估机制和科技伦理风险反馈应对机制。具体到自动驾驶领域,则表现为包括科技伦理风险、技术安全风险、权益侵害风险和市场失序风险在内的一体式评估,确认不同风险的轻重缓急并采取针对性治理机制。

联合国框架下的全球人工智能治理现状、挑战与展望

本文全面分析在联合国框架下人工智能治理的现状、所面临的挑战以及未来发展前景。文章首先明确了全球人工智能治理的定义,描述了联合国在推动全球AI治理进程中的角色,阐述了联合国主导下的核心人工智能治理机制,以及联合国大会通过的首个关于人工智能的决议。文章指出了全球人工智能治理目前面临的主要挑战,如发展不均衡、治理机制的有效性问题等。针对这些问题,文章提出了联合国框架下的敏捷且网络化的治理策略,强调加强南北及南南合作,注重互操作性设计和促进包容性等解决策略,旨在为全球AI治理的未来发展提供指导和参考。

价值-工具二维理性融合框架下的中国人工智能治理模式探析

人工智能(AI)作为新一轮科技革命和产业变革的核心驱动力,正在深刻改变着人类社会。然而,人工智能在带来巨大发展机遇的同时,也引发了算法歧视、隐私泄露、社会伦理等一系列挑战。如何在推动人工智能技术创新与应用的同时,有效规避其潜在风险,已成为全球治理面临的共同课题。文章以马克斯·韦伯的“理性二分法”为理论基础,构建“价值—工具二维理性融合框架”,以此分析和解读中国的人工智能治理模式。研究发现,中国的人工智能治理模式体现了价值理性与工具理性的有机融合,强调技术发展要服务于社会大局,促进社会公平,同时也注重推动技术创新和产业发展。这一治理模式在确保技术进步的同时,有效应对了人工智能带来的多维挑战,为全球人工智能治理提供了重要的理论和实践借鉴。具体而言,中国在顶层设计、法律法规、伦理规范、产业发展等方面积极探索,构建了以“发展负责任的人工智能”为核心的治理体系,并取得了积极成效。然而,中国的人工智能治理仍面临着理论体系尚待完善、法律法规需进一步细化、监管机制有待加强等挑战。未来,中国应进一步完善价值—工具二维理性融合框架下的治理体系,加强人工智能伦理风险防范,推动人工智能技术向善发展,为构建人类命运共同体贡献中国智慧和力量。

迈向敏捷治理:日本人工智能治理模式探究

在以ChatGPT为代表的大模型技术的推动下,人工智能逐渐引发了一场社会、经济和技术领域的深刻变革。然而,人工智能发展带来的隐私、安全和公平等问题也引发了广泛关注。在此背景下,日本以敏捷治理为核心,提出了一种柔性、动态和以人为本的人工智能治理模式。通过强调技术发展优先、促进多元主体参与以及推动软法范式监管,日本构建了一个适应人工智能技术快速发展的治理框架。其具体实践涵盖交通、金融和版权等多个领域,并通过国际合作推动形成全球治理共识。敏捷治理模式不仅为日本人工智能的创新与安全发展提供了保障,也为全球人工智能治理提供了重要参考。

技术创新与风险治理之间的权衡——生成式人工智能治理的理念、工具与实践

生成式人工智能技术在显著提升人们工作效率的同时,也给相关领域带来了包括数据使用、生成内容滥用、算法滥用等诸多法律风险。因此,完善人工智能风险治理体系,在技术创新与风险治理之间寻求平衡,显得极有必要。文章认为,基于生成式人工智能的通用性带来的广泛应用及潜在风险,需要对生成式人工智能治理的理念、工具与实践进行适应性调整。在治理理念方面,秉持包容审慎的治理理念,在保护创新的同时,避免过度监管;在治理工具方面,通过强调敏捷治理以适应快速变化的技术环境及灵活的框架协调各方;在治理实践方面,“基于风险的方法”被应用于政策制定,通过全程性的风险识别、评估、参与和监督,维持技术创新与风险治理的平衡。

全球人工智能治理——“未来”到来与全球治理新议程

人工智能的发展给全球化和世界政治经济进程带来了科学、技术、数据、网络、信息等多重影响。同时,人工智能也可能导致新的全球问题出现,因而主要行为体尤其是主权国家不得不参与人工智能时代的全球治理,并寻求有效路径,以期更好地利用人工智能服务于经济和社会发展,并探索全球问题的解决之道。人工智能时代的全球问题,表现为人工智能可能引发新的全球焦虑、对国际安全和全球治理构成双重挑战,而人工智能本身还可能存在数据隐忧。有鉴于此,人工智能时代的全球治理新议程,无疑首先指向人工智能本身,即全球人工智能治理。全球人工智能治理的一般路径,表现为人工智能治理集中化、合法化与专业化,通过政府政策对人工智能的直接或间接治理,并就人工智能治理寻求国际合作。中国参与全球人工智能治理,在利用人工智能优化经济治理和企业战略布局、提升国家治理智能化水平、推动生态文明建设和环境治理、践行"一带一路"倡议等方面,存在较大的提升空间。

人工智能治理理论及系统的现状与趋势

人工智能(Artificial Intelligence,AI)治理是解决AI挑战的主要手段。AI治理的主要目的是充分发挥人工智能带来的优势和有效降低人工智能导致的风险,并通过整合技术、法律、政策、标准、伦理、道德、安全、经济、社会等多个方面的影响因素,最终建设负责任的人工智能(Responsible Artificial Intelligence,RAI)。AI治理可以从智能个体治理、智能群体治理以及人机合作与共生系统的治理等3个方面,分技术层、伦理层、社会及法律层等3个层面进行。AI治理的主要关键技术有4种:可理解性人工智能、防御对抗性攻击技术、建模及仿真技术和实时审计技术。从谷歌、IBM和微软等公司的AI治理实践来看,产业界主要关注的是RAI研发,在AI系统的可解释性、隐私保护和公平性检查等方面已出现一些专用组件工具。目前,AI治理需要研究的科学问题有:软件定义的AI治理、AI治理关键技术、大规模机器学习中的AI治理评价、基于联邦学习的AI治理、AI治理的标准制定、增强人工智能与人在回路型AI训练等。

人工智能治理:内涵、挑战与治理

近年来,人工智能深刻改变着人类社会的生产生活方式,影响人类世界的发展。在人工智能为人类带来科技红利的同时,技术失控、数据安全、法律伦理等问题也引发了人们对人工智能发展的诸多担忧,由此引起了对人工智能治理问题的思考。在风险社会视域下,风险隐患应该规制在合理的范围之内,正确对待人工智能在技术、伦理、社会、安全及法律等方面的风险挑战,加强对新兴技术风险的主动预防,重视对人工智能的治理,增强人工智能治理能力,应从优化顶层设计与技术控制、加强伦理道德规范建设、健全治理法律法规、强化多元主体合作共治、加强国际合作构建全球人工智能治理体系五个维度来完善人工智能治理。

学科交叉视角下人工智能治理领域知识流动与研究主题的国际比较研究

为全面把握国内外人工智能治理的研究动态,基于学科交叉视角,以人工智能治理中外论文为研究对象,采用关键词共现、突现检测、网络分析等方法,从总体发展、交叉广度与跨学科融合主题等方面揭示国内外人工智能治理研究的特征与差异,为我国在人工智能治理领域的发展提供参考和借鉴。研究发现,中国学者对于人工智能治理的关注起步晚于国外学者但发展迅速,国外人工智能治理研究以社会科学和计算机科学为主要参与学科,学科交叉广度与知识融合主题丰富性均高于国内,研究主题涵盖技术治理、应用治理、治理政策等多个方面且以技术治理研究为主;中国人工智能治理研究以社会科学为主要参与学科,研究主题以应用治理研究为主。