全球人工智能治理:联合国的角色

近年来,联合国秉持以人为本的核心理念和可持续发展的目标导向,通过设立专门机构和国际论坛,制订一系列治理规范,引领全球人工智能治理议程,成为推动全球人工智能治理的重要平台。然而,现有国际法滞后于人工智能发展进程的新溢出风险,以及国家间存在的人工智能鸿沟等因素,加大了联合国开展全球人工智能治理的难度。同时,受大国竞争影响,联合国开展的全球人工智能治理面临激烈的规则制定权之争。为此,联合国要进一步构建多元主体协同治理模式,提升不同国际行为体人工智能治理框架的互操作性,解决国家间人工智能治理领域的国际合作难题,增强发展中国家在全球人工智能治理中的代表性和发言权,弥合国家之间的人工智能鸿沟。

国内外人工智能治理研究热点与发展趋势——基于Citespace的可视化分析

文章以CNKI和Web of Science数据库为来源,获取2008—2023年间国内外人工智能治理主题文献,通过Citespace可视化软件从重要作者、核心期刊、关键词、研究热点等角度进行分析,研究表明国内外人工智能治理发文量和研究热度均呈上升趋势。国外文献从多技术、多领域角度对人工智能治理展开颇具广度和深度的综合性研究,国内文献仍侧重于人工智能治理理论构建和适应性研究。未来国内有必要在跨学科视角下拓宽研究所涉领域,探求人工智能技术与社会治理实现更广更深的融合。

全球人工智能治理:多元化进程与竞争性图景

人工智能技术的快速发展对国际体系产生了重要影响。国家维度可以成为分析和展示当前全球人工智能治理进程的重要视角。从国家维度展开全球人工智能治理全景图,将会呈现出以三条核心路径为基本架构的多元化进程,分别是美国作为唯一代表的权力目标导向路径,以维护智能领域的霸权为基本特征;以欧盟等为代表的安全导向路径,其突出特征是监管优先;以中日等国为代表的发展导向路径,将治理工具与发展战略结合,希望实现技术和产业的赶超。在无政府状态的制约下,多元化与竞争性将成为国家维度下全球人工智能治理的主要特征。

全球人工智能治理的目标、挑战与中国方案

全球人工智能治理是指国家、市场和技术社群行为体为实现人工智能在全球的安全发展与和平利用而共同制定实施一系列原则、规范和制度的过程。随着生成式人工智能取得技术突破,全球人工智能治理进程加速发展,各个行为体和平台围绕人工智能的伦理、规范和安全建立了诸多治理机制。但是,地缘政治因素和复杂的政治、市场、技术逻辑之间的分歧制约了全球人工智能治理进程。作为人工智能技术大国,中国及时提出《全球人工智能治理倡议》,为全球人工智能治理提供了切实可行的方案。

敏捷治理:人工智能治理新模式

人工智能敏捷治理作为一种新的治理范式,是对以往探索式、回应式、集中式人工智能治理模式的反思、批判与超越。敏捷治理嵌入人工智能治理当中,其在治理价值、治理主体、治理对象、治理方式这四大核心要素上有新的内涵特征。人工智能敏捷治理概念的生成既是第四次工业革命浪潮的推动,又是促进人工智能“向善”、增进人民福祉和走出人工智能治理困境的需要。与此同时,国家方针政策的指引、政府多重资源的投入、多方实践经验的奠基使得人工智能敏捷治理成为可能。为应对时代挑战、迈向人工智能的敏捷治理,我们需应对传统官僚主义思想,树立敏捷治理理念;合理把握治理节奏,确保治理工具使用张弛有度;健全敏捷治理的制度体系,为人工智能敏捷治理保驾护航。

从GPT迈向AGI:人工智能治理的未来路径探索

[研究目的]GPT(生成式预训练模型)已经展现出未来AGI(通用人工智能)的技术端倪,AGI将成为未来社会的基础设施,应用于各行各业。我国目前已经形成了“算法—深度合成—生成式人工智能”的治理推进脉络,但从GPT迈向AGI的进程中,数据资源匮乏、算力供给短缺、模型开源建设落后、责任承担不明确等问题仍是其发展的掣肘,因此亟待探索适应人工智能时代发展的治理路径。[研究方法]立足于国内人工智能发展与治理的现状,深入分析目前人工智能发展所面临的问题,结合美国的灵活监管和欧盟的统一治理等国外人工智能治理经验,从逻辑更新和政策优化两方面破解人工智能目前面临的发展困境。[研究结论]在逻辑更新方面,我国应在明晰AGI为可自主无限处理复杂任务的通用性人工智能系统的情况下,制定面向AGI的包容审慎人工智能治理新模式,重视伦理建设从而规避安全风险。在政策完善方面,应鼓励数据共享流通,加大对算力基础设施的投入,积极推动开源建设,完善人工智能生成物的责任承担制度,以期促进我国人工智能的健康发展。

欧美人工智能治理模式比较及启示

在国际竞争加剧的今天,人工智能成为了关乎国家安全的关键技术。人工智能治理不仅是各国国内政策的当务之急,也成为全球治理的一个全新领域。欧盟和美国是人工智能技术领域的领先者,也在全球人工智能治理中扮演重要角色。在人工智能治理模式上,欧盟采取的是基于权利和风险的“硬监管”模式,侧重在法律层面搭建全面的人工智能治理框架,以加强监管方面的领导力,发挥其“规范性力量”。美国采取的则是基于市场与技术的“软监管”模式,依赖总统行政令等“软法”进行治理,鼓励“行业自治”和“自我监管”,以保持在技术上的领导力。欧盟和美国在人工智能治理方面的差异具体体现在政策工具性质、治理机构设置以及治理过程中私营部门的参与三个方面。欧美人工智能治理模式的差异可以从政策传统、利益集团影响以及产业生态三个方面得到解释。欧美两种治理模式都是根据各自特殊情况探索出的合适道路,两者之间并不存在根本的冲突。中国具备调和欧美两种治理模式的潜力,找到一条平衡的人工智能治理道路。

科技伦理嵌入人工智能治理体系的路径展开——以自动驾驶应用场景为例

人工智能技术风险具有风险重叠交叉的特征,单一的治理工具无法有效控制技术风险,因而科技伦理治理的引导规范作用开始受到关注,并被引入人工智能治理体系。然而,现有研究大多停留于科技伦理层面探讨相应的治理机制建构路径,未能充分阐明科技伦理治理机制如何与法律、技术和市场等其他治理机制相互结合,发挥协同治理的效果。科技伦理治理本质上属于一种方向型、引导性治理机制,具体的治理功能包括引导、协商、识别和反馈四个要素,与此对应的治理机制包括科技伦理风险研判管理机制、科技伦理风险识别评估机制和科技伦理风险反馈应对机制。具体到自动驾驶领域,则表现为包括科技伦理风险、技术安全风险、权益侵害风险和市场失序风险在内的一体式评估,确认不同风险的轻重缓急并采取针对性治理机制。

联合国框架下的全球人工智能治理现状、挑战与展望

本文全面分析在联合国框架下人工智能治理的现状、所面临的挑战以及未来发展前景。文章首先明确了全球人工智能治理的定义,描述了联合国在推动全球AI治理进程中的角色,阐述了联合国主导下的核心人工智能治理机制,以及联合国大会通过的首个关于人工智能的决议。文章指出了全球人工智能治理目前面临的主要挑战,如发展不均衡、治理机制的有效性问题等。针对这些问题,文章提出了联合国框架下的敏捷且网络化的治理策略,强调加强南北及南南合作,注重互操作性设计和促进包容性等解决策略,旨在为全球AI治理的未来发展提供指导和参考。

技术创新与风险治理之间的权衡——生成式人工智能治理的理念、工具与实践

生成式人工智能技术在显著提升人们工作效率的同时,也给相关领域带来了包括数据使用、生成内容滥用、算法滥用等诸多法律风险。因此,完善人工智能风险治理体系,在技术创新与风险治理之间寻求平衡,显得极有必要。文章认为,基于生成式人工智能的通用性带来的广泛应用及潜在风险,需要对生成式人工智能治理的理念、工具与实践进行适应性调整。在治理理念方面,秉持包容审慎的治理理念,在保护创新的同时,避免过度监管;在治理工具方面,通过强调敏捷治理以适应快速变化的技术环境及灵活的框架协调各方;在治理实践方面,“基于风险的方法”被应用于政策制定,通过全程性的风险识别、评估、参与和监督,维持技术创新与风险治理的平衡。

人工智能治理国内外发展现状分析

为加强人工智能(Artificial Intelligence, AI)治理促进人工智能产业健康向善发展,明确了目前中国在AI治理体系、法律法规、技术手段、治理工具、落地实践等方面存在的问题。梳理分析了人工智能治理国内外发展现状,聚焦AI治理内容和手段进一步深入分析,并且针对中国人工智能治理提出了相关建议。

人工智能治理国际合作:现状、挑战与方向

随着人工智能技术的迅猛发展和广泛应用,全球人工智能治理成为当前科技发展的重要议题之一。从中国、美国、欧盟在人工智能领域的相关治理实践可以发现,治理主体和治理原则不断趋同,但立法进程和法律法规差异体现出不同治理理念。中美欧的治理实践表明,各国在达成更深层次的治理共识、构建国际合作治理体系和机制方面仍面临诸多挑战,包括对原则理解存在差异、监管力度强弱不一、人工智能概念碎片化、地缘竞争削弱合作意愿、安全威胁造成“囚徒困境”等。面对当前国际合作所面临的挑战:一是应秉持开放尊重心态,寻找共同价值基础;二是要坚持求同存异方针,推进分维度合作共建;三是需扩大交流对话领域,发挥社会组织积极作用,积极推进人工智能全球治理迈向新阶段。

公众参与视角下的人工智能治理与风险防范探析

本文以公众参与视角为出发点,深入探析人工智能治理与风险防范的问题。首先,介绍了人工智能的发展背景和公众参与在技术治理中的重要性。其次,阐明了公众参与的定义、多种形式、重要性和作用,并通过国内外公众参与经典案例加深理解。接着,全面探讨了人工智能的技术风险与伦理问题、对社会和经济的影响,以及对个体和群体的影响。在此基础上,提出了提高公众意识与教育、多样化的公众参与机制与途径,以及建立公众平台的治理策略。进一步研究了风险防范与公众参与的互动,包括公众对人工智能风险的认知与态度、公众参与对风险防范的贡献,以及持续的公众参与机制建设。最后,通过比较西方国家的公众参与模式、中国的实践与经验,以及从国外经验中得出的教训,提出了加强公众参与,促进人工智能的健康发展和建设全民共治的人工智能治理机制的建议,同时对未来研究进行了展望。

全球人工智能治理——“未来”到来与全球治理新议程

人工智能的发展给全球化和世界政治经济进程带来了科学、技术、数据、网络、信息等多重影响。同时,人工智能也可能导致新的全球问题出现,因而主要行为体尤其是主权国家不得不参与人工智能时代的全球治理,并寻求有效路径,以期更好地利用人工智能服务于经济和社会发展,并探索全球问题的解决之道。人工智能时代的全球问题,表现为人工智能可能引发新的全球焦虑、对国际安全和全球治理构成双重挑战,而人工智能本身还可能存在数据隐忧。有鉴于此,人工智能时代的全球治理新议程,无疑首先指向人工智能本身,即全球人工智能治理。全球人工智能治理的一般路径,表现为人工智能治理集中化、合法化与专业化,通过政府政策对人工智能的直接或间接治理,并就人工智能治理寻求国际合作。中国参与全球人工智能治理,在利用人工智能优化经济治理和企业战略布局、提升国家治理智能化水平、推动生态文明建设和环境治理、践行"一带一路"倡议等方面,存在较大的提升空间。

人工智能治理理论及系统的现状与趋势

人工智能(Artificial Intelligence,AI)治理是解决AI挑战的主要手段。AI治理的主要目的是充分发挥人工智能带来的优势和有效降低人工智能导致的风险,并通过整合技术、法律、政策、标准、伦理、道德、安全、经济、社会等多个方面的影响因素,最终建设负责任的人工智能(Responsible Artificial Intelligence,RAI)。AI治理可以从智能个体治理、智能群体治理以及人机合作与共生系统的治理等3个方面,分技术层、伦理层、社会及法律层等3个层面进行。AI治理的主要关键技术有4种:可理解性人工智能、防御对抗性攻击技术、建模及仿真技术和实时审计技术。从谷歌、IBM和微软等公司的AI治理实践来看,产业界主要关注的是RAI研发,在AI系统的可解释性、隐私保护和公平性检查等方面已出现一些专用组件工具。目前,AI治理需要研究的科学问题有:软件定义的AI治理、AI治理关键技术、大规模机器学习中的AI治理评价、基于联邦学习的AI治理、AI治理的标准制定、增强人工智能与人在回路型AI训练等。

人工智能治理:内涵、挑战与治理

近年来,人工智能深刻改变着人类社会的生产生活方式,影响人类世界的发展。在人工智能为人类带来科技红利的同时,技术失控、数据安全、法律伦理等问题也引发了人们对人工智能发展的诸多担忧,由此引起了对人工智能治理问题的思考。在风险社会视域下,风险隐患应该规制在合理的范围之内,正确对待人工智能在技术、伦理、社会、安全及法律等方面的风险挑战,加强对新兴技术风险的主动预防,重视对人工智能的治理,增强人工智能治理能力,应从优化顶层设计与技术控制、加强伦理道德规范建设、健全治理法律法规、强化多元主体合作共治、加强国际合作构建全球人工智能治理体系五个维度来完善人工智能治理。

学科交叉视角下人工智能治理领域知识流动与研究主题的国际比较研究

为全面把握国内外人工智能治理的研究动态,基于学科交叉视角,以人工智能治理中外论文为研究对象,采用关键词共现、突现检测、网络分析等方法,从总体发展、交叉广度与跨学科融合主题等方面揭示国内外人工智能治理研究的特征与差异,为我国在人工智能治理领域的发展提供参考和借鉴。研究发现,中国学者对于人工智能治理的关注起步晚于国外学者但发展迅速,国外人工智能治理研究以社会科学和计算机科学为主要参与学科,学科交叉广度与知识融合主题丰富性均高于国内,研究主题涵盖技术治理、应用治理、治理政策等多个方面且以技术治理研究为主;中国人工智能治理研究以社会科学为主要参与学科,研究主题以应用治理研究为主。

全球人工智能治理的核心议题与规制趋势

近年来全球范围内与人工智能相关的法律法规和政策指南持续涌现,实现了将抽象伦理规则转化为具体实施措施的突破性进展。文章通过检视2021年起草、讨论、通过、发布和生效的120份人工智能治理文本,讨论了平台算法规制、个人数据使用和劳动用工规范三个重点议题的治理模式,明晰了以中国、欧盟和美国为龙头的国家和地区在推进智能技术安全、可靠、可信发展过程中采取的措施以及取得的进展。研究发现,人工智能治理向专业性、可审核性和标准化发展,为构架概念清晰、监管刚性的法规系统提供了基础条件。而全球政治博弈也带来了人工智能治理竞赛,为该领域的后续发展带来不确定性。

重塑人工智能治理中人的主体性

以人工智能为关键技术的智能革命对人类社会治理产生了深刻影响。一方面,人工智能的应用有利于增强治理协同性,提升决策效率和治理效能,展示出美好的治理前景;另一方面,由于算法权力膨胀、个人价值迷失和人类责任缺位等现象凸显,导致治理中面临人类边缘化风险。因此,重塑人工智能治理中人的主体性是人类必须面对的重要议题。在未来人机共生的治理环境当中,人工智能很可能成为治理主体之一,人类对于人工智能的发展应持包容审慎的态度,设定好人工智能的应用边界,引导技术应用服务于增进人类福祉。同时,从人类自身出发探索将人的主体性带回治理的有效路径,包括加强全球合作,应对治理挑战;完善国家制度,保障人类自治;发展创新型社会单元,开展创造性生产活动;重塑个人责任意识,提升治理能力等。

新闻价值:人工智能治理的新闻参与

近年来,随着人工智能技术的不断升级、发展,人工智能产业也将深度融入生产、科研与个人生活。发展人工智能,实现人工智能等前沿科技领域的有效治理,保证其持续向好的发展,已经成为世界各国的重大国家战略。对人工智能的治理新闻活动不能缺位,新闻活动应充分发挥其独特的社会性价值,在传播信息、引导舆论,监督治理主体等方面发挥重要作用。