人类命运共同体视角下人工智能风险全球治理的国际法规制路径探究

2023年10月中国发布的《全球人工智能治理倡议》是以构建人类命运共同体为视角,提议各国加强信息交流与技术合作、共同做好风险防范、促进人工智能技术向善,开启了人工智能全球治理的新篇章。鉴于人工智能技术所呈现的跨国家、跨领域、跨文化等全球化属性,作为维护全球和平与稳定基石的国际法由此成为推进人工智能全球治理、防范人工智能国际风险和伦理风险的重要力量。然而,目前国际法在人工智能全球治理中依然面临着严峻的风险和挑战,其中主要包括:国际战略博弈加剧、人工智能算法独裁、人工智能技术垄断、人工智能规则霸权等国际政治安全风险;国际贸易摩擦加剧、全球结构性失业、数据跨境流动规制冲突等国际经济安全风险;人工智能军事伦理困境、人工智能战争人权侵犯、人工智能武器技术扩散等国际军事安全风险;等等。为此,需要通过国际软法与国际硬法协同共治、建立和完善数字经济国际规则、加强人工智能武器领域人权保护等方式,构建全方位、多层次、立体化的人工智能国际法体系,为人工智能全球治理提供坚实的国际法治保障,在安全稳定的前提下促进人工智能健康可持续发展。

人工智能风险的全流程规制逻辑及制度因应

人工智能风险并非确定性、单一性的风险,而是蕴含着生成多元性、演化交替性、结果未知性的体系性风险,这成为人工智能风险全流程规制的逻辑基础。全流程视域下,人工智能风险可类型化为算法设计风险、数据要素风险、平台控制风险、网络安全风险、自动决策风险等具体样态。人工智能风险规制立法应基于全流程规制视角,在规制范围上,加强全周期贯穿,实现人工智能风险的穿透规制;在规制进路上,注重全过程传导,实现人工智能风险的渐进规制;在规制内容上,强化全要素统筹,实现人工智能风险的一体规制。

重构人工智能风险治理:从内部视角到外部视角

学界对人工智能风险治理的研究集中在基于内部视角的人工智能合规制度,无法全面揭示人工智能风险治理的制度内核。从风险治理的外部视角出发,将人工智能合规置于政企关系的框架下,人工智能合规的基本理念将不再是纯粹的自我规制,而是自我规制与政府规制的互动。在这种视角转变下,平台企业与政府之间形成关于人工智能治理任务分配的“发包”关系,体现为一种平台发包制,可以具体展开为四个子制度:授权机制是平台发包制的制度前提,即政府基于信任授予平台企业规制权力,这种授权是通过隐私政策证成的;评估机制用于衡量平台企业的人工智能风险治理能力;激励机制与考核机制都旨在提高平台企业的人工智能风险治理能力,前者通过锦标赛理论推动平台企业参与依据人工智能风险治理能力的竞争,后者通过金字塔理论推动平台企业形成体现人工智能风险治理能力的指标。

人工智能风险研究:一个亟待开拓的研究场域

随着人工智能技术的发展及应用领域的不断拓展,其所引发的风险问题逐渐得到学界的关注。概述了当前人工智能所引发的风险事实类型,以及未来的AI重大风险——强人工智能风险的可能实现形式,并指出,当前的风险治理模式在很大程度上难以遏制未来人工智能风险的不断扩展,如伦理约束失效、企业自治失灵、技术恐怖主义、创新无禁区困境等。认为学界应积极推进人工智能风险及其治理研究这一专业领域的形成与建设,并对其分析准则、AI风险类型,以及治理体系构成等问题进行了论述。

人工智能风险及其规避措施分析——基于马克思“人的技术化”思想

人工智能时代的到来,大幅度提升了社会生产效率,提升了人们的生活水平。在人们热衷于人工智能产品的使用时,一些人工智能风险的发生带给人们生活的烦恼。通过分析几种人工智能风险,并基于马克思的人的技术化思想分析人工智能风险发生的原因,进而提出了如何规避人工智能风险,从而促进人工智能的合理发展。

人工智能基础模型安全风险的平台治理

人工智能基础模型的安全治理是人工智能法治化发展面临的重要命题。人工智能基础模型平台作为安全治理的主体,其发现、评估和缓解人工智能系统潜在风险的能力至关重要,具有调整和优化自身模型的作用。国内外人工智能基础模型平台积极布局安全风险治理,但仍然面临治理架构缺乏权威性和代表性、伦理规范过于抽象、测试算力不足、风险评估困难、平台存在利己偏好等挑战。有必要立足于中国人工智能基础模型平台安全治理的实际,完善压力驱动、动力保障、能力强化等机制,更好发挥人工智能基础模型平台对安全治理的特有优势和能动作用,支撑人工智能技术及其应用健康有序发展。

风险社会视域下教育人工智能风险及其治理

技术从来就不是客观和中立的。教育人工智能在驱动教育创新、推动教育现代化发展的同时,其引发的风险也不容忽视。从风险社会理论视角分析发现,人工智能对教育的变革功能具有自反性立场,教育人工智能风险是一种根源于技术自反性现代性的现代风险。教育人工智能风险的危害结果表现形态复杂多样,但其根本上还是对人以及人与人之间关系的危害,属于伦理风险。从人工智能应用于教育的过程分析,教育人工智能风险主要表现为:由于技术自身设计不成熟、错误或漏洞导致的技术内生型风险,由于技术的误用和滥用导致的技术应用型风险,由于技术管理不当导致的技术管理型风险。为有效治理教育人工智能风险,需要构建多元主体参与的复合型治理体系,从伦理引导、政策规范、法律约束、技术应对和事实追踪等方面综合施策。

公私交融的人工智能法

人工智能法的事物本质决定了其公私交融特性。事物本质的观察源于技术不平等与随之而来的信任关系重塑,其基本内涵是主体数字化、数据财产化、财产债权化、权利社会化和责任客观化。人工智能系统、AI agent并非法律主体。同意具有公法内涵但离不开私法分析,智能合约研究进展不大。权利研究不能支撑人类数字化生存的公私利益诉求,数据赋权说已占主流,但仍未能走出数据流通困境。法律责任的研究集中在归责原则的客观化与生成式人工智能之服务提供者的义务及过错判断上。以风险为基础的人工智能治理构成人工智能立法的底层逻辑,应注意风险与责任的互动关系。

服务机器人领域人工智能伦理风险评估方法的设计与实践

人工智能技术在服务机器人领域的应用将成为缓解人类劳动压力、降低生活成本、弥补服务业人力不足的重要手段,但随之而来的伦理风险不容忽视。本文聚焦服务机器人领域的人工智能伦理风险,首先进行风险识别与风险源分析,进而设计一套通用的人工智能伦理风险评价方法,并在服务机器人这一人工智能技术的重要应用领域进行实践,对服务机器人领域的人工智能决策自主受控风险、隐私侵犯风险、偏见或歧视风险、破坏公平风险、责任归属不清或失当风险这五大伦理风险的大小进行评价,分析各风险的风险源优先级,解决不同伦理风险“轻重缓急”的判断问题,从而验证了该方法的适用性。

人工智能风险的刑法思考

随着科学技术的迅猛发展和全球化的持续推进,人类社会发生了广泛而深刻的变化,人工智能潜在的风险是当代风险社会中新型风险的重要表现形式。因此,刑法将面临现实挑战:犯罪危害性难以预测;可能产生新的犯罪形式;刑罚理念亟须转变。我国刑法应该重视潜在预防与风险防控:增设新罪,严密法网;确立智能机器人的刑事责任主体地位;完善刑罚体系。做到未雨绸缪,深度研究探索人工智能时代犯罪的刑法规制路径。

人工智能的发展与应用简述

简要阐述了人工智能的概念以及发展过程,同时介绍了人工智能几大典型应用场景,最后警示了人工智能发展有可能带来的风险。

新闻领域人工智能应用的伦理风险及治理

人工智能通过算法和大数据深刻改变了人类的新闻传播行为,同时也在新闻行业中引发了算法偏见及其纠正、数字身份及其保护、信息不当触及的讨论。本文以人工智能在新闻领域的应用为视角,具体剖析其带来的伦理风险,并提出相应的治理机制。

基于风险社会视角下的人工智能技术风险

人工智能技术风险是当代风险社会的一个重要体现,论文首先论述了人工智能技术风险的特性,其次阐述了人工智能技术风险带来的后果,然后通过对人工智能技术风险成因的分析,提出了人工智能风险的规避措施。

人工智能时代思想政治教育的算法风险及其应对

算法作为人工智能的重要支撑,不断对人的思想价值观念产生深刻影响。算法与思想政治教育具有一定的关联性,算法是思想政治教育内容传播的重要渠道,而思想政治教育也赋予算法价值合理性。但同时算法也带来了稀释网络思想政治教育话语权、致使网络思想政治教育内容“供给短缺”等风险。对此要加强思想政治教育的价值赋予、提升思想政治教育者及网民算法素养、借助算法优势创新思想政治教育。

可解释性人工智能超声影像特征风险模型预测甲状腺乳头状癌颈部淋巴结转移的价值

目的构建甲状腺乳头状癌(PTC)风险特征可解释性人工智能(AI)模型,并探讨其联合临床特征预测PTC患者颈部淋巴结转移(CLNM)的价值。方法回顾性收集西安交通大学第二附属医院2021年1月至2022年9月行甲状腺切除术及颈部淋巴结清扫术后病理证实的PTC患者422例,共422个结节,按7∶3比例随机分为训练集和测试集,通过传统机器学习方法提取与PTC风险特征高度相关的影像组学特征,并建立风险特征概率最优智能预测模型,再联合临床特征构建预测PTC患者CLNM的风险模型,并通过绘制ROC曲线,计算曲线下面积(AUC)评估各模型的诊断效能。结果在测试集PTC风险特征AI可解释模型中,基于逻辑回归分类的钙化智能诊断模型表现出最高的诊断效能,AUC为0.87(P<0.05)。对比于单独PTC超声风险特征概率模型,其联合临床特征的列线图综合模型在预测PTC患者CLNM中表现出更高诊断效能,其AUC为0.97,诊断临界值为0.15,对应的准确性、敏感性及特异性分别为92.65%、92.76%及92.54%(均P<0.05)。结论本研究构建的PTC超声AI模型输出的可解释性风险特征结合临床特征能够有效预测PTC患者的CLNM,进而为医生决策PTC患者治疗方案提供有效信息。

面向风险的人工智能监管进展、创新与启示:基于欧盟视角的观察

随着人工智能技术发展和市场化应用下的风险衍化,人工智能监管产生并独立于人工智能治理,成为化解人工智能风险的基础理念与新兴领域。欧盟首创面向风险的人工智能监管新范式,并借助国际合作、伦理约束与风险监管框架等方式实现欧盟人工智能监管的领导力和行动力。考虑到人工智能技术与社会需求的参差,欧盟优化人工智能监管主体、监管流程以及监管内容以达到人工智能动态风险的有效监管。面对复杂的人工智能风险态势,我国可借鉴欧盟经验,在政策决定层面,基于本土国情制定面向风险的人工智能法律政策与框架体系;在应用实践层面,构建司法机关、市场监督机关以及企业等主体的交互协同机制;在产业结构层面,通过市场赋能推动人工智能监管职能下沉和产业创新发展;在通识教育层面,培育人工智能素养作为防范人工智能风险的监管“安全阀”,实现公正、和谐和创新的未来人工智能发展。

ChatGPT介入思想政治教育产生的相关风险分析

ChatGPT在跨模态深度学习的基础上拥有了与思想政治教育对话的能力,实现了思想政治教育主客体的交流。ChatGPT介入思想政治教育的途径主要是生产具有思想政治教育元素的话语和充当思想政治教育的中介。由于ChatGPT自身的特殊运行模式,它在生产具有思想政治教育元素的话语的过程中并不单单充当思想政治教育的中介。这引发了思想政治教育主客体认知错误的风险、价值理性淡化和主体间价值理性消解风险、物的非生命性和人的生命性之间的对抗风险以及非主流意识形态话语和主流意识形态话语冲突的风险等。了解并分析ChatGPT介入思想政治教育的相关风险对于人工智能和思想政治教育的发展都具有重要的指导意义。

自主无人系统的军事应用风险与挑战

自主无人系统是一种能观察、善思考、会决策且具有一定自学习能力的新一代无人系统,可以单独或与其他有人系统或无人系统协同遂行目标搜索、识别、定位、跟踪、干扰、打击、评估等任务。如果自主无人系统携带致命性载荷,并且无须人类干预,则会带来潜在的误杀和滥杀风险。介绍自主能力、自主无人系统、致命性自主武器系统的概念和内涵,分析自动防御武器系统误判事故、大规模杀伤性微型无人机群设想、致命性自主无人机杀人事件等三个典型案例,深入探讨自主无人系统存在的战场目标感知、可解释性、可预测性与可靠性、人机信任、战场道德等5个方面的问题。

ChatGPT赋能交通创新:理论研判、风险因素与推进路径

数智赋能交通作为我国交通强国战略的重要课题,一直是近年来业内的热点领域。最新以ChatGPT为代表的基于自然语言理解的人机对话人工智能模型技术持续火爆,引起了泛行业的广泛关注与深度探讨,交通行业也并不例外,交通行业在我国基础设施建设进程中的战略价值促使市场与相关学界关注类ChatGPT的数字化智能化新技术演进。ChatGPT赋予交通业态更多维的技术可能与可及性,高效获取信息、海量数据调用与极速分析能力与交通行业的数据化趋势相一致,思索其如何赋能交通创新与交通运输现代化高质量发展;同时要辩证看待新技术应用下行业助益与潜在问题的取舍,在政策合规性、数据安全与国际交通竞争等层面ChatGPT尚有较多不确定性。因此论证ChatGPT与交通业态的技术创新需要认知理论机制、厘清风险因素的前提下反复验证得出人工智能赋能交通业态创新的推进路径,以中国特色的交通行业智能应用打造高质量智慧交通体系,助推交通强国建设。

感知算法控制的双刃剑效应对零工工作者情绪耗竭的影响:基于合法性判断视角

基于279份来自零工工作者的问卷调查数据,以公平、隐私、自主合法性判断为中介变量,以人工智能风险观念为调节变量,探讨感知算法控制的双刃剑效应对零工工作者情绪耗竭的影响。研究结果表明:合法性判断负向影响零工工作者情绪耗竭且完全中介了感知算法控制对情绪耗竭的影响;感知算法规范指导通过公平合法性判断负向影响零工工作者情绪耗竭,感知算法追踪评估通过隐私合法性判断正向影响零工工作者情绪耗竭,感知算法行为约束通过自主合法性判断正向影响零工工作者情绪耗竭;人工智能风险观念强化了感知算法追踪评估对隐私合法性判断的负向影响。