人工智能生存性风险:演变、分层与应对

人工智能生存性风险的讨论由来已久,人工智能生存性风险的基础是通用人工智能乃至超级人工智能的实现,但这一过程仍有阻碍。人工智能生存性风险的现状大多源于目标偏差,已引发算法和就业等一系列社会问题。人工智能生存性风险的终局被认为可能导致人类灭绝,其中包括推动战争形态和环境气候的变化。为应对人工智能生存性风险,需要统筹好人工智能的发展和安全,强化人工智能发展中的治理和技术软硬兼施的安全手段,推动国际人工智能安全治理合作,进一步打破发达国家和发展中国家的治理鸿沟和治理隔阂。

前沿生物技术领域安全风险治理的历史经验和重要启示

包括基因编辑技术在内的前沿生物技术突破,在农业和医学等事关人类发展重大利益的关键领域预示着颠覆性革命的同时,也潜存着严重的重大安全风险乃至"生存性风险",迫切需要我们尽快构建负责任、可信赖和可持续的生物安全风险治理体系,以有效化解前沿生物技术创新可能引发的多种安全风险和治理危机,促进前沿生物技术负责任、高质量和可持续地发展。重组DNA实验、农业转基因技术创新和人类胚胎基因编辑研究安全风险治理形成的宝贵经验和历史教训,如对相关重大安全风险进行"预警性思考"、加强安全风险的社会沟通和增加社会互信,以及完善机构伦理审查机制等,对我们今天讨论前沿生物技术领域的安全风险治理,依然具有建设性的参考价值。

从自然共同体到人类命运共同体——关于人类生存方式、共同命运及未来全球秩序的思考

从自然共同体直到生产力推动下“人类社会”的兴起,人类历史日益成为普遍交往的世界历史。随着资本主义全球化的深入,现代性、现代思想和主权观念客观上也扩展到了世界各地,两次世界大战之后殖民主义体系瓦解,现代国际社会逐步形成。自20世纪中后期首次具备毁灭自身的能力以来,人类进入与以往时代有着根本区别的生存性风险时代,人类共同命运初步显现。正是在这些历史基础之上,着眼于应对日益严峻的全球性挑战,中国创造性提出人类命运共同体理念。这一理念深深植根于马克思主义哲学,传承了中国传统文化的深厚底蕴,立基于正在形成中的人类共同命运,着眼于人类整体利益和共同价值,针对当下人类社会面临的日益紧迫的生存性风险,为人类文明可持续发展提供了应对方案和前进方向。人类命运共同体是一个以人类共同命运为核心特征的价值共同体,全球化推动世界历史的深化以及人类面临的生存性风险构成了人类命运共同体的物质基础和社会心理基础,而人类的共同领会及其基础上形成的共同价值共识构成了人类命运共同体的内在规定。全球秩序正处于激烈变革时期,人类命运共同体代表了人类未来的发展方向,通过积极发挥全球治理的功能和作用,一种人类命运共同体秩序正在形成。