遏制致毁知识增长--颠覆激励不对称是当务之急

Curbing the Increase of Ruin-causing Knowledge:With Revolutionizing Unbalanced Incentives Being the Top Priority

目前AI、合成生物学等尖端科技的风险愈演愈烈,而人类安全防控机制与措施却存在诸多严重漏洞,“致毁知识”增长、双刃剑陷阱,拜技主义魔咒等等,世界面临前所未有的双重挑战与人类安全危机,将引发新科技革命、新产业革命、新分配革命与社会巨大变革。笔者就AI大爆炸与人类应对表现、西方科学知识体系与科研体系的缺陷、颠覆激励不对称是化解人类安全危机的当务之急等进行分析、论述。一、AI大爆炸,人类安全防线的一次测试。AI大爆炸令人猝不及防,考察人类应对这一骤临的巨大挑战,可以洞悉目前科教界及社会各界的认知水平与应对挑战的能力,通过分析三个典型事例,以测试人类安全防线的现状。