科技重大风险与人类安全危机:前所未有的双重挑战及其治理对策

开展科技重大风险治理研究,确保人类安全与可持续创新及发展是当务之急。科技重大风险研究主要包括三项内容:一是研判科技重大风险的严峻性与紧迫性,这是首要前提;二是确定开展科技重大风险专门研究的重点难点,这是研究主体;三是探讨新型决策机制,这是治理对策的切入点和启动方案。指出近年来尖端科技发展迅速、威力异常,呈现出科技大爆发态势,其不可控性和不确定性日益增强,科技伦理事件频发,贸易战、科技战、军备竞赛不断升级,科技重大风险愈演愈烈,而当前防控科技重大风险的多道人类安全防线都存在严重漏洞,深陷危机,人类面临前所未有的双重挑战。为此急需新型决策机制,急需启动从粗放式创新与竞争向可持续创新与合作的大转型予以应对。

科技重大风险:非传统安全治理的重要视角

新冠肺炎疫情全球蔓延,对人类安全和社会秩序产生了前所未有的冲击,使得人们对传统安全观和粗放式竞争与粗放式创新进行深刻反思。目前不仅生物风险等科技重大风险愈演愈烈,风险防控的多道安全防线也存在严重漏洞,人类面临前所未有的双重挑战,形势异常严峻、紧迫。因此应以人类安全视角思考未来,处理好国家安全与人类安全的关系,加强科技重大风险与非传统安全的研究。

数字反噬、通能塔诅咒与全押归零的人工智能赌局——智能革命重大风险及其治理问题的若干思考

人们通常将智能革命与以往多次科技革命并列,但这不能反映智能革命的特质和影响。以往的科技革命都是专能(专门能力)革命,智能革命是首次发生的通能革命,引发社会前所未有的巨变。人工智能风险与伦理治理收效甚微,其首要原因是公众和学术界深陷十大认识误区。深度信息化、数字化导致人类边际收益递减,AI机器人因不受生理限制而收益越来越大,远超人类的收益,直到反客为主,危害人类,可谓“数字反噬”。人工智能造成“短期失业、长期增业”论不能成立,通能革命势必引发大规模失业,可谓“通能塔诅咒”。“奇点到来还很遥远”这一判断是错误的,人工智能“还没有超过人类智能”“还没有自主意识”,并不等同于AI没有威胁人类安全。只要AI或利用AI可造成毁灭性灾难,即可认为“奇点”来临,至少广义的“奇点”——“畸点”已临。AI for Science导致的最大风险是辅助或自主生产“致毁知识”,对它而言,科技伦理形同虚设。初探科技风险剧增理论,指出人工智能等高科技带来的好处越来越多,却终将毁于一旦,可谓“全押归零的人工智能赌局”。因此急需发展以提高助人能力为目标的人工辅能(AAI),尽快实现从以提高智慧能力为目标的人工智能A模式向以提高辅助能力为目标的人工智能B模式(人工辅能模式)的转变。

虚拟科学与大IT革命：支撑未来学的快速崛起

当今社会发展迅速、急剧变化,人们对未来发展研究有着迫切需要,但是专门负责研究未来的未来学却发展迟缓。根本原因是未来学的研究对象尚未实际存在、尚未实际发生,超出了实证科学的适用范围,而能突破这一瓶颈的新型研究范式一直没有问世。作为第5种研究范式的虚拟科学的出现,使得这种局面发生了转机。加之大IT革命营造的信息技术系统支持环境,使得新型未来学的出现具备了方法条件和技术条件。科技大爆发与致毁知识不可逆增长,导致人类社会发展不能继续依靠经验和试错,人类安全成为头等大事,不能继续以"先发展、后治理,先创新、后伦理"的方式发展,要实行"科技创新、风控先行",在科技重大风险问题上,人类不能再犯不可逆转的错误,人类必须从"经验-试错"社会进入"预演-试错"社会。未来学因此肩负着前所未有的重大使命,也迎来了快速崛起的新机遇。本文对基于虚拟科学的以"预演-试错"为特征的虚拟预演未来学进行了初步探讨,提出第3种未来观作为其未来观,指出在虚拟科学和大IT系统的支持推动下,在社会迫切需求的拉动下,广义的未来研究与作为学科的未来学都将快速发展和崛起。