粗放式创新向可持续创新的战略转型研究——科技重大风险研究21年

[目的/意义]如何治理科技重大风险,实现可持续安全与可持续创新及发展是当务之急。[方法/过程]本文通过论证"科技发展下去会发生毁灭性灾难甚至毁灭人类"这一判断确实正确并给出条件关系,[结果/结论]证明了目前趋势外推的乐观派科技大局观是错误的,指出目前科技大爆发和科技伦理失灵、科技法律失灵、安全监管失灵、"尖端武器平衡"失灵、扬长不能避短、致毁知识不可逆增长等使人类面临前所未有的巨大挑战和危机。千年变局带来全新机遇,为避免共同毁灭,必须改弦易辙,但西方国家因路径依赖而难以及时转变,我国却具有后发优势,换道超车,可率先发动新科技革命与新产业革命,摆脱修昔底德陷阱,共建人类命运共同体,引领世界走上良性竞争合作、行稳致远、可持续安全、可持续创新与发展的新型发展道路。

科技重大风险与人类安全危机:前所未有的双重挑战及其治理对策

开展科技重大风险治理研究,确保人类安全与可持续创新及发展是当务之急。科技重大风险研究主要包括三项内容:一是研判科技重大风险的严峻性与紧迫性,这是首要前提;二是确定开展科技重大风险专门研究的重点难点,这是研究主体;三是探讨新型决策机制,这是治理对策的切入点和启动方案。指出近年来尖端科技发展迅速、威力异常,呈现出科技大爆发态势,其不可控性和不确定性日益增强,科技伦理事件频发,贸易战、科技战、军备竞赛不断升级,科技重大风险愈演愈烈,而当前防控科技重大风险的多道人类安全防线都存在严重漏洞,深陷危机,人类面临前所未有的双重挑战。为此急需新型决策机制,急需启动从粗放式创新与竞争向可持续创新与合作的大转型予以应对。

竞争方式陷阱与匿名核袭击:科技重大风险治理的当务之急

粗放式发展、粗放式创新、粗放式竞争是西方科技与经济主流发展模式的三大缺陷,只顾与对手竞争、忽视竞争方式本身缺陷的竞争方式陷阱危害尤大,与修昔底德陷阱相互加强,损人害己。随着人工智能等尖端科技的快速发展以及国际形势的日趋紧张,恐怖分子或假借恐怖分子的各种匿名核袭击的可能性剧增,而仅凭怀疑又无法实施核反击,因此核平衡难以维持,核军备竞赛不断升级,科技战频发,科技重大风险与人类安全危机愈演愈烈。认清竞争方式陷阱,防控匿名核袭击,尽快达成国际共识,尽快制定、实施切实有效的国际公约,加快建设人类命运共同体是学术界、智库界和国际社会的当务之急。

风险本质与发展转型——当代科技重大风险防范的文明论省思

当代风险是一个具有自反性的发展问题。以科技为其根源的发展风险愈演愈烈,正不断逼近文明的绝境。科技重大风险作为人类风险的最高形态,既昭示了人类文明的总体性危机,显示了人类社会的发展和治理中包含着内在的致命缺陷,同时也极大地推动了世界发展的转型,促使人类建立新的世界观和世界秩序。彻底防范风险要从意识形态上把风险文化提升为风险文明,把世界各国形形色色的“文化”人打造成具有新时代世界特性即全球文明特征和意识的“文明”人。

底线思维与科技审度:高风险社会治理的要义与进路

当前AI大爆发及其应对乏力表明,西方科技发展模式的缺陷与人类社会的脆弱及学界研究的薄弱,更加凸显人类风险防控机制存在诸多漏洞及其引发的科技危机与人类安全危机,已把人类带入高风险社会。用底线思维与刘大椿提出的科技审度予以破解:底线思维解决非共识下的议而不决;科技审度和审度思维所特有的执两用中、包容互补、多元开放、整合升级、共识决策等,可提供有效的治理对策。科技转型是治理科技风险的根本解决之道,科技审度可发挥重要的启发与引导作用,以构建真善美的新型科技发展模式,加快世界科学中心建设,据此总结出高风险社会治理的要义与进路,以作为科技风险治理的研究指南。

科技风险治理与伦理规制:下一个科技制高点

科技制高点通常是指前沿领域的最高点、创新链条上的关键点、创新体系中的控制点。“最高点”已备受重视、有重金投入,而“关键点”“控制点”则没有被人们从科技制高点的高度给予认识和注重。本文通过对科技制高点的辨析与分类,对科技风险治理与伦理规制作为创新体系的控制点加以分析论证,指出避免创新体系失灵失控的科技风险治理与伦理规制、特别是科技重大风险治理,是下一个科技制高点,应给予充分重视。探讨了科技制高点与原始创新、与世界科学中心建设、与新质生产力的关系。结合党的二十大所指出的“安全是发展的前提,发展是安全的保障”,强调“基于安全保障的科学技术是第一生产力”。新质生产力的“具有高科技、高效能、高质量特征”,可补充为“具有高科技、高效能、高质量、低风险、低依赖度等特征”。盘点原始创新成果与科技制高点,让一流人才及时胜出并充分发挥作用。

“核风险”亟待防控的重大科技风险

科技领域安全是国家安全的重要组成部分。核裂变理论的建立、核技术的使用,堪称20世纪人类社会最具震撼和冲击力的科学发现和技术发明之一,但是同时也开启了科技风险的大幕,将摧毁人类的威胁和风险展现在世人面前。文章探讨在目前高度依赖科技发展的今天,我们该如何保护人类文明和我们存在的环境,警惕核风险带给我们的潜在威胁。

科技重大风险:非传统安全治理的重要视角

新冠肺炎疫情全球蔓延,对人类安全和社会秩序产生了前所未有的冲击,使得人们对传统安全观和粗放式竞争与粗放式创新进行深刻反思。目前不仅生物风险等科技重大风险愈演愈烈,风险防控的多道安全防线也存在严重漏洞,人类面临前所未有的双重挑战,形势异常严峻、紧迫。因此应以人类安全视角思考未来,处理好国家安全与人类安全的关系,加强科技重大风险与非传统安全的研究。

数字反噬、通能塔诅咒与全押归零的人工智能赌局——智能革命重大风险及其治理问题的若干思考

人们通常将智能革命与以往多次科技革命并列,但这不能反映智能革命的特质和影响。以往的科技革命都是专能(专门能力)革命,智能革命是首次发生的通能革命,引发社会前所未有的巨变。人工智能风险与伦理治理收效甚微,其首要原因是公众和学术界深陷十大认识误区。深度信息化、数字化导致人类边际收益递减,AI机器人因不受生理限制而收益越来越大,远超人类的收益,直到反客为主,危害人类,可谓“数字反噬”。人工智能造成“短期失业、长期增业”论不能成立,通能革命势必引发大规模失业,可谓“通能塔诅咒”。“奇点到来还很遥远”这一判断是错误的,人工智能“还没有超过人类智能”“还没有自主意识”,并不等同于AI没有威胁人类安全。只要AI或利用AI可造成毁灭性灾难,即可认为“奇点”来临,至少广义的“奇点”——“畸点”已临。AI for Science导致的最大风险是辅助或自主生产“致毁知识”,对它而言,科技伦理形同虚设。初探科技风险剧增理论,指出人工智能等高科技带来的好处越来越多,却终将毁于一旦,可谓“全押归零的人工智能赌局”。因此急需发展以提高助人能力为目标的人工辅能(AAI),尽快实现从以提高智慧能力为目标的人工智能A模式向以提高辅助能力为目标的人工智能B模式(人工辅能模式)的转变。

人工智能风险研究:一个亟待开拓的研究场域

随着人工智能技术的发展及应用领域的不断拓展,其所引发的风险问题逐渐得到学界的关注。概述了当前人工智能所引发的风险事实类型,以及未来的AI重大风险——强人工智能风险的可能实现形式,并指出,当前的风险治理模式在很大程度上难以遏制未来人工智能风险的不断扩展,如伦理约束失效、企业自治失灵、技术恐怖主义、创新无禁区困境等。认为学界应积极推进人工智能风险及其治理研究这一专业领域的形成与建设,并对其分析准则、AI风险类型,以及治理体系构成等问题进行了论述。

纳米技术的风险问题及对策研究

随着纳米技术的迅猛发展,与之相关的风险问题也已逐渐进入了人们的视野,如何规避纳米技术发展所带来的风险问题已成为纳米技术发展绕不开的话题域与难点。对纳米与人类生活、纳米与环境、及其与军事三个方面展开案例分析,在综合研判国内外纳米风险相关理论研究的基础上,提出科技重大风险视域下纳米科技发展转型的条件和必然性,即纳米技术的发展转型需要人类首先进行一次认知意义上的转型,通过科技革命和产业革命在遏制致毁知识增长的同时建立起一种新的自我纠错机制,以此化解纳米技术带来的巨大社会风险,实现技术乃至人类社会的可持续发展。

人工智能科学:科学研究的第六范式

人工智能已经较广泛地开展科学研究,包括选题和解题由AI的全自主科研与选题由人、解题由AI的半自主科研,目前主要是后者,两者都可称之为自主AI科研,今后会有越来越多的自主AI开展科研工作。全自主AI和半自主AI从事科研形成全新的研究范式-人工智能科学(AI科学),它是继"实验科学""理论科学""计算科学""数据科学""虚拟科学"之后的第六研究范式,它与以往5种研究范式的区别主要反映在研究主体、研究方法、认知活动的程序规范、科研行为规范伦理与奖励系统等5个方面。AI科学助力资源史学与资源科技史研究,使得历史资源成为最重要的资源;AI科学助力预演未来学与资源未来学研究,使得未来成为最重要的战略资源。发展以人为本的人工智能与人工智能科学,以确保人类安全与可持续创新及发展。

虚拟科学与大IT革命：支撑未来学的快速崛起

当今社会发展迅速、急剧变化,人们对未来发展研究有着迫切需要,但是专门负责研究未来的未来学却发展迟缓。根本原因是未来学的研究对象尚未实际存在、尚未实际发生,超出了实证科学的适用范围,而能突破这一瓶颈的新型研究范式一直没有问世。作为第5种研究范式的虚拟科学的出现,使得这种局面发生了转机。加之大IT革命营造的信息技术系统支持环境,使得新型未来学的出现具备了方法条件和技术条件。科技大爆发与致毁知识不可逆增长,导致人类社会发展不能继续依靠经验和试错,人类安全成为头等大事,不能继续以"先发展、后治理,先创新、后伦理"的方式发展,要实行"科技创新、风控先行",在科技重大风险问题上,人类不能再犯不可逆转的错误,人类必须从"经验-试错"社会进入"预演-试错"社会。未来学因此肩负着前所未有的重大使命,也迎来了快速崛起的新机遇。本文对基于虚拟科学的以"预演-试错"为特征的虚拟预演未来学进行了初步探讨,提出第3种未来观作为其未来观,指出在虚拟科学和大IT系统的支持推动下,在社会迫切需求的拉动下,广义的未来研究与作为学科的未来学都将快速发展和崛起。

生命科学两用研究的治理——以H5N1禽流感病毒的研究与争议为例

通过对H5N1禽流感病毒的改造带来争议的分析,并以美国对两用研究进行监管与治理的实践作为案例,来探讨生命科学两用研究的特征,以及两用研究治理范式中存在的诸多问题。尽管美国近年来不断完善两用研究治理体系,从科研经费申请、研究过程到成果发表等对两用研究进行全程管理,但是远未达到预期目标,以此揭示出生物领域科技重大风险治理的艰巨性与紧迫性。回顾美国风险治理范式形成的历史与制度逻辑,认为应该拓宽对科技风险的理解,站在人类命运共同体的角度负责任地发展和治理生命科学与生物技术。

对两种科技伦理的对比分析与研判

以是否维护主流科技发展模式为判据,科技伦理可分为两种:维护辩护式科技伦理和变革转型式科技伦理。前者默认西方主流科技发展模式可持续,据此用科技伦理来弥补、修复、解决科技发展中产生的伦理问题,维护其继续发展;后者则做深度反思,揭示科技伦理风险的根源在于主流科技发展模式的内在缺陷,变革转型科技发展模式才是根本解决之道和当务之急。两种科技伦理是两种科技大局观的产物,认清科技发展面临挑战的严峻性与紧迫性,是构建正确科技伦理的前提,负责任的研究与创新、负责任的系统与模式并重才是解决之道。

前沿科技领域治理应警惕科技伦理法律陷阱

科技伦理法律在条件不具备时并不能有效防控科技风险,目前的科技伦理热潮似乎认为只要加强科技伦理法律的建设与实施,科技风险与伦理问题就可以迎刃而解,这种只注重科技伦理法律而忽视科技转型等其他重要措施的认识误区即为“科技伦理法律陷阱”。要用底线思维和系统思维构建“底线一整体伦理学”,从而应对前沿科技治理的巨大挑战。