数字反噬、通能塔诅咒与全押归零的人工智能赌局——智能革命重大风险及其治理问题的若干思考

人们通常将智能革命与以往多次科技革命并列,但这不能反映智能革命的特质和影响。以往的科技革命都是专能(专门能力)革命,智能革命是首次发生的通能革命,引发社会前所未有的巨变。人工智能风险与伦理治理收效甚微,其首要原因是公众和学术界深陷十大认识误区。深度信息化、数字化导致人类边际收益递减,AI机器人因不受生理限制而收益越来越大,远超人类的收益,直到反客为主,危害人类,可谓“数字反噬”。人工智能造成“短期失业、长期增业”论不能成立,通能革命势必引发大规模失业,可谓“通能塔诅咒”。“奇点到来还很遥远”这一判断是错误的,人工智能“还没有超过人类智能”“还没有自主意识”,并不等同于AI没有威胁人类安全。只要AI或利用AI可造成毁灭性灾难,即可认为“奇点”来临,至少广义的“奇点”——“畸点”已临。AI for Science导致的最大风险是辅助或自主生产“致毁知识”,对它而言,科技伦理形同虚设。初探科技风险剧增理论,指出人工智能等高科技带来的好处越来越多,却终将毁于一旦,可谓“全押归零的人工智能赌局”。因此急需发展以提高助人能力为目标的人工辅能(AAI),尽快实现从以提高智慧能力为目标的人工智能A模式向以提高辅助能力为目标的人工智能B模式(人工辅能模式)的转变。