人工智能“有效加速”与“超级对齐”发展观辨析

人工智能(AI)技术的发展与治理平衡,对于维持社会安全,提升当前AI技术成果的转化效率和产业化程度,推动生产力高质量发展至关重要。目前业界对AI的两种主流发展观——“有效加速”和“超级对齐”难以达成共识,这限制了技术发展与治理过程中的有效决策。立足于AI的技术发展规律,提出“对齐—加速—共治”三位一体发展观,试图跳出“有效加速”和“超级对齐”的理论局限,为AI发展提供新的发展观念。

大模型时代的信任重塑:小模型实现超级对齐的机制与模式

针对大模型运行中的内容信任危机、价值信任危机和模型信任危机,“对齐”被视为解决危机的可行路径,但以人类反馈为主的“对齐”工作难以应对可能出现的人类智力范畴之外的“超人模型”,“以小督大”“以弱应强”式的“超级对齐”则有助于增加“超人模型”的无害性与可信任度。在“超级对齐”中,小模型成为重塑信任的关键角色。具体而言,场景小模型作为“有能力”的小模型,对齐垂直领域而缓解内容信任危机;私域小模型打造“可信赖的”小模型形象,实现实时对齐;“可依靠的”边缘小模型对齐边缘价值并维稳对齐环境;“可连接的”大小模型联动,在辩论中达到模型间对齐。未来小模型重塑信任的进路将从个性化、透明性与可赋权入手,情感信任、技术信任与权力信任齐发力。

技术加速主义人工智能伦理风险的类型学分析

近年来,人工智能的发展速度体现了“技术加速主义”的逻辑,即强调技术不受任何制约的发展。人工智能的加速发展,可能会带来“表征的不正义”“分配的不正义”“社会互动的不正义”等伦理风险,即在符号与象征层、社会资源分配层、社会成员互动层,通过人工智能模型的输入和输出区分社会成员、人工智能及其算法模型做决策、以人工智能为载体开展社会互动等机制,形成身份、情感、物质层面的不正义结果的风险。因此,大加速时代,须重新审视人工智能对人类社会发展的意义,制定人工智能相应的技术伦理标准与治理框架,以期对人工智能所可能产生的伦理风险和问题做出政策层面上的有效应对,从而强化人工智能之于人类社会发展的赋能效应,规避可能的伦理风险,使之与人类社会价值充分“对齐”。