双重脆弱性与适度信任:从ChatGPT到Sora

Sora能够创造并处理复杂的动态视频内容,从理解静止的世界到理解运动的世界,标志着人工智能认识世界图景的重大转变。Sora对物理世界运动规律认识的不足和对细节的混淆是其技术脆弱性,由此加剧了信任脆弱性。因技术脆弱性风险,与此相伴的前置的、动态的和代理的新的信任模式随之而至。由技术脆弱性和信任脆弱性构成的双重脆弱性、积极的对抗脆弱性、无关脆弱性以及消极的对抗脆弱性四个象限,分别指向人工智能技术未来发展的四种样态。分析信任脆弱性与人工智能技术未来发展关系的四个象限可知,构建适度信任是破解信任与技术双重脆弱性的有效方式,适度信任构建本身需要以物理世界的因果律为基础、以人类信任为最后尺度、以向人类价值观保持对齐启蒙为前提、以充分证据为信任重建依据。