对人工智能本质的探究

ChatGPT自推出以来,由于其强大的信息整合能力、语言处理能力、人机交互能力,引发了社会的广泛讨论及学界业界的深刻反思。随着AI技术的发展、新型材料的广泛应用,人工智能自身觉醒成为其发展的主要话题,由此引发了关于人类未来发展的讨论以及人类中心主义的担忧。本文立足于人工智能发展,结合人工智能的含义,剖析了人工智能的技术实质、劳动实质以及智能实质,同时在人的智能意识视域下分析了人工智能的觉醒,并得出人工智能觉醒的不可能。

瓦力悖论与人机对齐问题

在AGI(人工通用智能)发展过程中,人机对齐被视为一种伦理约束和智能治理策略。本文从瓦力悖论的技术性分析出发,探讨人机对齐的路线及演进,并将对齐理解为一个可逆可替、双向适应的过程。弱智能阶段,对齐处于“去动机”状态;工具智能阶段,通过外部奖惩机制、内摄情感刺激、行为机制模拟、价值体系的整合,可实现机器向人的被动对齐;自主智能阶段,对齐从结果逆转为过程,成为满足机器生存需求、身份探索、权力寻求和繁衍复制的一种手段,届时,人机对齐的主从地位被颠倒,而人则会被工具化。本文认为,在人类对失控动机的对齐需求与自主智能不可控的本质之间,的确存在人机对齐的“瓦力悖论”,而其中,人机主从地位的逆转是悖论发生的奇点。