有限主义视域下的人工智能价值对齐

现有人工智能(artificial intelligence,简称AI)价值对齐方案试图借助自然科学的经验证据与实证方法厘清人类道德的自然主义基础,并通过技术手段将其应用到AI对人类价值观的学习之中,忽视了道德的自然主义解释的根本性缺陷,引发了AI价值对齐难题。有限主义认为,现有AI价值对齐方案主张使AI具备类人道德,在本质上遵循AI发展的自由主义进路。这过于乐观化、理想化。在现实中,时空有限性、类人有限性与算法有限性等难题导致AI价值对齐的功能有限性。同时,AI价值对齐的功能有限性又伴随着各类技术风险与社会风险,即AI失控风险、人类机器化风险、无人担责风险与AI滥用风险。对此,应坚持有限主义的AI价值对齐方案,反对通用AI价值对齐的路线,坚持AI价值对齐的去道德化,制度化防止AI道德责任对齐,以及控制AI价值对齐的应用范围。

人工智能对齐:经济学可以做什么?

AI技术的迅猛发展在对社会发展产生巨大推动作用的同时,也带来了很多问题和风险。在这种情况下,AI对齐,即确保AI的行为结果始终符合人类的利益变得越来越重要。从经济学的角度看,AI对齐可以区分为AI价值对齐和AI激励相容对齐,这两种对齐方式分别通过改变AI智能体的效用函数和AI智能体面临的约束条件来影响其行为。AI智能体在很多方面都和人类存在着共性。作为研究人类行为的科学,经济学可以为AI对齐提供很多启示。本文着重讨论了社会选择理论、机制设计理论、契约理论和信息设计理论在AI对齐领域的应用,并对这些理论在实践中的用例进行了介绍。由这些用例可见,经济学在AI对齐领域大有可为,其作用还远未得到发挥。