人工智能的未来:“慈爱的机器”还是“交际的工具”

人们对于人工智能的未来有很多设想,其中有两种设想很具有代表性。所谓“慈爱的机器”是一种技术乌托邦式的未来幻想,一种仁慈的技术统治维护着全面的和谐。人工智能作为一种“交际的工具”,对未来的想象也勾勒出了一个平衡的社会,但它颠倒了(前一种设想)影响的顺序:一个交际性的社会为交际行为塑造了相关的技术。但事实是,没有任何一个程序能够满足为所有人都能够接受的普遍规则。人类不需要担心人工智能会变成一个邪恶的还是仁慈的东西,因为人工智能技术原则上不具备邪恶和仁慈的能力。但人工智能可以侵入人类的自主性,以致达到一种无法容忍的程度。