生成式AI幻象的制造逻辑及其超真实建构的文化后果

在人类文明史上出现的众多媒介都天然地具有欺骗性。正是媒介的欺骗性特征,使得媒介在中介化现实的过程中不断制造幻象。作为新型媒介的生成式AI,同样具有欺骗性,且在制造幻象方面已超越既往一切媒介,具体表现为“AI幻觉”“模拟影像”和“深度伪造”等形式。基于概率和模拟的自动化生产的软件系统,构成生成式AI复杂且庞大的欺骗机制,具有物质属性的交互界面,将此种欺骗隐匿其下。生成式AI已经建构起一个“超真实”的世界,其幻象正对应着鲍德里亚所预言的“分形文化”。最终的文化后果是,在生成式AI建构的幻象宇宙里,真假与否不再重要,它将我们引入一种“乐此不疲地制造幻象”的媒介环境与新文化形式之中。技术之恶的潜能亦可能被前所未有地激发。