有图不一定有真相:AI大模型应用的多模态虚假信息问题分析

以Sora为代表的视频大模型的推出预示着AI大模型技术不断向多模态理解与生成迈进。基于AI大模型应用的内容生成推动网络视听内容生态变化,也引发新的虚假信息风险。研究分析了多模态AI大模型应用下潜在虚假信息风险:大模型自身幻觉问题、基于AI大模型训练的Deepfake、接入大模型的社交机器人技术等。基于媒介演进三阶段的信息虚假性识别和真实性建构特征规律,本研究从信息来源端、信息传播端、信息内容端、信息接收端四个层面探讨应对AI生成多模态虚假信息的路径,提出应运用“众人的现实”建构去多模态虚假化的信息空间。