人工智能红队测试为何会出错

一种对抗性的网络安全工具被过度用于保护人工智能安全。2024年2月,OpenAl宣布推出Sora,这是一款令人惊叹的“文本转视频”工具。只需要输入一个提示,Sora就能够在几秒钟内生成一段逼真的视频。不过,该工具并未立即向公众开放。据报道,推迟的部分原因是,该公司称OpenAl有一支名为“红队”的专家团队,他们将深入调查该模型,了解其处理深度伪造视频、错误信息、偏见和仇恨内容的能力。