面向人工智能系统的“万能钥匙”攻击及其防范方法

在生成式人工智能中,直接提示注入攻击是构造恶意的用户输入,试图绕过人工智能模型的预期行为。成功的直接提示注入攻击有可能颠覆模型通过人工智能供应商的训练构建的大部分人工智能(RAI)防护措施。微软威胁情报中心发现了一种最新的直接提示注入攻击,被称为“万能钥匙”攻击。本文介绍了这种攻击的实现细节,以及防范的方法。