黑盒威胁模型下深度学习对抗样本的生成

深度学习系统在许多任务中表现出色。但研究表明,如果在原有输入上叠加一个很小的恶意噪声,其效果就会受到严重影响。这种恶意样本被称为对抗样本。针对此前对抗样本生成方法在威胁模型下考虑的不足,本文提出了一种黑盒模型下的对抗样本生成方法。该方案通过黑盒优化技术,对输入样本做多维高斯建模并逐步迭代优化进行对抗样本的求解。在标准测试数据集上的测试表明,本文方法可以不需要了解模型具体参数和结构就能以100%的成功率生成对抗样本。