-
题名基于替代模型的批量零阶梯度符号算法
- 1
-
-
作者
李炎达
范纯龙
滕一平
于铠博
-
机构
沈阳航空航天大学计算机学院
-
出处
《计算机科学》
CSCD
北大核心
2023年第S02期851-856,共6页
-
基金
国家自然科学基金青年基金(61902260)
辽宁省教育厅科学研究资助项目(JYT2020026)。
-
文摘
在面向神经网络的对抗攻击领域中,针对黑盒模型进行的通用攻击,如何生成导致多数样本输出错误的通用扰动是亟待解决的问题。然而,现有黑盒通用扰动生成算法的攻击效果不佳,且生成的扰动易被肉眼察觉。针对该问题,以典型卷积神经网络为研究对象,提出基于替代模型的批量零阶梯度符号算法。该算法通过对替代模型集合进行白盒攻击来初始化通用扰动,并在黑盒条件下查询目标模型,实现对通用扰动的稳定高效更新。在CIFAR-10和SVHN两个数据集上的实验结果表明,与基线算法对比,该算法攻击能力显著提升,其生成通用扰动的性能提高了近3倍。
-
关键词
卷积神经网络
通用扰动
对抗攻击
黑盒攻击
替代模型
-
Keywords
Convolutional neural network
Universal perturbation
Adversarial attack
Black-box attack
Substitution model
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-