-
题名深度神经网络的对抗攻击及防御方法综述
被引量:8
- 1
-
-
作者
赵宏
常有康
王伟杰
-
机构
兰州理工大学计算机与通信学院
-
出处
《计算机科学》
CSCD
北大核心
2022年第S02期662-672,共11页
-
基金
国家自然科学基金(62166025)
甘肃省重点研发计划(21YF5GA073)
甘肃省优秀研究生“创新之星”(2021CXZX-511,2021CXZX-512)
-
文摘
深度神经网络正在引领人工智能新一轮的发展高潮,在多个领域取得了令人瞩目的成就。然而,有研究指出深度神经网络容易遭受对抗攻击的影响,导致深度神经网络输出错误的结果,其安全性引起了人们极大的关注。文中从深度神经网络安全性的角度综述了对抗攻击与防御方法的研究现状。首先,围绕深度神经网络的对抗攻击问题简述了相关概念及存在性解释;其次,从基于梯度的对抗攻击、基于优化的对抗攻击、基于迁移的对抗攻击、基于GAN的对抗攻击和基于决策边界的对抗攻击的角度介绍了对抗攻击方法,分析每种攻击方法的特点;再次,从基于数据预处理、增强深度神经网络模型的鲁棒性和检测对抗样本等3个方面阐述了对抗攻击的防御方法;然后,从语义分割、音频、文本识别、目标检测、人脸识别、强化学习等领域列举了对抗攻击与防御的实例;最后,通过对对抗攻击与防御方法的分析,展望了深度神经网络中对抗攻击和防御的发展趋势。
-
关键词
人工智能
深度神经网络
神经网络安全
对抗攻击
防御方法
-
Keywords
Artificial intelligence
Deep neural network
Neural network security
Adversarial attacks
Defense methods
-
分类号
TP183
[自动化与计算机技术—控制理论与控制工程]
-