深度学习对抗样本攻防技术研究与实践

Research and experiment on deep learning adversarial example attack and defense technology

针对智能系统深度学习中存在的对抗样本安全威胁,本文分析了白盒攻击、黑盒攻击技术机理,给出了样本检测、数据清洗、算法加固等防御方法,构建了对抗样本攻防验证系统,对常见的攻防算法进行测试验证。目前的防御算法能够在一定程度上有效检测或防御已知的对抗样本攻击,但对未知的攻击算法仍存在不足。