-
题名图像对抗样本检测综述
- 1
-
-
作者
周涛
甘燃
徐东伟
王竟亦
宣琦
-
机构
浙江工业大学网络空间安全研究院
浙江工业大学信息工程学院
浙江大学控制科学与工程学院
-
出处
《软件学报》
EI
CSCD
北大核心
2024年第1期185-219,共35页
-
基金
浙江省重点研发计划(2022C01018)
国家自然科学基金(U21B2001,62102359)。
-
文摘
深度神经网络是人工智能领域的一项重要技术,它被广泛应用于各种图像分类任务.但是,现有的研究表明深度神经网络存在安全漏洞,容易受到对抗样本的攻击,而目前并没有研究针对图像对抗样本检测进行体系化分析.为了提高深度神经网络的安全性,针对现有的研究工作,全面地介绍图像分类领域的对抗样本检测方法.首先根据检测器的构建方式将检测方法分为有监督检测与无监督检测,然后根据其检测原理进行子类划分.最后总结对抗样本检测领域存在的问题,在泛化性和轻量化等方面提出建议与展望,旨在为人工智能安全研究提供帮助.
-
关键词
深度神经网络
对抗样本检测
人工智能安全
图像分类
-
Keywords
deep neural network(DNN)
adversarial example detection
AI security
image classification
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-