基于对抗样本开展对抗训练目前已成为提升模型鲁棒性、安全性的重要手段.新冠疫情使得佩戴口罩成为常态,遮挡人脸识别成为现实需要.针对当前缺乏遮挡人脸识别对抗样本生成方法的问题,提出了一种自适应对抗样本生成方法——AOA(adversari...基于对抗样本开展对抗训练目前已成为提升模型鲁棒性、安全性的重要手段.新冠疫情使得佩戴口罩成为常态,遮挡人脸识别成为现实需要.针对当前缺乏遮挡人脸识别对抗样本生成方法的问题,提出了一种自适应对抗样本生成方法——AOA(adversarial examples against occluded faces recognition based on adaptive method).首先,根据目标模型调整对抗样本生成策略,并根据输入人脸自动调整干扰区域.其次,通过将扰动集中在对识别影响更大的区域,结合集成模型和高斯滤波,在局部特征增强的虹软、百度人脸识别上实现了黑盒攻击.最后,结合动态掩码和动态扰动乘数避免了攻击过程中的冗余计算,并保证了攻击的可持续性,生成的扰动使得人脸修复遮挡识别模型错误分割遮挡区域,进而降低模型的识别准确率.设计实现了人脸修复遮挡识别模型Arc-UFI.实验表明,AOA能够实现针对局部特征增强和人脸修复的遮挡人脸识别的有效攻击.此外,AOA可为模型安全对抗训练提供有益支撑.展开更多
文摘基于对抗样本开展对抗训练目前已成为提升模型鲁棒性、安全性的重要手段.新冠疫情使得佩戴口罩成为常态,遮挡人脸识别成为现实需要.针对当前缺乏遮挡人脸识别对抗样本生成方法的问题,提出了一种自适应对抗样本生成方法——AOA(adversarial examples against occluded faces recognition based on adaptive method).首先,根据目标模型调整对抗样本生成策略,并根据输入人脸自动调整干扰区域.其次,通过将扰动集中在对识别影响更大的区域,结合集成模型和高斯滤波,在局部特征增强的虹软、百度人脸识别上实现了黑盒攻击.最后,结合动态掩码和动态扰动乘数避免了攻击过程中的冗余计算,并保证了攻击的可持续性,生成的扰动使得人脸修复遮挡识别模型错误分割遮挡区域,进而降低模型的识别准确率.设计实现了人脸修复遮挡识别模型Arc-UFI.实验表明,AOA能够实现针对局部特征增强和人脸修复的遮挡人脸识别的有效攻击.此外,AOA可为模型安全对抗训练提供有益支撑.