深度神经网络模型后门植入与检测技术研究综述

作为当前人工智能快速发展的代表性技术之一,深度神经网络的应用范围越来越广,由此带来的安全性问题也逐渐受到关注。现有研究主要聚焦于如何高效构造多样化的对抗样本,以实现对深度神经网络模型的欺骗,以及如何检测对抗样本并加固深度神经网络模型。但是,随着深度神经网络模型的开发越来越依赖开源数据集、预训练模型和计算框架等第三方资源,模型被植入后门的风险越来越高。从深度神经网络模型生命周期的各个环节出发,对深度神经网络模型后门植入与检测相关技术进行了归纳总结,对比分析了不同技术的主要特征与适用场景,对相关技术未来的发展方向进行了展望。

防范利用远程溢出植入后门的设计与实现

缓冲区溢出是目前病毒主要利用的漏洞之一,首先分析了远程溢出攻击的基本原理,在此基础上给出了具体的远程溢出的设计与实现方法。阐述了Shellcode从高级语言到机器语言的构造过程,介绍了漏洞扫描的具体实现方法,最后给出了远程溢出的防范建议。