基于决策边界分析的深度神经网络鲁棒性评估与优先次序验证

随着深度学习技术在现实世界的广泛应用,人们对基于深度神经网络的系统安全性提出了更高要求.鲁棒性是神经网络的重要安全性质,对网络鲁棒性的量化分析和验证是深度学习模型安全性研究的关键问题.针对神经网络验证技术中难以解决的效率问题,提出了一种新颖的优先次序优化方法.结合局部鲁棒性的规约方式,在一组待验证输入内选择具有更高验证需求的不稳定点代替常规的逐点验证模式.根据对鲁棒性问题与决策边界距离的关联性分析,提出了一种基于网络输出单元值大小的鲁棒性评估方法作为优先验证的输入点选择依据.在此基础上将其扩展为输入的预分析模块与验证工具集成,进而设计了基于优先次序的验证框架.在常用的验证基准上进行了实验,结果表明,该方法的决策边界分析理论与突变测试结果一致,鲁棒性评估中选择不安全样本的平均准确率高于90%,通过减少安全样本的验证开销使验证效率提高了148.6%~432.6%.

面向线束端子显微图像分割的变指数色度滤波

为准确检测线束端子显微图像的内径轮廓以进行后续的数据分析,在色度亮度空间中提出一种基于变指数滤波的显微图像分割算法。首先,根据彩色线束端子显微图像颜色分布的特点,将红绿蓝颜色空间中的彩色图像转换到色度亮度空间中,消除光照影响并分离亮度和色度信息,并将色度信息转换到色度球体上;然后在全变分模型的基础上,构造了一种色度球体上的变指数变分模型对色度信息进行滤波,其中变指数函数具有结构自适应性质;接着通过分析单色通道的边缘检测结果,选择在图像的红色通道中使用Canny算法进行边缘检测;去除虚假的不连续边界曲线后,得到最终的内径轮廓。实验结果显示,本方法所得端子内径轮廓周长与手工测量相比,偏差小于0.5%。本文算法得到的线束端子内径轮廓、周长等数据准确。