利用动态裁剪差分隐私实现联邦学习入侵检测

网络入侵检测任务中应用联邦学习技术可以在参与方数据本地化的同时扩充标签数据数量,以此得到性能更优的检测模型.然而,联邦学习训练过程通常涉及服务器与参与方之间的多次交互,而在交互过程中,参与方上传的参数容易受到攻击者的恶意窃取,造成数据隐私泄漏.针对此问题,提出了一种基于动态梯度裁剪的差分隐私保护方法 DCDP,DCDP选取训练过程中梯度的L2范数分位数作为裁剪阈值,之后通过参数噪声传递实现参与方数据隐私保护,保证了噪声添加合理性,从而避免手动设置阈值造成的性能受损.改进联邦平均算法FedAvg,添加Macro-F1指标进行加权聚合,得到新的网络入侵检测算法DCDP-FedF1.通过在CICIDS2017数据集上进行对比实验,证明了DCDP-FedF1的有效性和先进性.

动态梯度阈值裁剪的差分隐私生成对抗网络算法

现有的生成对抗网络(GAN)和差分隐私相结合的方法大多采用梯度扰动的方法实现隐私保护,即在优化过程中利用梯度裁剪技术来约束优化器对单个数据的敏感性,并对裁剪后的梯度添加随机噪声以达到保护模型的目的。然而大多数方法在训练时裁剪阈值固定,而阈值过大或过小均会影响模型的性能。针对该问题,提出动态梯度阈值裁剪的DGC_DPGAN(Dynamic Gradient Clipping Differential Privacy Generative Adversarial Network)算法以兼顾隐私保护和模型的性能。该算法结合预训练技术,在优化过程中先求取每批次隐私数据的梯度F-范数均值作为动态梯度裁剪阈值,再对梯度进行扰动。考虑不同的裁剪顺序,提出先裁剪再加噪的CLIP_DGC_DPGAN(Clip Dynamic Gradient Clipping Differential Privacy Generative Adversarial Network)算法和先加噪再裁剪的DGC_DPGAN算法,并采用Rényi Accountant求取隐私损失。实验结果表明,在相同的隐私预算下,所提出的两种动态梯度裁剪算法与固定梯度阈值裁剪方法相比更优:在Mnist数据集上,所提两种算法在IS(Inception Score)、结构相似性(SSIM)、卷积神经网络(CNN)分类准确率上分别提升了0.32~3.92,0.03~0.27,7%~44%;在Fashion-Mnist数据集上,所提两种算法在IS、SSIM、CNN分类准确率上分别提升了0.40~4.32,0.01~0.44,20%~51%。同时,GAN模型生成图像的可用性更好。