基于Bregman散度和差分隐私的个性化联邦学习方法

联邦学习因能解决数据孤岛问题而被广泛关注,但也存在用户隐私泄露风险和非独立同分布数据下模型异构导致性能下降的问题.针对该问题,提出基于Bregman散度和差分隐私的个性化联邦学习方法(FedBDP).所提方法采用Bregman散度衡量本地参数与全局参数的差异,并将其作为正则化项更新损失函数,以减小模型差异来提升模型准确率.同时,采用自适应差分隐私技术对本地模型参数进行扰动,通过定义衰减系数动态调整每轮差分隐私噪声的大小,以合理分配隐私噪声大小并提升模型可用性.理论分析表明FedBDP在强凸和非凸光滑函数下满足收敛条件.实验结果验证该方法在满足差分隐私的前提下,FedBDP模型在MNIST和CIFAR10数据集下能够保证模型准确率.