自适应隐私预算分配的差分隐私梯度下降算法

在大数据时代的背景下利用机器学习模型解决问题的同时也存在着敏感数据泄露的安全风险.利用差分隐私方法对模型训练过程进行保护是解决该问题的有效方式,现有的差分隐私梯度下降算法虽然已经取得了显著的成果,但是在其迭代训练过程中依旧存在不足之处.文章从隐私预算分配的角度提出了一种自适应选择学习率和隐私预算分配的差分隐私梯度下降算法.具体地,在保证模型收敛的前提下对每次迭代过程中的隐私预算进行自适应地分配,最大程度地对其进行隐私保护,防止模型参数的泄露.最后,实验结果验证了该算法的隐私性和有效性,并且在不同数据集中都表现出了优于已有算法的结果。