联邦学习中的安全与隐私问题研究

随着社会各界对隐私保护的意识越来越强,如何在合规合法的前提下有效利用数据将成为未来一段时间计算机领域的重要课题。而联邦学习凭借其对数据“可用不可见”的特点必定会成为未来人工智能领域的重点研究方向。但事实上,联邦学习的模型训练方式虽然可以保护用户数据在本地完成训练,但从另一个侧面扩大了潜在的受攻击面积:即不可信参与方以及梯度传输等特点导致联邦学习更容易受到攻击。同时,由于联邦学习中的设备异质性也导致其数据非独同分布、通信受限等一系列局限性。本文将通过可靠性、安全性和隐私性三个角度总结联邦学习现存的问题,并简单介绍目前较为普遍的解决方案。

联邦学习安全聚合算法综述

随着深度学习技术的发展,人工智能在社会的各个方面有着重要的应用,但缺少数据已经成为制约人工智能进一步发展的重要因素。联邦学习通过共享梯度的方式可以有效利用边缘节点数据,有效解决人工智能模型训练的数据问题。但在联邦学习中,由于攻击者可以利用共享的梯度发动恶意攻击来窃取用户隐私,所以如何安全上传梯度并进行聚合成为保障联邦学习中隐私安全的重要课题。因此,本文针对国内外联邦学习安全聚合的相关文献进行研究,分析安全聚合对于联邦学习中隐私保护的重要性,同时本文对现有的安全聚合方案进行总结,对实现安全聚合的不同技术手段展开分析。