基于分布式存储框架的无中心联邦学习

联邦学习是一种新的机器学习范式,其允许多个参与者在不共享原始数据的情况下以隐私安全的方式协作地训练一个共享的机器学习模型。由于联邦学习可以解决数据孤岛问题,因此其具有广泛的应用价值。然而在传统联邦学习中,使用单一的中央服务器聚合模型可能会导致单点故障问题。为了克服传统联邦学习中的可能存在的单点故障问题,文中提出一种基于区块链的分布式联邦学习(Distributed Federated Learning,DFL),利用区块链的特点,将存储模型的任务委托给区块链网络中的节点。文中提出了一种异步聚合策略,能够让参与者在任意时间加入联邦学习,从而减少参与者的等待时间。为了克服区块链存储限制,文中还设计了一种模型分块策略。该策略将大规模模型分块以满足区块链的存储要求。通过在多个数据集上训练多种机器学习模型来评估DFL,实验结果表明DFL在克服单点故障的同时实现了优于传统方法的性能。