EMFedAvg——基于EMD距离的联邦平均算法

信息技术给人们生活带来便利的同时也会泄露个人隐私.联邦学习是一种可以保护数据隐私的机器学习技术,不同于现有的机器学习方法,联邦学习中数据不出参与方本地,通常面临着数据非独立同分布的问题(non-identically Independently Distributions, non-IID),因而现有的机器学习方法在联邦学习non-IID问题上效果大大降低.文章针对联邦学习中的non-IID问题,在联邦平均算法的基础上进行改进,对MNIST数据集进行non-IID划分并分发到各参与方,计算各参与方数据的EMD(Earth Mover’s Distance, EMD)距离,以四分位距为上界,主动去掉EMD距离过大的参与方以保证联邦整体的效果.实验结果表明,文章采用的方法比联邦平均算法提高了约5%的准确率,减少了联邦学习训练过程的通信开销,提高了整体效率,引入EMD距离还可以为衡量各参与方的贡献值提供度量依据.

改进的联邦加权平均算法

针对基于层次分析改进的联邦平均算法在计算其数据质量时存在主观因素的影响,提出改进的联邦加权平均算法,从数据质量的角度来处理多源数据。首先,将训练样本划分为预训练样本与预测试样本;然后,使用初始全局模型在预训练数据上的精度作为该数据源的质量权重;最后,将质量权重引入到联邦平均算法中,重新进行全局模型中权重更新。仿真结果表明,在均等分割的数据集与非均等分割的数据集上,改进的联邦加权平均算法训练的模型与传统联邦平均算法训练的模型相比,准确率最高分别提升了1.59%和1.24%;改进的联邦加权平均算法训练的模型与传统整合多方数据再训练的模型相比,虽然准确率略有下降,但数据与模型的安全性有所提升。

基于Bi-SRNN的联邦学习区域电力短期负荷预测模型

随着配电网终端需求多样化和清洁能源的大规模接入,对区域电力负荷的准确预测变得至关重要。在电力市场化改革背景下,客户端倾向于用电信息保存在本地以确保隐私安全。利用天气数据和历史负荷数据,提出面向区域客户端隐私保护的联邦学习双向叠加循环神经网络负荷预测框架。根据短期电力负荷长序列数据之间的强关联性建立基于双向叠加循环神经网络的负荷预测模型。利用联邦平均算法构建基于联邦学习的区域负荷预测框架,将多个利用不同区域客户端负荷数据训练得到的双向叠加循环神经网络的模型进行融合,反复迭代获得全局模型。采用某市96组实时区域电力负荷公开的数据集,对该模型在区域客户端不共享负荷数据条件下的训练效果进行测试,结果表明,所构建模型具有较低的训练耗时和较高的预测精度。