兼顾通信效率与效用的自适应高斯差分隐私个性化联邦学习

近年来,由于联邦学习中的通信参数(或梯度)会给参与方本地敏感数据带来重大的隐私泄露风险,联邦学习隐私保护引起了广泛的关注.然而,梯度交换频繁、数据分布异构、参与方本地硬件资源受限等一系列不可避免的因素给联邦学习隐私保护增加了挑战难度.为了以一种统一的方式同时有效地解决数据隐私、模型效用、通信效率以及参与方数据非独立同分布等四个方面的问题,本文提出了一种新的兼顾通信效率与效用的自适应高斯差分隐私个性化联邦学习(Communication-efficient and Utility-aware Adaptive Gaussian Differential Privacy for Personalized Federated Learning,CUAG-PFL)方法.具体而言,本文提出一种动态层级压缩模型梯度的方案先为通信模型梯度每一层动态生成特定的压缩率,再根据压缩率构造对应的确定性二进制测量矩阵去除梯度冗余信息.随后,通过同时优化裁剪阈值、敏感度和噪声尺度等隐私相关参数来对压缩的模型梯度执行自适应高斯差分隐私操作.此外,本文对CUAG-PFL进行了严格的隐私分析.为了验证CUAG-PFL在隐私、效用、通信效率以及个性化四个方面的优势,本文在CIFAR-10和CIFAR-100两个真实联邦数据集上进行了大量实验模拟、对比和分析,结果表明CUAG-PFL能够提高参与方本地数据隐私性、通信效率和模型效用,同时解决了数据非独立同分布的问题.特别地,即使在隐私预算仅为0.92且上行通信量减少68.6%时,CUAG-PFL因隐私保护和梯度压缩所引起的模型效用损失仅为1.66%.

群智感知系统中面向高斯差分隐私的数据新鲜度性能分析

群智感知是基于众包思想,利用智能感知终端完成传感数据收集的一种数据获取模式,具有部署成本低、实现方式灵活、可扩展性强等优点。随着6G网络技术的日渐成熟,针对基于6G的群智感知系统中亟需解决的传感数据时效性与隐私安全问题,提出了一种基于高斯差分隐私的传感数据内容保护模型,利用信息年龄(Age of Information, AoI)指标对传感数据的新鲜度进行时效性分析,得到了不同队列模型、服务准则以及传输缓存的数据新鲜度性能表达式,突破了传感数据时效性分析与隐私安全提升研究相互独立的现状,为面向隐私保护的群智感知系统时效性性能评估及优化提供理论支撑。通过不同环境参数设置下的仿真实验,所提方案的正确性与有效性得到了验证。结果表明,在典型参数设置下,高斯机制的差分隐私保护效果与传感数据新鲜度性能呈负相关,即高时效性的传感数据隐私安全风险较高,反之亦然。

基于联邦学习的下肢康复评估算法与实现

为解决跨机构模型训练及康复评估的数据隐私问题,提出一种基于联邦学习的下肢康复评估算法。搭建联邦学习系统,通过客户端选择机制及量化编码压缩提高通讯效率。设计限制项随机梯度下降优化器保证本地训练时的模型收敛性,通过高斯差分隐私算法进行全局更新。在此基础上设计GRU-Inception神经网络模型,利用联邦学习系统进行训练并完成下肢康复评估任务。实验验证了该算法具有较好的康复评估效果。