-
题名联邦学习中的隐私问题研究进展
被引量:10
- 1
-
-
作者
汤凌韬
陈左宁
张鲁飞
吴东
-
机构
数学工程与先进计算国家重点实验室
中国工程院
-
出处
《软件学报》
EI
CSCD
北大核心
2023年第1期197-229,共33页
-
基金
国家重点研发计划(2016YFB1000500)
国家科技重大专项(2018ZX01028102)。
-
文摘
随着大数据、云计算等领域的蓬勃发展,重视数据安全与隐私已经成为世界性的趋势,不同团体为保护自身利益和隐私不愿贡献数据,形成了数据孤岛.联邦学习使数据不出本地就可被多方利用,为解决数据碎片化和数据隔离等问题提供了解决思路.然而越来越多研究表明,由谷歌首先提出的联邦学习算法不足以抵抗精心设计的隐私攻击,因此如何进一步加强隐私防护,保护联邦学习场景下的用户数据隐私成为一个重要问题.对近些年来联邦学习隐私攻击与防护领域取得的成果进行了系统总结.首先介绍了联邦学习的定义、特点和分类;然后分析了联邦学习场景下隐私威胁的敌手模型,并根据敌手攻击目标对隐私攻击方法进行了分类和梳理;介绍了联邦学习中的主流隐私防护技术,并比较了各技术在实际应用中的优缺点;分析并总结了6类目前联邦学习的隐私保护方案;最后指出目前联邦学习隐私保护面临的挑战,展望了未来可能的研究方向.
-
关键词
联邦学习
数据隐私
隐私攻击
隐私保护
-
Keywords
federated learning
data privacy
privacy attack
privacy preserving
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
-
-
题名面向非独立同分布数据的联邦学习数据增强方案
被引量:1
- 2
-
-
作者
汤凌韬
王迪
刘盛云
-
机构
数学工程与先进计算国家重点实验室
上海交通大学网络空间安全学院
-
出处
《通信学报》
EI
CSCD
北大核心
2023年第1期164-176,共13页
-
基金
国家重点研发计划基金资助项目(No.2016YFB1000500)
国家科技重大专项基金资助项目(No.2018ZX01028102)。
-
文摘
为了解决联邦学习节点间数据非独立同分布(non-IID)导致的模型精度不理想的问题,提出一种隐私保护的数据增强方案。首先,提出了面向联邦学习的数据增强框架,参与节点在本地生成虚拟样本并在节点间共享,有效缓解了训练过程中数据分布差异导致的模型偏移问题。其次,基于生成式对抗网络和差分隐私技术,设计了隐私保护的样本生成算法,在保证原数据隐私的前提下生成可用的虚拟样本。最后,提出了隐私保护的标签选取算法,保证虚拟样本的标签同样满足差分隐私。仿真结果表明,在多种non-IID数据划分策略下,所提方案均能有效提高模型精度并加快模型收敛,与基准方法相比,所提方案在极端non-IID场景下能取得25%以上的精度提升。
-
关键词
联邦学习
非独立同分布
生成式对抗网络
差分隐私
数据增强
-
Keywords
federated learning
non-IID
generative adversarial network
differential privacy
data augmentation
-
分类号
TP301
[自动化与计算机技术—计算机系统结构]
-
-
题名区块链在数据安全领域的研究进展
被引量:83
- 3
-
-
作者
刘明达
陈左宁
拾以娟
汤凌韬
曹丹
-
机构
江南计算技术研究所
中国工程院
-
出处
《计算机学报》
EI
CSCD
北大核心
2021年第1期1-27,共27页
-
基金
国家科技重点专项“核高基”(2017ZX01028101)
国家自然科学基金(91430214,6732018)资助.
-
文摘
大数据时代,数据已成为驱动社会发展的重要的资产.但是数据在其全生命周期均面临不同种类、不同层次的安全威胁,极大降低了用户进行数据共享的意愿.区块链具有去中心化、去信任化和防篡改的安全特性,为降低信息系统单点化的风险提供了重要的解决思路,能够应用于数据安全领域.该文从数据安全的核心特性入手,介绍区块链在增强数据机密性、数据完整性和数据可用性三个方向的最新研究成果,对各研究方向存在的缺陷进行分析,进而对未来发展方向进行了展望.该文认为,区块链技术的合理应用能够增强分布式环境下的数据安全,有着广阔的前景.
-
关键词
区块链
数据安全
数据共享
机密性
完整性
可用性
-
Keywords
blockchain
data security
data sharing
confidentiality
integrity
availability
-
分类号
TP309
[自动化与计算机技术—计算机系统结构]
-
-
题名基于区块链的身份认证机制的效率优化方法研究
被引量:8
- 4
-
-
作者
汤凌韬
许敏
金玉荣
-
机构
江南计算技术研究所
-
出处
《计算机应用研究》
CSCD
北大核心
2019年第9期2783-2787,2791,共6页
-
基金
国家自然科学基金资助项目(91430214)
-
文摘
基于区块链的去中心化PKI使用区块链替代传统的CA,借助区块链的权威性和公开性,实现了认证的去中心化。目前的研究大多使用遍历区块链的方法查询身份-公钥对,从而验证某公钥是否属于通信对方,效率较低。提出了一种基于密码累加器的身份认证方式,将链上身份和公钥信息映射为累加值,实现认证功能的同时提高了身份-公钥对的验证效率,同时解决了区块链体积不断增长的情况下轻节点存储空间不够的问题,并通过实验验证了该方法的可行性和有效性。
-
关键词
区块链
密码累加器
去中心化
身份认证
-
Keywords
blockchain
cryptographic accumulator
decentralization
identity authentication
-
分类号
TP309
[自动化与计算机技术—计算机系统结构]
-
-
题名基于安全多方计算和差分隐私的联邦学习方案
被引量:5
- 5
-
-
作者
汤凌韬
王迪
张鲁飞
刘盛云
-
机构
数学工程与先进计算国家重点实验室
上海交通大学网络空间安全学院
-
出处
《计算机科学》
CSCD
北大核心
2022年第9期297-305,共9页
-
基金
国家重点研发计划(2016YFB1000500)
国家科技重大专项课题(2018ZX01028102)。
-
文摘
联邦学习为非互信实体间的合作学习提供了一种新的解决思路,通过本地训练和中央聚合的模式,在训练全局模型的同时保护各实体的本地数据隐私。然而相关研究表明,该模式下无论是用户上传的局部模型,还是中央聚合的全局模型,都会泄露用户数据的信息。安全多方计算和差分隐私作为两种主流的隐私保护技术,分别保护计算过程和计算结果的隐私。目前很少有工作结合这两种技术的优势,用于联邦学习训练全流程的防护。将安全多方计算、差分隐私相结合,设计了一种面向深度学习的隐私保护联邦学习方案,用户对本地训练得到的局部模型添加扰动,并秘密共享至多个中央服务器,服务器间通过多方计算协议对局部模型进行聚合,得到一个共享的秘密全局模型。该方案在保护用户上传的局部信息不被窃取的同时,防止敌手从聚合模型等全局共享信息展开恶意推断,并具有容忍用户掉线和兼容多种聚合函数等优点。此外,针对不存在可信中心的现实应用,上述方案可自然拓展至去中心化场景。实验表明,所提方案与相同条件下的明文联邦学习效率相近,且能取得同水平的模型准确率。
-
关键词
联邦学习
安全多方计算
差分隐私
隐私保护
深度学习
-
Keywords
Federated learning
Secure multi-party computation
Differential privacy
Privacy preserving
Deep learning
-
分类号
TP309
[自动化与计算机技术—计算机系统结构]
-
-
题名面向异构容器云的应用迁移方法
被引量:7
- 6
-
-
作者
杨凯琪
姚培
赵玉龙
汤凌韬
-
机构
江南计算技术研究所
-
出处
《计算机工程》
CAS
CSCD
北大核心
2019年第8期42-47,共6页
-
基金
国家重点研发计划“面向云计算的网络化操作系统”(2016YFB1000505)
-
文摘
为满足基于Docker容器的应用在Kubernetes集群和Docker Swarm集群之间的迁移需求,研究 A-Migrator异构容器云应用迁移系统。通过Kubernetes和Docker Swarm的应用编排调度策略,给出两者之间编排信息转换的可行方法,并提出基于镜像预同步的应用迁移技术。实验结果表明,A-Migrator异构容器云应用迁移系统可实现基于Docker容器的应用在2个集群之间的迁移,且引入镜像预同步技术后应用迁移时间平均减少60.33 %。
-
关键词
Swarm集群
Kubernetes集群
异构容器云
调度策略
迁移技术
-
Keywords
Swarm clusters
Kubernetes clusters
heterogeneous container cloud
scheduling strategy
migration technology
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名基于资源分配与偏好连接的局部路径链路预测算法
被引量:5
- 7
-
-
作者
陆圣宇
欧锋
黄清元
刘宝
路振民
汤凌韬
-
机构
江南计算技术研究所
-
出处
《计算机工程》
CAS
CSCD
北大核心
2019年第9期316-320,共5页
-
基金
国家重点研发计划“全球变化及应对”专项“大规模多模式多过程地球系统模式耦合平台开发”(2016YFA0602200)
-
文摘
针对复杂网络中基于结构相似性的链路预测问题,在对比现有链路预测算法相似性指标的基础上,结合资源分配算法中节点资源共享概念和偏好连接算法中节点度与连边概率关系,同时综合局部路径,定义一个相似性指标LRPA,并据此提出一种新的链路预测算法。在经典复杂网络数据集和真实比特币OCT交易网络中进行预测,实验结果表明,该算法能准确预测连边结构以及比特币用户的交易模式。
-
关键词
复杂网络
链路预测
资源分配
偏好连接
局部路径
-
Keywords
complex network
link prediction
resource allocation
preferential attachment
local path
-
分类号
TP393
[自动化与计算机技术—计算机应用技术]
-