-
题名机器学习训练数据集的成员推理综述
被引量:8
- 1
-
-
作者
王璐璐
张鹏
闫峥
周晓康
-
机构
西安电子科技大学网络与信息安全学院
滋贺大学数据科学院
-
出处
《网络空间安全》
2019年第10期1-7,共7页
-
文摘
机器学习作为人工智能的一种重要工具,在解决分类、预测以及辅助决策等问题上表现出了卓越的能力。随着机器学习技术的逐渐提高,机器学习的使用也日益广泛,其隐私问题也受到越来越多的关注。其中,有关训练数据集的隐私问题也备受关注,成员推理攻击正是一种会威胁数据集隐私的攻击方法。然而,目前还缺少有关于成员推理最新研究的综述。文章首先介绍了何为成员推理攻击,分类以及其存在的原因,并归纳和对比了现有的攻击算法。然后,对成员推理攻击的防御算法进行了归纳和总结,并介绍了如何利用成员推理攻击来审计模型是否有未授权使用用户数据集。最后,文章给出了仍需解决的问题和未来研究方向。
-
关键词
机器学习
成员推理攻击
训练数据集隐私
防御技术
-
Keywords
machine learning
membership inference attack
training datasets privacy
defense technology
-
分类号
TP309
[自动化与计算机技术—计算机系统结构]
-