机器学习训练数据集的成员推理综述

机器学习作为人工智能的一种重要工具,在解决分类、预测以及辅助决策等问题上表现出了卓越的能力。随着机器学习技术的逐渐提高,机器学习的使用也日益广泛,其隐私问题也受到越来越多的关注。其中,有关训练数据集的隐私问题也备受关注,成员推理攻击正是一种会威胁数据集隐私的攻击方法。然而,目前还缺少有关于成员推理最新研究的综述。文章首先介绍了何为成员推理攻击,分类以及其存在的原因,并归纳和对比了现有的攻击算法。然后,对成员推理攻击的防御算法进行了归纳和总结,并介绍了如何利用成员推理攻击来审计模型是否有未授权使用用户数据集。最后,文章给出了仍需解决的问题和未来研究方向。