基于生成对抗网络的多目标类别对抗样本生成算法

深度神经网络在很多领域表现出色,但是研究表明其很容易受到对抗样本的攻击。目前针对神经网络进行攻击的算法众多,但绝大多数攻击算法的攻击速度较慢,因此快速生成对抗样本逐渐成为对抗样本领域的研究重点。AdvGAN是一种使用网络攻击网络的算法,生成对抗样本的速度极快,但是当进行有目标攻击时,其要为每个目标训练一个网络,使攻击的效率较低。针对上述问题,提出了一种基于生成对抗网络的多目标攻击网络MTA,在进行攻击时MTA仅需要训练一次就可以完成多目标攻击并快速生成对抗样本。实验结果表明,MTA在CIFAR10和MNIST数据集上有目标攻击的成功率高于AdvGAN。文中还做了对抗样本的迁移实验和防御背景下的攻击实验,结果表明,MTA生成的对抗样本的迁移性比其他多目标攻击算法更强,而且在防御背景下攻击成功率更高。

基于联邦学习的后门攻击与防御算法综述

联邦学习旨在解决数据隐私和数据安全问题,大量客户端在本地进行分布式训练后,中央服务器再聚合各本地客户端提供的模型参数更新,但中央服务器无法看到这些参数的具体更新过程,这种特性会带来严重的安全问题,即恶意参与者可以在本地模型中训练中毒模型并上传参数,再在全局模型中引入后门功能.关注于联邦学习特有场景下的安全性和鲁棒性研究,即后门攻击与防御,总结了联邦学习下产生后门攻击的场景,并归纳了联邦学习下后门攻击和防御的最新方法,对各种攻击和防御方法的性能进行了比较和分析,揭示了其优势和局限.最后,指出了联邦学习下后门攻击和防御的各种潜在方向和新的挑战.

基于学术成果可视化的日本人工智能发展状况研究——面向Microsoft Academic数据库的文献计量(2012—2018)

人工智能与大数据技术正在深刻改变着当前人们的生活方式与行为能力。在世界各国大力发展人工智能与大数据技术的背景下,日本从积极进行顶层战略规划设计、各大高校与科研机构协力等方面出发,加快对人工智能技术的研究与应用工作。研究发现,日本各主要高校中东京大学在人工智能研究中成果丰富,表现突出,同时东京地区成为日本人工智能学术研究最密集的地区;日本各高校的主要合作机构集中于部分国家科研部门与以美国和中国高校及跨国公司为主的机构;日本在人工智能技术研究方向上多分布于机器学习、数学优化与模式识别等领域。