引入度中心性选择攻击节点的对抗攻击算法

图卷积网络(GCN)在图神经网络中应用广泛,在处理图结构数据方面发挥着重要作用。然而,最近的研究表明,GCN容易受到中毒攻击等恶意攻击。在针对GCN的所有可能的对抗性攻击中,有一种特殊的方法是针对图卷积网络的目标通用攻击TUA(target universal attack)。该方法在挑选攻击节点时为了简便采用随机选择策略,该策略忽略了节点邻居对节点的重要性,对攻击成功率有负面影响。针对这个问题,提出了一种基于度中心性的攻击节点选择策略的对抗攻击算法(adversarial attack algorithm based on degree centrality attack node selection strategy,DCANSS)。优化挑选攻击节点的方式,引入度中心性,得到攻击节点。注入假节点并与攻击节点连接。挑选辅助节点并应用图卷积网络的消息传递机制,使节点信息扩散,计算扰动并将扰动特征赋予假节点,完成攻击,达到误分类目标。在三个流行的数据集上的实验表明,当仅使用3个攻击节点和2个假节点时,所提出的攻击对图中任意受害节点的平均攻击成功率达到90%。将DCANSS算法与TUA算法以及其他建立的基线算法进行实验对比,进一步验证了DCANSS算法的攻击能力。

基于对抗攻击的社交认证安全方案研究

社交网络服务(SNS)如Facebook、微信正在逐步融入人们的生活,基于用户的社交信息,新型的社交认证系统可以利用用户好友等社交知识对用户身份进行认证。然而,黑客可以利用用户在社交网络中公开的大量社交图片信息,训练卷积神经网络用以推测好友姓名等社交知识,从而实现对用户社交认证系统的攻击。基于Grad-Cam和DeepFool算法,提出一种新的图像对抗攻击算法Lpixel attack,通过修改小图像关键区域产生小干扰范围的对抗样本,在保证用户成功识别的基础上导致模型攻击失效。实验表明提出的算法能够有效防御基于卷积神经网络的社交认证攻击,从而保证社交系统账户的安全性。

一种随机束搜索文本攻击黑盒算法

针对现有对抗样本生成算法容易陷入局部最优解的问题,提出了一种名为R-attack的算法,通过束搜索和随机元来提高攻击成功率。利用束搜索在同义词空间中寻找最优解,增加对抗样本的多样性,进而提高攻击的效率,同时,在迭代搜索过程中引入随机元素,避免过早陷入局部最优解,从而有效提高攻击成功率。在3个数据集上对2个模型进行了对抗攻击实验,实验结果表明,使用R-attack算法能够有效提高对抗样本的攻击成功率。以在Yahoo!Answers数据集上训练的双向长短期记忆网络模型为例,用R-attack算法攻击模型的攻击成功率比基线算法高了2.4%。