文本后门攻击与防御综述

深度神经网络的安全性和鲁棒性是深度学习领域的研究热点.以往工作主要从对抗攻击角度揭示神经网络的脆弱性,即通过构建对抗样本来破坏模型性能并探究如何进行防御.但随着预训练模型的广泛应用,出现了一种针对神经网络尤其是预训练模型的新型攻击方式——后门攻击.后门攻击向神经网络注入隐藏的后门,使其在处理包含触发器(攻击者预先定义的图案或文本等)的带毒样本时会产生攻击者指定的输出.目前文本领域已有大量对抗攻击与防御的研究,但对后门攻击与防御的研究尚不充分,缺乏系统性的综述.全面介绍文本领域后门攻击和防御技术.首先,介绍文本领域后门攻击基本流程,并从不同角度对文本领域后门攻击和防御方法进行分类,介绍代表性工作并分析其优缺点;之后,列举常用数据集以及评价指标,将后门攻击与对抗攻击、数据投毒2种相关安全威胁进行比较;最后,讨论文本领域后门攻击和防御面临的挑战,展望该新兴领域的未来研究方向.

基于稳定风险特征选择的支付风险识别模型

在移动支付产业蓬勃发展的今天,移动支付安全成为了倍受社会关注的问题。大数据时代的到来,使得以大数据的方法来建立移动支付风险识别模型成为一种保障移动支付安全的可行方法。在使用移动支付第三方平台数据建模过程中主要面临着两个问题:首先是要保证模型的时效性和稳定性,让机器学习模型学习到最新的移动支付风险,且能够在尽量长的时间内不需要重复训练。其次,第三方支付平台的风险控制系统会基于对交易的风险判断干预多笔危险交易,产生无标签数据,如何利用这些无标签数据同样是一个要解决的问题。实验结果表明,通过比较训练集与测试集数据统计特征的方法从这些数据中筛选出平稳特征进行建模可提高模型稳定性,将无标签数据直接标注为负样本同样可以提升模型效果。