基于样本原生特征的投毒防御方法

为解决机器学习模型中投毒样本的注入问题,提出一种基于样本原生特征的投毒防御算法infoGAN_Defense。基于投毒样本的制作原理设计投毒样本原生特征的提取方法,提高模型对样本原生特征的训练权重;在此基础上,利用样本原生特征的不变性进行投毒防御,引入样本原生特征与人为特征的概念,采用耦合infoGAN结构实现样本特征的分离及提取;进行机器学习模型的重训练。在真实数据集上设计实验评估防御效果,其结果验证了infoGAN_Defense算法的可行性和有效性。

一种基于联邦学习参与方的投毒攻击防御方法

联邦学习分布式的训练结构易受到投毒攻击的威胁,现有方法主要针对中央服务器设计安全聚合算法以防御投毒攻击,但要求中央服务器可信且中毒参与方数量需低于正常参与方。为了解决上述问题,提出了一种基于联邦学习参与方的投毒攻击防御方法,将防御策略的执行转移到联邦学习的参与方。首先,每个参与方独立构造差异损失函数,通过计算全局模型与本地模型的输出并进行误差分析,得到差异损失权重与差异损失量;其次,依据本地训练的损失函数与差异损失函数进行自适应训练;最终,依据本地模型与全局模型的性能分析进行模型选取,防止中毒严重的全局模型干扰正常参与方。在MNIST与FashionMNIST等数据集上的实验表明,基于该算法的联邦学习训练准确率优于DnC等投毒攻击防御方法,在中毒参与方比例超过一半时,正常参与方仍能够实现对投毒攻击的防御。

刑法中“投毒”认定问题的解释论释疑

《中华人民共和国刑法修正案(三)》将《刑法》第114条罪状由投毒行为修改为投放危险物质行为。但是,《刑法》总则中仍有“投毒”的表述至今未进行相应修改。学界目前通说是通过目的解释将总则部分“投毒”等同于分则“投放危险物质”,此解释结论意味着对实施了投放放射性物质型或投放传染病病原体型投放危险物质罪的罪犯附加适用剥夺政治权利的刑罚具备正当性。然而,这一解释结论不仅会因形式逻辑缺陷而削弱刑法权威性,还可能不具备罪刑法定的正当性。为完善该目的解释结论,一方面应贯彻形式理性观念,引入“令人中毒的症状”这一文义来连接“投毒”与“投放危险物质”,实现目的解释结论的合体系性与合文义性;另一方面应贯彻实质理性观念,通过对“投”与“毒”文义的目的性限缩,平衡自由价值与安全价值,以期实现目的解释结论的实质正义性。

面向服务质量感知云API推荐系统的数据投毒攻击检测方法

针对现有研究通常假设云API推荐系统的服务质量数据是可靠的,忽略了开放网络环境中恶意用户对云API推荐系统的数据投毒攻击的问题,提出了一种基于多特征融合的数据投毒攻击检测方法。首先,依据设计的相似性度量函数构建用户连通网络图,并利用Node2vec捕获用户邻域特征;其次,采用稀疏自编码器挖掘用户服务质量深度特征,并构建基于服务质量数据加权平均偏差的用户解释特征。进一步,融合用户邻域特征、服务质量深度特征和解释特征建立基于支持向量机的虚假用户检测模型,并使用网格搜索和交替迭代优化策略学习模型参数,继而实现虚假用户检测。最后,通过多组实验验证了所提方法的有效性和优越性,实现了服务质量感知云API推荐系统在数据端的投毒攻击防御。

多模态对比学习中的靶向投毒攻击

近年来,使用对比学习技术在大规模无标注数据上所构建的预训练模型得到了广泛的应用(如车道检测、人脸识别等)。然而,其面临的安全和隐私问题也引起学者的广泛关注。文章聚焦于针对多模态对比学习模型的投毒攻击,该攻击将精心构造的数据注入训练集,以改变模型在特定数据上的预测行为。针对现有投毒攻击主要针对文本或图像单模态模型,没有利用文本或者图像间的多模态信息的问题,文章提出一种同时对文本与图像编码器投毒的靶向投毒攻击。首先,基于Beta分布自动生成水印图像透明度;然后,根据透明度生成添加水印后的样本,并根据水印样本与目标样本之间的欧式距离得到该透明度下应当投毒的样本数;最后,通过特定的优化算法生成投毒数据集。与现有的投毒攻击相比,文章所提方法具有更低的投毒率,并能够保持目标模型的性能。

基于样本分布特征的数据投毒防御

流量分类模型在更新过程中易受数据污染的干扰而降低模型性能,现有基于数据清洗的防御方法需依赖专家经验和人工筛选,且无法有效应对利用未知分布样本构造的投毒攻击。针对上述问题,受分布外检测和判别主动学习的启发,设计一种基于样本分布特征的数据投毒防御方法,通过二分类判别器筛选每轮新增样本中的已知及未知分布样本。对于新增的已知分布样本,通过模型预测与标注结果一致率评估新增样本的数据质量,决定是否进行模型更新;对于新增的未知分布样本,则利用基于标注正确率的少样本抽检评估样本可用性。实验结果表明,该方法在抵御数据投毒攻击的同时可以保证模型准确率,并有效识别利用未知分布样本构造的数据投毒攻击。

基于生成对抗网络的联邦学习中投毒攻击检测方案

联邦学习(FL)是一种新兴的隐私保护机器学习(ML)范式,然而它的分布式的训练结构更易受到投毒攻击的威胁:攻击者通过向中央服务器上传投毒模型以污染全局模型,减缓全局模型收敛并降低全局模型精确度。针对上述问题,提出一种基于生成对抗网络(GAN)的投毒攻击检测方案。首先,将良性本地模型输入GAN产生检测样本;其次,使用生成的检测样本检测客户端上传的本地模型;最后,根据检测指标剔除投毒模型。同时,所提方案定义了F1值损失和精确度损失这两项检测指标检测投毒模型,将检测范围从单一类型的投毒攻击扩展至全部两种类型的投毒攻击;设计阈值判定方法处理误判问题,确保误判鲁棒性。实验结果表明,在MNIST和Fashion-MNIST数据集上,所提方案能够生成高质量检测样本,并有效检测与剔除投毒模型;与使用收集测试数据和使用生成测试数据但仅使用精确度作为检测指标的两种检测方案相比,所提方案的全局模型精确度提升了2.7~12.2个百分点。

面向视觉分类模型的投毒攻击

数据投毒攻击中的后门攻击方式的攻击者通过将带有隐藏触发器的样本插入训练集中来操纵训练数据的分布,从而使测试样本错误分类以达到改变模型行为和降低模型性能的目的。而现有触发器的弊端是样本无关性,即无论采用什么触发模式,不同有毒样本都包含相同触发器。因此将图像隐写技术与深度卷积对抗网络(DCGAN)结合,提出一种基于样本的攻击方法来根据灰度共生矩阵生成图像纹理特征图,利用图像隐写技术将目标标签字符嵌入纹理特征图中作为触发器,并将带有触发器的纹理特征图和干净样本拼接成中毒样本,再通过DCGAN生成大量带有触发器的假图。在训练集样本中将原中毒样本以及DCGAN生成的假图混合起来,最终达到投毒者注入少量的中毒样本后,在拥有较高的攻击率同时,保证触发器的有效性、可持续性和隐藏性的效果。实验结果表明,该方法避免了样本无关性的弊端,并且模型精确度达到93.78%,在30%的中毒样本比例下,数据预处理、剪枝防御以及AUROR防御方法对攻击成功率的影响达到最小,攻击成功率可达到56%左右。

面向分割学习的数据投毒防御方法设计与实现

分割学习作为一种新型的分布式学习方法,可能受到投毒攻击的严重威胁。在分割学习中,训练场景涉及模型分割后的多端协作训练,与传统联邦学习的终端独立训练后同步模型的攻击场景不同,如何设计有效的防御方法,避免恶意客户端的集群性的投毒攻击是一大挑战。针对上述挑战,本文聚焦在分割学习中客户端投毒攻击对中间特征的影响进行相关考察;提出并实现了一种综合检测防御方法——客户端随机分组策略,通过各组学习指定标签的样本的分组策略以避免恶意客户端的集群攻击;提出了基于DBSCAN聚类算法的中间特征检测算法,用于识别投毒攻击的恶意客户端;提出了基于信任度的防御机制,对信任度低的客户端的网络进行重新初始化,以减小恶意客户端对神经网络的持续影响。实验结果表明,该方法可以降低恶意客户端对模型的影响,尤其是在对中间特征产生较大影响的投毒的防御上效果较好,为分割学习领域的安全防护提供了一种新的思路和实践方案。

刑案报道与侦查的“竞赛”?——复旦投毒案的新闻报道提出的问题

4月中旬，复旦大学学生宿舍发生一起投毒杀人案震惊全国。上海警方介入后及时通过官方微博向社会发布信息，许多媒体在第一时间予以跟踪报道④。由于案发突然，主要情节尚待查明，各种问题和猜测在网上纷传一时，有些媒体发表报道企图给以回答，又引起了不要搞“媒介审判”的告诫和争议。这反映了业界法治意识的增长，不搞“媒介审判”开始成为共识，我们赞同对“媒介审判”的警惕。而本文要说的是，有关新闻报道更需要考虑如何坚守新闻报道的底线：真实和准确。

复旦学生投毒案折射当前人格教育缺失

4月16日，复旦研究生黄洋遭舍友投毒死亡的消息再度让人悲伤和深思。校园里又发生了一次悲剧，一个年轻的生命如风飘逝。黄洋中毒案不禁让我们回想起20年来发生在高校里的一系列投毒事件。1994年，清华大学学生朱令铊中毒案：1997年，北京大学发生“铊”投毒案件；2007年，中国矿业大学（徐州）校园投毒案……

外环境灭鼠投毒技术与方法探讨

目的 :探讨外环境灭鼠投毒技术与方法 ,为全市外环境灭鼠提供对策。方法 :在居民区、停待建工地、农贸市场外环境用拖食法观察鼠对不同投毒方式、不同投毒容器间、同一容器内不同饵料间的拖食情况。结果 :在 3种外环境中 ,3种投毒方式 (容器、裸投、小包装 )拖食率差异有非常显著性 ( χ2 =2 73.39,P <0 .0 1) ,容器拖食率介于裸投和小包装之间 ;以容器而言 ,竹筒拖食率高于塑料盒 ( χ2 =7.43,P <0 .0 1) ,与砖砌毒饵站差异无统计意义 ( χ2 =0 .82 ,P >0 .0 5 )。从短期观察看 ,容器内放置颗粒和谷物类毒饵灭鼠效果优于腊块 ;从 30d连续观察看 ,腊块和小包装毒饵在南方潮湿外环境中 ,具有其他毒饵不可替代的作用。结论 :外环境灭鼠投毒应采用毒饵站 (容器投放 )和腊块、小包装等多种形式 ,因地制宜 ,科学应用。

Kaminsky域名系统缓存投毒防御策略研究

当前缓存域名系统(DNS)服务器无法抵抗持续的Kaminsky DNS缓存投毒攻击。为此,提出一种基于应答报文检查的防御策略。应用概率学理论分析Kaminsky投毒成功概率与投毒持续时间的内在联系,通过报文检查策略抑制投毒成功概率随时间的积累效应,达到防御持续Kaminsky投毒的目的。利用概率模型检查工具PRISM进行仿真实验,结果证明该策略可以使攻击难度提高3 600倍以上。

全自动在线顶空固相微萃取-气相色谱-串联质谱法测定鱼塘投毒案件水样中硫丹和硫丹硫酸酯

鱼塘水样采用全自动在线顶空固相微萃取进行萃取:萃取温度为75℃;萃取时间为60min;氯化钠加入量为0.3kg·L^(-1);样品体积为2.0mL。采用气相色谱-串联质谱法测定水样中硫丹(α-硫丹、β-硫丹)和硫丹硫酸酯的含量,在气相色谱分离中采用DB-5ms毛细管色谱柱,在串联质谱分析中采用多反应监测模式。α-硫丹、β-硫丹和硫丹硫酸酯的质量浓度在一定范围内与其对应的峰面积呈线性关系,检出限(3S/N)为0.001~0.015μg·L^(-1),测定下限(10S/N)为0.003~0.050μg·L^(-1)。以空白水样为基体进行加标回收试验,所得回收率为83.6%~117%,测定值的日内相对标准偏差(n=6)为2.2%~18%,日间相对标准偏差(n=3)为4.2%~18%。

低山丘陵区采取重点生境投毒灭鼠法控制鼠害的研究

采用在灭鼠的范围内只对重点生境一次性投毒灭鼠 ,非重点生境不投毒 ,只作投毒前后鼠密度调查。用夹夜法进行鼠密度测定 ,评价灭鼠效果及鼠密度下降情况。结果显示 ,大隆、溴敌隆、磷化锌对重点生境的灭鼠效果分别为 10 0 %、10 0 %及 96 83%。只对重点生境投毒灭鼠后 ,非重点生境及全生境的鼠密度分别下降 87 95 %及 97 2 4%。此种方法比传统普遍投毒灭鼠节省 70 %的药物及 80 %的人工。作者认为 :本方法能有效的控制低山丘陵区鼠密度 ,效果可靠、方便、经济 。

投毒杀人案件的综合分析

本文通过对我省的60例投毒杀人案件中投毒原因、投毒种类、投毒方式、作案成员性别和年龄构成等进行了全面的分析 ,并通过统计结果 ,重点提出此类案件的成因和特点 。

胃肠外途径投毒的法医学鉴定

本文报告１３例胃肠外途径投毒的法医学鉴定，其中升汞２例（Ｉ．Ｖ．），水银１例（Ｉ．Ｖ．），氰化钾２例（Ｉ．Ｍ．和乳房下注射各１）、氰化钠１例（Ｉ．Ｖ．）、一氧化碳２例（吸入）、铬酸酐１例（阴道内塞入）、敌敌畏１例（心包腔内注射）、矮壮素１例（Ｉ．Ｍ．）、氯丙嗪１例（Ｉ．Ｖ．）和溴氰菊酯１例（Ｉ．Ｖ．）。说明经胃肠外途径引起的投毒案例并不罕见，且毒物种类增多，这在法医病理和毒理工作中应引起注意和警惕。