面向深度学习模型的可靠性测试综述

深度学习模型由于其出色的性能表现而在各个领域被广泛应用,但它们在面对不确定输入时,往往会出现意料之外的错误行为,在诸如自动驾驶系统等安全关键应用,可能会造成灾难性的后果。深度模型的可靠性问题引起了学术界和工业界的广泛关注。因此,在深度模型部署前迫切需要对模型进行系统性测试,通过生成测试样本,并由模型的输出得到测试报告,以评估模型的可靠性,提前发现潜在缺陷。一大批学者分别从不同测试目标出发,对模型进行测试,并且提出了一系列测试方法。目前对测试方法的综述工作只关注到模型的安全性,而忽略了其他测试目标,且缺少对最新出版的方法的介绍。因此,本文拟对模型任务性能、安全性、公平性和隐私性4个方面对现有测试技术展开全方位综述,对其进行全面梳理、分析和总结。具体而言,首先介绍了深度模型测试的相关概念;其次根据不同测试目标对79篇论文中的测试方法和指标进行分类介绍;然后总结了目前深度模型可靠性测试在自动驾驶、语音识别和自然语言处理三个工业场景的应用,并提供了可用于深度模型测试的24个数据集、7个在线模型库和常用工具包;最后结合面临的挑战和机遇,对深度模型可靠性测试的未来研究方向进行总结和展望,为构建系统、高效、可信的深度模型测试研究提供参考。值得一提的是,本文将涉及的数据集、模型、测试方法代码、评价指标等资料归纳整理在https://github.com/Allen-piexl/Testing-Zoo,方便研究人员下载使用。

面向联邦学习的神经通路中毒攻击方法

随着人工智能技术与大数据科学的不断发展,联邦学习在金融、医疗、工业制造等重要领域中得到广泛运用.同集中式学习相比,联邦学习在效率和安全性上都有明显的优势.然而,随着应用层次的逐步深入,联邦学习也随之暴露出一些安全问题,例如:隐私窃取、中毒攻击等.为了更好的挖掘联邦学习中存在的安全漏洞,本文提出了一种面向联邦学习的神经通路中毒攻击方法(Neural Path Poisoning Attack,NPFA).首先利用准备的中毒数据集生成与目标模型等价的中毒模型,然后提取中毒模型中的神经通路并替换目标模型的神经通路,使得联邦模型在聚合的过程中中毒,并在保持中毒能力的同时克服中毒模型与正常模型差异较大这一问题,实现隐蔽的中毒攻击,绕过防御方法.大量实验验证了植入神经通路后的中毒成功率可以达到85%以上,并且联邦学习主任务性能略有提升.值得一提的是,在一些联邦防御方法下,NPFA依旧有很好的攻击效果.

Pd/mpg-C_3N_4催化剂的制备、表征及其对松香加氢反应的催化性能

以SiO_2和三聚氰胺为原料,通过高温焙烧法制得介孔类石墨相氮化碳(mpg-C_3N_4),以浸渍法负载Pd纳米粒子制得Pd/mpg-C_3N_4,并用于催化松香加氢反应。采用XRD、FT-IR、TEM、ICP-AES、XPS、氮气吸附-脱附及GC分析对催化剂的结构、形貌特征、Pd负载量、金属价态、比表面积和孔径以及催化活性进行分析。结果表明:Pd纳米粒子成功地均匀分散在了氮化碳的层状结构中,Pd的负载并没有改变mpg-C_3N_4的骨架结构,Pd/mpg-C_3N_4仍然保持着介孔结构;但是Pd的负载使mpg-C_3N_4的比表面积、孔容和孔径均有所减小,Pd/mpg-C_3N_4的比表面积、孔容和孔径分别为47.73 m^2/g、0.17 cm^3/g和3.39 nm。在负载量为7.96%,5 MPa H_2、150℃和反应4 h的松香催化加氢优化条件下制得去氢枞酸GC含量5.99%,枞酸GC含量小于1%的氢化松香产品(其中四氢枞酸为37.12%,二氢枞酸为56.71%)。催化剂Pd/mpg-C_3N_4重复使用4次后,四氢枞酸GC含量由37.12%下降至24.71%,去氢枞酸GC含量由5.99%上升至9.76%。

福建煤矿突水水源水化学特征的实验研究

为了快速准确识别煤矿突水来源,以福建省煤矿为研究对象,采集典型煤矿突水水源水样,进行水化学特征实验研究,检测了7大离子含量和pH值指标,利用Piper三线图法分析了各水源的水质类型特征,对比分析了各种突水水源之间总离子浓度的差别,利用箱形图法分析了各个离子在不同水源中的分布特征,实验结论可作为突水水源快速判别的依据。

基于单片机的旋转倒立摆控制系统研发

介绍了一阶旋转倒立摆系统的硬件架构、驱动电路、主控制芯片、算法等组成元素.针对倒立摆系统的起摆与稳摆问题,利用Lagrange方程建立了单摆与倒立摆的完整数学模型.采用正反馈控制算法对单摆起摆进行控制,以及双PD算法对倒立摆进行稳摆控制.同时下位机可以调节PD参数,通过OLED显示屏实时显示变量信息,具有较好的人机界面.

全国煤矿水害事故特征分析及防范措施

针对全国煤矿较大以上水害事故特征进行统计分析,揭示我国煤矿水害发展规律和趋势。并对事故原因分析,提出针对性的防范措施及建议。

光周期对红鳍东方鲀脑组织中GH和SS基因表达水平和昼夜表达模式的影响

为研究光周期对红鳍东方鲀Takifugu rubripes脑组织中生长激素(Growth hormone,GH)基因、生长激素抑制素(Somatostatin,SS)基因表达水平和昼夜表达模式的影响,采用初始体质量为(7.89±0.42)g的红鳍东方鲀幼鱼为研究对象,养殖在试验桶(直径80 cm、深50 cm)中,海水温度为19~23℃,盐度为31~32,共设置5种光周期8L∶16D、12L∶12D、16L∶8D、20L∶4D、24L∶0D,每个处理组设3个平行,每桶放60尾鱼,试验周期为30 d,试验结束后全天取样,测定脑组织中GH、SS基因表达水平。结果表明:8L∶16D光周期处理组红鳍东方鲀脑组织中GH基因相对表达量显著高于其他光周期处理组(P<0.05);8L∶16D光周期处理组SS基因相对表达量显著高于24L∶0D组(P<0.05),其他处理组SS基因相对表达量无显著性差异(P>0.05);GH和SS基因表达水平分别在12L∶12D和8L∶16D光照条件下呈现昼低夜高的特点。研究表明,结合GH和SS基因在不同光周期下的表达量及昼夜表达特点,长时间光照(16~24 h/d)并不利于红鳍东方鲀幼鱼生理节律的维持,本试验条件下最佳光照时长为8~12 h/d。

基于改进交叉熵的模仿学习鲁棒性增强方法

模仿学习是一种模仿专家示例的学习模式,需要大量数据样本进行监督训练,如果专家示例掺杂恶意样本或探索数据受到噪声干扰,则影响学徒学习并累积学习误差;另一方面,模仿学习使用的深度模型容易受到对抗攻击.针对模仿学习的模型安全问题,从模型损失以及模型结构两个方面分别进行防御.在模型损失方面,提出基于改进交叉熵的模仿学习鲁棒性增强方法;在模型结构方面,利用噪声网络模型提高模仿学习的鲁棒性,并结合改进交叉熵提高模型对对抗样本的抵御能力.使用3种白盒攻击及1种黑盒攻击方法进行防御性能验证,以生成对抗模仿学习为例,通过各种攻击策略验证所提出的鲁棒性增强方法的可行性以及模仿学习的脆弱性,并对模型的鲁棒性增强效果进行评估.

“蛊毒”释意补考

我国古代文献中所涉及的“蛊”的范畴极为广泛,但描述模糊且众说纷纭,故颇具神秘色彩。现代学者对“蛊毒”作为致病因素具体是何物亦争议颇多。笔者基于古代医书典籍及现代研究对“蛊毒”进行探讨,认为“蛊毒”的本质是多种致病因素的总称,这些致病因素都较为隐匿,病源及传播途径广泛,临床表现具有多样性。“蛊毒”除了包括日本血吸虫、细菌、动植物毒素等致病因素,还很可能是一些寄生虫。