-
题名面向联邦学习的神经通路中毒攻击方法
被引量:2
- 1
-
-
作者
李晓豪
郑海斌
陈晋音
谢欣怡
张龙源
鲍亮
-
机构
浙江工业大学信息工程学院
浙江工业大学网络空间安全研究院
信息网络安全公安部重点实验室
-
出处
《小型微型计算机系统》
CSCD
北大核心
2023年第7期1578-1585,共8页
-
基金
国家自然科学基金项目(62072406)资助
浙江省自然科学基金项目(LY19F020025)资助
+1 种基金
国家重点研发计划基金项目(2018AAA0100801)资助
信息网络安全公安部重点实验室开放课题项目(C20604)资助。
-
文摘
随着人工智能技术与大数据科学的不断发展,联邦学习在金融、医疗、工业制造等重要领域中得到广泛运用.同集中式学习相比,联邦学习在效率和安全性上都有明显的优势.然而,随着应用层次的逐步深入,联邦学习也随之暴露出一些安全问题,例如:隐私窃取、中毒攻击等.为了更好的挖掘联邦学习中存在的安全漏洞,本文提出了一种面向联邦学习的神经通路中毒攻击方法(Neural Path Poisoning Attack,NPFA).首先利用准备的中毒数据集生成与目标模型等价的中毒模型,然后提取中毒模型中的神经通路并替换目标模型的神经通路,使得联邦模型在聚合的过程中中毒,并在保持中毒能力的同时克服中毒模型与正常模型差异较大这一问题,实现隐蔽的中毒攻击,绕过防御方法.大量实验验证了植入神经通路后的中毒成功率可以达到85%以上,并且联邦学习主任务性能略有提升.值得一提的是,在一些联邦防御方法下,NPFA依旧有很好的攻击效果.
-
关键词
联邦学习
中毒攻击
神经通路
安全性
-
Keywords
federated learning
poisoning attack
neural path
security
-
分类号
TP312
[自动化与计算机技术—计算机软件与理论]
-
-
题名深度学习模型的中毒攻击与防御综述
被引量:9
- 2
-
-
作者
陈晋音
邹健飞
苏蒙蒙
张龙源
-
机构
浙江工业大学信息工程学院
-
出处
《信息安全学报》
CSCD
2020年第4期14-29,共16页
-
基金
浙江省自然科学基金项目(No.LY19F020025)
宁波市“科技创新2025”重大专项(No.2018B10063)资助。
-
文摘
深度学习是当前机器学习和人工智能兴起的核心。随着深度学习在自动驾驶、门禁安检、人脸支付等严苛的安全领域中广泛应用,深度学习模型的安全问题逐渐成为新的研究热点。深度模型的攻击根据攻击阶段可分为中毒攻击和对抗攻击,其区别在于前者的攻击发生在训练阶段,后者的攻击发生在测试阶段。本文首次综述了深度学习中的中毒攻击方法,回顾深度学习中的中毒攻击,分析了此类攻击存在的可能性,并研究了现有的针对这些攻击的防御措施。最后,对未来中毒攻击的研究发展方向进行了探讨。
-
关键词
深度学习
中毒攻击
人工智能安全
-
Keywords
deep learning
poisoning attack
artificial intelligence security
-
分类号
TP29
[自动化与计算机技术—检测技术与自动化装置]
-
-
题名建设工程招标采购管理问题
- 3
-
-
作者
张龙源
-
机构
山东容大咨询管理有限公司
-
出处
《营销界(理论与实践)》
2020年第4期0184-0184,共1页
-
文摘
为了保证企业经济效益最大化,必须加强对企业的招标采购管理,以此来降低企业运营成本。企业招标采购不仅需满足国家法律 法规等外部条件,更要结合实际制定出符合企业的招标采购控制程序。加强组织、制度和人才建设是企业采购的关键因素,在实施过程中需要 不断发现新问题和潜在的风险,并对此进行分析和改进,从而提高企业的采购效率和透明度,更好地体现企业招标采购的公开、公正、公平和 高效。
-
关键词
建设工程项目
招标采购
管理
-
分类号
F
[经济管理]
-
-
题名湿绕组电机主泵转速传感器的配机试验
- 4
-
-
作者
孙宗延
张龙源
蒋义权
陶宇杰
万志云
杨芹
-
机构
上海核工程研究设计院有限公司
江苏利核仪控技术有限公司
-
出处
《水泵技术》
2021年第4期44-48,共5页
-
文摘
反应堆冷却剂泵(主泵)是确保核电站安全和可靠运行的关键动力设备之一,安全级别为核一级。在整个运行过程中,需对多项参数进行监测,其中,EM3305N转速传感器和TM1151N前置放大器用于湿绕组电机主泵的转速监测。本次配机试验的目的,是为了验证传感器在湿绕组电机主泵实际运行工况下的可用性,并在实际运行中解决相关的问题,最终完成配机试验工作。
-
关键词
主泵转速
配机试验
运算放大器
工作电压
参数调试
-
分类号
TH311
[机械工程—机械制造及自动化]
-
-
题名公路部门发展多种经营的途径及对策
- 5
-
-
作者
张龙源
-
机构
湖北省红安县公路段
-
出处
《交通财会》
1990年第11期35-34,共2页
-
-
关键词
发展多种经营
富余人员
好路率
调研报告
工程建设
宋埠
生产计划
发展第三产业
养护经费
固定资产投资
-
分类号
F5
[经济管理—产业经济]
-