-
题名纵向联邦学习方法及其隐私和安全综述
被引量:1
- 1
-
-
作者
陈晋音
李荣昌
黄国瀚
刘涛
郑海斌
程瑶
-
机构
浙江工业大学网络空间安全研究院
浙江工业大学信息工程学院
南德认证检测亚太有限公司
-
出处
《网络与信息安全学报》
2023年第2期1-20,共20页
-
基金
国家自然科学基金(62072406)
浙江省自然科学基金(DQ23F020001)
+1 种基金
信息系统安全技术重点实验室基金(61421110502)
国家重点研发计划(2018AAA0100801)。
-
文摘
联邦学习(FL,federated learning)是一种新兴的分布式机器学习技术,利用分散在各个机构的数据,通过传输中间结果(如模型参数、参数梯度、嵌入信息等)实现机器学习模型的联合构建。联邦学习中机构的训练数据不允许离开本地,因此降低了数据泄露的风险。根据机构之间数据分布的差异,FL通常分为横向联邦学习(HFL,horizontal FL)、纵向联邦学习(VFL,vertical FL),以及联邦迁移学习(TFL,transfer FL)。其中,VFL适用于机构具有相同样本空间但不同特征空间的场景,广泛应用于医疗诊断、金融评估和教育服务等领域。尽管VFL在现实应用中有出色的表现,但其本身仍然面临诸多隐私和安全问题,尚缺少对VFL方法与安全性展开全面综述的工作。为了构建高效且安全的VFL系统,从VFL方法及其隐私和安全两个方面展开,首先从边缘模型、通信机制、对齐机制以及标签处理机制4个角度对现有的VFL方法进行详细总结和归纳;其次介绍并分析了VFL面临的隐私和安全风险;进一步对其防御方法进行介绍和总结;此外,介绍了适用于VFL的常见数据集及平台框架。结合VFL面临的安全性挑战给出了VFL的未来研究方向,旨在为构建高效、鲁棒和安全的VFL的理论研究提供参考。
-
关键词
纵向联邦学习
安全与隐私
后门攻击
推断攻击与防御
对抗攻击
安全性评估
-
Keywords
vertical federated learning
security and privacy
backdoor attack
inference attack and defense
adversarial attack
security evaluation
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
-
-
题名基于双循环图的虚假评论检测算法
被引量:3
- 2
-
-
作者
陈晋音
黄国瀚
吴洋洋
贾澄钰
-
机构
浙江工业大学信息工程学院
-
出处
《计算机科学》
CSCD
北大核心
2019年第9期229-236,共8页
-
基金
浙江省自然科学基金项目(LY19F020025)
宁波市“科技创新2025”重大专项项目(2018B10063)
基于GAN的信号识别项目,深度学习增强识别项目,之江实验室重大科研项目(2019DH0ZX01)资助
-
文摘
由于对商店的在线评论能给顾客提供许多有价值的信息并极大地影响商店的信誉度,因此,在利益的驱使下出现了大量虚假评论,扰乱了市场秩序。许多商店或个人通过虚假评论故意吹捧或诋毁特定商店,从而达到获利的目的,因此提出有效的虚假评论检测方法至关重要。文中基于大量用户、评论和商店之间的关系构建图过滤器,经过迭代计算获得用户、评论和商店的置信度,从而发现虚假评论。其中包括3个关键问题:获取可靠的用户、评论和商店置信度,有效地辨识真实评论,准确发现虚假评论及虚假用户。针对提高用户、评论和商店置信度的可靠性问题,文中提出了一种循环迭代的方法来获取可靠的用户、评论和商店置信度;为了更加有效地发现虚假评论和虚假用户,设计了一种加权图过滤器,通过与获取的可靠置信度结合,得到了一种双循环图过滤检测算法。将所提检测算法应用到Yelp数据集上展开实验,验证了所虚假检测算法可以有效检测虚假评论。
-
关键词
虚假检测
双循环图
基于图的过滤器
行为特征
用户影响力
-
Keywords
Spam detection
Double cycle graph
Graph-based filter
Behavior characteristic
User influence
-
分类号
TP393.1
[自动化与计算机技术—计算机应用技术]
-
-
题名一种面向图神经网络的图重构防御方法
被引量:6
- 3
-
-
作者
陈晋音
黄国瀚
张敦杰
张旭鸿
纪守领
-
机构
浙江工业大学网络空间安全研究院
浙江工业大学信息工程学院
浙江大学控制科学与工程学院
浙江大学计算机科学与技术学院
-
出处
《计算机研究与发展》
EI
CSCD
北大核心
2021年第5期1075-1091,共17页
-
基金
国家自然科学基金项目(62072406)
浙江省自然科学基金项目(LY19F020025)
公安部重点实验室2020年开放课题(2020DSJSYS001)。
-
文摘
近年来,图神经网络在图表示学习领域中取得了较好表现广泛应用于日常生活中,例如电子商务、社交媒体和生物学等.但是研究表明,图神经网络容易受到精心设计的对抗攻击迷惑,使其无法正常工作.因此,提高图神经网络的鲁棒性至关重要.已有研究提出了一些提高图神经网络鲁棒性的防御方法,然而如何在确保模型主任务性能的前提下降低对抗攻击的攻击成功率仍存在挑战.通过观察不同攻击产生的对抗样本发现,对抗攻击生成的对抗连边所对应的节点对之间通常存在低结构相似性和低节点特征相似性的特点.基于上述发现,提出了一种面向图神经网络的图重构防御方法GRD-GNN,分别从图结构和节点特征考虑,采用共同邻居数和节点相似度2种相似度指标检测对抗连边并实现图重构,使得重构的图结构删除对抗连边,且添加了增强图结构关键特征的连边,从而实现有效防御.最后,论文在3个真实数据集上展开防御实验,验证了GRD-GNN相比其他防御方法均能取得最佳的防御性能,且不影响正常图数据的分类任务.此外,利用可视化方法对防御结果做解释,解析方法的有效性.
-
关键词
图重构
对抗攻击
图神经网络
图表示学习
节点分类
-
Keywords
graph reconstruction
adversarial attack
graph neural network
graph representation learning
node classification
-
分类号
TP183
[自动化与计算机技术—控制理论与控制工程]
-
-
题名面向图神经网络的对抗攻击与防御综述
被引量:9
- 4
-
-
作者
陈晋音
张敦杰
黄国瀚
林翔
鲍亮
-
机构
浙江工业大学网络空间安全研究院
浙江工业大学信息工程学院
信息网络安全公安部重点实验室
-
出处
《网络与信息安全学报》
2021年第3期1-28,共28页
-
基金
国家自然科学基金(62072406)
浙江省自然科学基金(LY19F020025)
信息网络安全公安部重点实验室开放课题项目(C20604)。
-
文摘
面向已有的图神经网络的攻击与防御方法,较全面地综述了图神经网络对抗攻防技术与鲁棒性分析。首先,综述了图神经网络在不同任务下的对抗攻击与基于不同策略的防御方法,并全面介绍了鲁棒性分析技术;随后,介绍了常用的基准数据集与评价指标;最后,提出了未来可能的研究方向和发展趋势。
-
关键词
图神经网络
对抗攻击
防御算法
鲁棒性分析
-
Keywords
graph neural networks
adversarial attack
defense algorithms
robustness analysis
-
分类号
TP29
[自动化与计算机技术—检测技术与自动化装置]
-
-
题名北京西城中小学教育信息化
- 5
-
-
作者
黄国瀚
-
机构
北京市西城区教委
-
出处
《教育信息化》
CSSCI
2002年第7期9-11,共3页
-
文摘
一、今后几年信息化建设工作思路
1.指导思想
西城教育信息化工程是指以现代教育思想为引导,在全区的教育管理和教学领域,积极开发、广泛运用现代教育技术和信息资源,培养跨世纪创新人才,加速西城区教育信息化进程的系统工程;是实施科教兴国战略,建设教育强区,实现西城教育现代化的基础工程;是运用信息技术推动教学方法和学习方法的深刻变革,争创西城教育新优势,迎接知识经济和信息时代挑战的战略选择.
-
关键词
北京
中小学
教育信息化
信息技术
课程整合
教学改革
教学模式
-
分类号
G632.0
[文化科学—教育学]
G434
[文化科学—教育技术学]
-