基于选择性通信策略的高效联邦学习研究

近年来,随着人工智能技术的飞速发展,人们越来越重视数据隐私与安全,世界各国也出台一系列法律法规以保护用户隐私.面对制约人工智能发展的数据孤岛以及数据隐私和安全问题,联邦学习作为一种新型的分布式机器学习技术应运而生.然而,高通信开销问题阻碍着联邦学习的进一步发展,为此,本文提出了基于选择性通信策略的高效联邦学习算法.具体地,该算法基于联邦学习的网络结构特点,采取选择性通信策略,在客户端通过最大均值差异衡量本地模型与全局模型的相关性以过滤相关性较低的本地模型,并在服务器端依据相关性对本地模型进行加权聚合.通过上述操作,所提算法在保证模型快速收敛的同时能够有效减少通信开销.仿真结果表明,与FedAvg算法和FedProx算法相比,所提算法能够在保证准确率的前提下,将通信轮次分别减少54%和60%左右.

融合IMR-WGAN的时序数据修复方法

工业数据由于技术故障和人为因素通常导致数据异常,现有基于约束的方法因约束阈值设置的过于宽松或严格会导致修复错误,基于统计的方法因平滑修复机制导致对时间步长较远的异常值修复准确度较低.针对上述问题,提出了基于奖励机制的最小迭代修复和改进WGAN混合模型的时序数据修复方法.首先,在预处理阶段,保留异常数据,进行信息标注等处理,从而充分挖掘异常值与真实值之间的特征约束.其次,在噪声模块提出了近邻参数裁剪规则,用于修正最小迭代修复公式生成的噪声向量.将其传递至模拟分布模块的生成器中,同时设计了一个动态时间注意力网络层,用于提取时序特征权重并与门控循环单元串联组合捕捉不同步长的特征依赖,并引入递归多步预测原理共同提升模型的表达能力;在判别器中设计了Abnormal and Truth奖励机制和Weighted Mean Square Error损失函数共同反向优化生成器修复数据的细节和质量.最后,在公开数据集和真实数据集上的实验结果表明,该方法的修复准确度与模型稳定性显著优于现有方法.

支持即时属性间接撤销和用户追踪的CP-ABE方案

针对传统密文策略的属性基加密(CP-ABE)方案中存在非即时的属性撤销以及不可靠的恶意用户追踪问题,提出了一种支持高效的属性间接撤销和白盒追踪的细粒度CP-ABE方案.首先,以有序二元决策图作为访问控制结构,基于椭圆曲线加密算法设计密文策略的属性基加密方案,并将变色龙哈希算法集成到区块链中,实现即时属性间接撤销.进一步,将关联用户身份ID和密钥的参数存储在追踪列表中,构建新的追踪算法,并将追踪列表上传至区块链,确保恶意用户无法抵赖其非法行为.特别地,采用云服务器存储不变密文和区块链存储策略密文这一双重密文存储模式,有效实现数据存储和用户细粒度访问控制管理之间的解耦.安全性分析证明所提方案在IND-CPA安全模型下是安全的,并能够抗合谋攻击;性能分析表明所提方案相比于其他方案在计算性能上更适合资源受限的终端设备.

融合多特征图卷积神经网络的方面级情感分析

方面情感三元组抽取是基于方面级情感分析的一项新兴任务.针对目前大多数情感分析模型存在三元组抽取任务中忽略了单词之间的关系、序列模型的向量长度设定过短造成输入文本信息丢失的问题.本文提出了一种融合BERT和多特征提取的图卷积神经网络模型(MF-GCN).本文为三元组抽取任务定义了十种关系,然后使用双仿射注意力模块获取句子中每个词对的关系概率分布,并利用不同的语言特征关系形成不同的多特征图.最后使用图卷积神经网络在多特征图上重复图卷积操作以获得节点表示.MF-GCN在数据集上的F1值分别达到了60.47%、72.37%、62.09%、70.77%、61.37%、71.61%、64.51%、69.55%,表明本文模型在情感分析任务中具有优异的效果.

一种融合主题的PGN-GAN文本摘要模型

为了改进生成式文本的摘要模型,本文提出了一种基于主题的生成对抗与指针网络结合的文本摘要模型.首先通过LDA主题建模方法获取主题词,在获取单词的主题向量后,将结合主题的词向量与传统的序列注意力相结合,形成新的复合注意力共同影响单词的生成,然后通过加入生成对抗网络以在指针生成网络上取得了更好的效果.实验采用gigaword数据集进行训练,采用ROUGE评分机制进行评分,结果证明由于融入主题因素,相比单独采用指针网络我们的模型提升了摘要结果的可读性及准确性,具有更好的表现.

移动目标Markov信号博弈的防御决策优化研究

移动目标防御策略是当前网络安全领域的研究热点,本文主要研究移动目标防御策略的选取问题.针对实际网络中的攻防双方信息是不对称的,以不完全信息动态博弈为基础研究网络攻防对抗过程,通过引入攻击者的最小风险贝叶斯决策,对其攻防收益进行量化.另外,由于攻防过程具有多阶段多状态特性,将Markov决策过程与信号博弈模型相结合,构建移动目标Markov信号博弈防御模型,给出均衡求解算法,设计目标准则函数求解具体的攻防策略.同时,使用PageRank链接分析算法分析网络攻防过程中的阶段权重问题.仿真实验结果表明本文提出模型的有效性和可行性.

引入特征选择初始化策略的弹性网络聚类算法

聚类分析在数据挖掘领域有非常重要的作用.为了克服传统聚类算法存在的低精度、低稳定性、无法求解大规模数据的问题,提出了引入特征选择初始化策略的弹性网络聚类算法(FSENC).算法首先用聚类目标函数替换弹性网络的损失函数,从而获得用于求解聚类的新能量函数,并优化了弹性网络的结构,根据极大熵原理与确定性退火技术,以最小化能量函数的方式得到聚类解.其次,提出了能够根据空间数据分布变化动态调整的初始化策略,提升了算法灵活性.在大量合成数据集和真实数据集上的实验结果表明,FSENC算法在求解聚类问题时是有效和高效的.与一些经典的和近年来新提出的聚类算法相比,能够获得更高的聚类质量,尤其适用于求解大规模高维聚类问题.

改进路由机制的元学习少样本文本分类模型

深度学习模型已在文本分类领域得到了广泛应用.然而,深度神经网络在处理少样本文本分类任务时其有效性易受噪声、同类样本点分布不均衡等问题的影响.为此,提出改进路由机制的元学习少样本文本分类模型.模型对胶囊网络的动态路由机制做出两种改进,针对噪声干扰问题,提出基于交互信息的路由机制,捕获同类文本间的交互信息来引导模型加强重要特征,减弱噪声影响;针对文本样本点分布不均衡的问题,提出基于距离系数的路由机制,引入距离系数指导权重分配过程以更好地划分原型空间.然后,将二者学习到的类原型进行融合,以充分捕获少样本文本特征信息.实验结果表明,相对其它少样本文本分类任务的基线方法,该文模型具有更优的少样本文本预测能力,并且收敛速度更快.

征稿简则

一、征稿范围:《小型微型计算机系统》杂志所刊登的文章内容涵盖了计算机学科的各个领域(计算数学除外).包括计算机科学理论、体系结构、软件、数据库、网络与通讯、人工智能、网络与信息安全、多媒体、计算机图形与图像等.二、稿件类型:1.学术论文:科研成果有创新、有见解的完整论述.对该领域的研究与发展有促进意义.2.技术报告:在国内具有影响的重大科研项目的技术总结.3.热点论文:目前国内外计算机前沿热点研究领域的文章.

《小型微型计算机系统》征订启事

《小型微型计算机系统》创刊于1980年,由中国科学院主管,中国科学院沈阳计算技术研究所主办,中国计算机学会会刊(月刊),国内外公开发行.《小型微型计算机系统》内容涵盖计算机学科各领域,包括:计算机科学理论、体系结构、数据库理论、计算机网络与信息安全、人工智能与算法、服务计算、计算机图形与图像等.

一种增强机器阅读理解鲁棒性的上下文感知多任务学习框架

机器阅读理解(MRC)是自然语言处理领域的一个具有挑战性的任务,其目标是在给定文章中预测出相关问题的答案.随着深度学习和预训练语言模型的发展,许多端到端的机器阅读理解模型展现出优秀的性能,但是这些模型普遍存在鲁棒性不足的问题,当文本中存在干扰句时,它们的表现便显著下降.本文从人类做阅读理解任务的角度来解决这个问题,提出了一种端到端的多任务学习框架ASMI(Answer-Span Context Prediction and Mutual Information Estimation and Maximization)来提高MRC模型的鲁棒性.ASMI在预训练语言模型下游微调,包含两种辅助任务:(i)答案上下文预测;(ii)答案与上下文之间的互信息估计.本文设计了一种上下文注意力机制来预测答案上下文软标签,从而强化上下文对于问答任务的指导作用,并降低干扰句对模型的影响.本文还提出了一种新的负样本生成策略,并结合基于JS散度的互信息估计器来估计互信息,从而有效辨析答案上下文和干扰句之间的语义差异,使得模型学习到更加鲁棒的表示.在3个阅读理解基准数据集上的实验结果表明,本文提出的ASMI模型在EM和F1指标上均优于对比模型.

基于区块链的电子病历共享模型研究

针对现有电子病历在各医疗机构共享过程中易出现患者隐私泄露以及通信量较大等问题,提出一种基于区块链的电子病历共享模型.首先构建私有链和联盟链,将电子病历密文和关键字密文存储到区块链上,结合属性加密和可搜索加密对用户访问权限进行限制,只有满足患者设置的访问策略可以对电子病历进行搜索,实现细粒度访问.其次对PBFT共识算法进行改进,将网络中共识节点聚类划分,通过权威节点组成骨干共识集群向医院节点组成子共识集群发送消息,减少节点间通信次数.最后从安全性和算法性能等方面进行实验分析,结果表明在整个网络中,攻击者破解密文难度增大,同时通信开销随节点数量增加而减少,实现大规模网络下各医疗机构对电子病历的安全共享.

利用工作量证明的P2P信誉女巫攻击防范

信誉可以帮助用户在对等网络系统中做出更好的服务选择决策.然而女巫攻击者可以获取多个身份,并伪装成多个在系统中的实体,通过操控多个女巫节点的评价意向,让其他参与者的信誉随攻击者的意愿而改变.现有的防范方法需要引入特定环境进行攻击检测或者仅进行单次注册验证,难以从源头上抑制女巫攻击.通过引入多轮工作量证明验证和动态难度调整的验证机制,本文提出了一种针对对等网络信誉系统的女巫攻击者防范模型.理智的攻击者通常不会在没有收益的情况下进行攻击,因此可以通过使用多轮难题验证将攻击者的预期收益降至最低.此外考虑到攻击者在实施女巫攻击时引发洗白攻击重新申请节点的情况,将攻击者的洗白攻击纳入攻击效用考量,并通过理论分析和对比实验验证了模型的有效性.

利用注意力机制的多示例学习视频异常检测

视频异常检测旨在检测视频中的表观异常和运动异常,多示例学习(Multiple Instance Learning,MIL)是目前较先进的弱监督视频异常检测方法,但是MIL提取的C3D特征不能同时描述视频中表观和运动信息,这导致异常检测性能较低.本文提出了利用注意力机制的多示例学习视频异常检测算法(A-MIL),首先提取视频数据的三维特征C3D和光流特征图,并利用Conv-AE提取光流图的特征向量,然后输入至3层全连接神经网络中得到每个示例每种特征的异常分数,接着通过注意力机制获取特征的权重参数,得到最终的示例分数,最后利用改进的MIL排序算法进行模型训练并设置阈值,测试时将异常分数与阈值相比较以判断异常.在公开数据集UCF-Crime上的实验结果表明,本文方法的AUC指标提升了2.79%.

基于级联森林的控制流错误检测优化算法

在单粒子翻转引起的瞬时故障中,控制流错误占很大比例.主流的控制流错误软件检测方法依靠插桩标签来检测控制流错误.但基于标签的检测算法很难在标签插桩的开销和错误检测率之间找到一个平衡.本文提出一种智能的基本块拆分方法,在不用修改原有检测算法的基础上,提升控制流错误的检测率,同时尽可能的减小额外开销.首先,使用GDB调试工具和LLVM Pass文件,对程序进行故障注入实验并提取特征;其次,使用级联森林模型筛选出程序中易发生控制流错误的基本块,并对其进行智能拆分,使基于标签的检测算法能够在拆分点进行标签插桩;最后,在单标签算法CFCSS和双标签算法RCFC上进行验证实验,均取得很好的实验效果.本文提出的方法几乎可以在所有的基于标签的检测算法上使用,并能在提高检错能力的同时,具有较低的时空开销.

一种SCADE同步语言程序安全属性自动验证工具

安全关键领域的反应系统大都采用同步语言开发,然而,学术界尚不存在SCADE同步语言程序的形式化验证工具,为此,本文提出了一种自动验证SCADE同步语言程序安全属性的方法.首先使用无量词一阶逻辑公式对SCADE同步语言程序的行为进行建模,可将SCADE同步语言程序的安全属性的验证问题转化为无量词一阶逻辑公式的可满足性问题;然后采用先进的可满足性模理论求解器对其可满足性进行求解.本方法旨在实现对SCADE同步语言程序进行自动地、直接地验证,以填补SCADE同步语言程序验证领域的技术空白.此外,本文对所提方法进行了代码实现,并通过实验验证了所提方法的有效性.

一种基于社交行为融合的自注意力序列推荐模型

与协同过滤相比,序列推荐能很好的捕捉用户兴趣偏移.在序列推荐中自注意力机制可以捕获长时间依赖关系,所以有很大优势,但是面对数据稀疏性问题,仍然难以获得较好结果.针对推荐系统的数据稀疏问题,借鉴社交推荐模型的社交关系融合思想,提出了一种基于社交行为融合的自注意力序列推荐模型(SBFR).该模型使用自注意力机制生成用户的动态兴趣,并根据朋友的历史行为再次使注意力机制生成社交兴趣,再将用户的动态兴趣和社交兴趣进行融合得到下一项推荐.该模型在序列信息的基础上融入用户的社交兴趣,能有效提升推荐性能.在两个数据集上与序列推荐模型(AttRec、SASRec)进行实验对比,实验结果表明本文提出的SBFR模型能获得3%-8%的性能提升.

一种提升细粒度日志解析准确度的方法

目前大多数系统日志存在不同比例的细粒度日志,现有的日志解析器无法正确解析这些日志,导致整体解析准确度不高的问题.为了提升日志解析的整体准确度,加快日志解析过程,解决长度可变的及含有状态变量的细粒度日志错误分类的问题,本文提出了结合日志的常量令牌长度特征的决策树日志解析模型(CLDT).模型主要包括数据预处理、决策树搜索、相似度计算与事件生成、更新决策树.实验采用开源日志集HDFS、HPC、Zookeeper进行了测试.实验结果表明,CLDT能有效地解决细粒度日志分类的问题,总体性能优于经典的Drain、Spell、IPLom算法,获得更高的F-mesure和准确度.

联邦学习在边缘计算场景中应用研究进展

随着物联网设备迅猛激增,其收集的数据上传至云计算中心会造成网络延迟、计算资源浪费等问题.为了解决上述问题,边缘计算作为新的计算范式应运而生,但也面临用户隐私、数据安全等诸多挑战.联邦学习作为时下热点人工智能技术,可以解决隐私数据以及"数据孤岛"问题,将联邦学习应用在边缘计算领域能够有效地处理隐私数据等难题.通过大量调研,本文介绍了边缘计算场景中的联邦学习技术和训练模型,对比分析了联邦学习在边缘聚合、边缘缓存和计算卸载中的应用方案,指明现有方案存在的问题并提出解决思路,探讨了联邦学习在边缘计算中应用的未来研究方向和挑战.

一种用于答案选择的知识增强混合神经网络

答案选择是问答领域中一项重要的子任务,该任务旨在从候选答案集中选择出正确的答案.传统的模型主要依靠人工提取问答之间的语义相似度特征,并通过分类器或排名算法选择最匹配的答案.近年来的研究工作主要基于深度神经网络自动提取问答的语义相似度特征,并在问答匹配精度上取得了巨大的进步.但是,大多数深度神经网络模型依赖单一的神经网络来获取问答的语义表征,且未充分考虑问答在语义表征上的相互影响,无法充分挖掘问答之间的语义相似信息.针对上述问题,本文提出了一个知识增强的混合神经网络模型KE-HNN(Knowledge-enhanced Hybrid Neural Network). KE-HNN模型采用卷积神经网络CNN(Convolutional Neural Network)和双向长短期记忆网络Bi-LSTM(Bi-directional Long Short-Term Memory Network)构成的混合神经网络获取问答的上下文语义信息;利用多头注意力机制使模型关注于问题和候选答案语句中的关键部分;融合外部知识库并引入文本指导注意力卷积神经网络精确提取与问答相关的知识表征信息,从而增强问答的细粒度语义特征表示.Trec-QA数据集上的实验结果表明,与基准模型相比,本文所提出的KE-HNN模型获得了领先的性能.