MEC环境中面向5G网络切片的计算卸载方法

5G网络切片与计算卸载技术的出现,有望支持移动边缘计算(Mobile Edge Computing,MEC)系统在降低服务延迟的同时提高资源利用率,进而更好地满足不同用户的需求.然而,由于MEC系统状态的动态性与用户需求的多变性,如何有效结合网络切片与计算卸载技术仍面临着巨大的挑战.现有解决方案通常依赖于静态网络资源划分或系统先验知识,无法适应动态多变的MEC环境,造成了过度的服务延时与不合理的资源供给.为解决上述重要挑战,本文提出了一种MEC环境中面向5G网络切片的计算卸载(Computation Offloading towards Network Slicing,CONS)方法.首先,基于对历史用户请求的分析,设计了一种门控循环神经网络对未来时隙的用户请求数量进行精确预测,结合用户资源需求对网络切片进行动态调整.接着,基于网络切片资源划分的结果,设计了一种双延迟深度强化学习对计算卸载与资源分配进行决策,通过解决Q值过高估计和高方差问题,进而有效逼近动态MEC环境下的最优策略.基于真实用户通信流量数据集,大量仿真实验验证了所提的CONS方法的可行性和有效性.与其他5种基准方法相比,CONS方法能够有效地提高服务提供商的收益,且在不同场景下均展现出了更加优越的性能.

基于半监督学习的网络异常检测研究综述

网络流量数据的获取较为容易,而对流量数据进行标记相对困难。半监督学习利用少量有标签数据和大量无标签数据进行训练,减少了对有标签数据的需求,能较好适应海量网络流量数据下的异常检测。文章对近年来的半监督网络异常检测领域的论文进行深入调研。首先,介绍了一些基本概念,并深入剖析了网络异常检测中使用半监督学习策略的必要性;然后,从半监督机器学习、半监督深度学习和半监督学习结合其他范式三个方面,分析和比较了半监督网络异常检测领域近年来的论文,并进行归纳和总结;最后,对当前半监督网络异常检测领域进行了现状分析和未来展望。

一种用于多域对话状态追踪的知识增强与自注意力引导的图神经网络

对话状态追踪是对话系统的重要组成部分,旨在从用户与系统的对话中跟踪用户意图,其通常表示为槽位-槽值对序列.近年来,深度神经网络模型在对话状态追踪问题上取得了较大进展.然而,现有模型在槽位相关性建模方面还存在可拓展性差与易引入噪声等问题.针对上述问题,本文提出了一种知识增强与自注意力引导的图神经网络KESA-GNN(Knowledge-Enhanced&Self-Attention Guided Graph Neural Network).首先,KESA-GNN通过外部知识嵌入增强槽的语义表征提升多头自注意力机制对槽位间相关性的辨别能力.其次,为了精确建模槽位间的诸如共指、共现等相关性,提出了一种自注意力引导的图神经网络建模槽位相关性.该网络采用多头注意力机制获得槽位间的注意力矩阵以及槽位表征,通过Max-N Relation算法获得注意力矩阵中强相关关系集,将稠密的注意力矩阵稀疏化,从而引导图神经网络中强相关槽位间的信息传播,降低无关槽位的噪声影响.最后,KESA-GNN采用门控融合机制过滤槽位多头注意力和图神经网络输出的槽位表征,从而获取更准确的槽位表征向量,进一步提升了KESA-GNN的鲁棒性.在多域对话数据集上的实验结果表明,KESA-GNN模型的性能优于最新的基线模型.

用于问题生成的知识增强双图交互网络

问题生成是一项具有挑战性的自然语言处理任务,旨在生成具有给定答案和上下文的问题,近年来受到了广泛关注.最近,由于神经网络的发展,问题生成任务取得了较大的进展.然而,现有模型仍然存在未有效利用外部知识以及在利用图神经网络捕获隐藏结构信息未捕获语法信息等问题.针对上述问题本文提出知识增强双图交互网络KE-BGINN(Knowledge-Enhanced Bi-Graph Interaction Neural Network).首先为了有效利用外部知识信息,KE-BGINN通过知识图谱本身的图结构信息构造知识增强图,并利用图卷积网络对文本以及答案上下文语义信息进行扩充.其次,KE-BGINN引入一种双图交互机制,利用两个图卷积网络学习上下文的隐藏结构信息以及语法信息,在图间信息融合时,构造一个虚拟图来充分融合不同图之间的异构信息.最后,KE-BGINN利用指针网络解码机制来解决问题生成时罕见和未知词的问题.在SQuAD数据集上的实验结果证明,与对比模型相比较,KE-BGINN模型的综合性能更加优异.

设备端基于深度学习的智能家居服务推荐框架

随着智能家居的普及,用户期望通过自然语言指令实现智能设备的控制,并希望获得个性化的智能家居服务。然而,现有的挑战包括智能设备的互操作性和对用户环境的全面理解。针对上述问题,提出一个支持设备端用户智能家居服务推荐个性化的框架。首先,构建智能家居的运行时知识图谱,用于反映特定智能家居中的上下文信息,并生成用例场景语句;其次,利用预先收集的通用场景下,用户的自然语言指令和对应的用例场景语句训练出通用推荐模型;最后,用户在设备端以自然语言管理智能家居设备和服务,并通过反馈微调通用模型的权重得到个人模型。在基本指令集、复述集、场景指令集三个数据集上的实验表明,用户的个人模型相比于词嵌入方法的准确率提升了6.5%~30%,与Sentence-BERT模型相比准确率提升了2.4%~25%,验证了设备端基于深度学习的智能家居服务框架具有较高的服务推荐准确率,能够有效地管理智能家居设备和服务。

基于双通道回声状态网络的时间序列补全及单步预测

随着物联网的发展,众多传感器采集到大量具有丰富数据相关性的时间序列,为各种数据挖掘应用提供强大的数据支持。然而,一些客观或主观原因(如设备故障、稀疏感知等)往往会造成采集到的数据出现不同程度的缺失。虽然已有很多方法被提出用于解决这一问题,但这些方法在数据相关性方面或考虑不够全面,或计算成本过高。而且,现有方法仅关注对缺失值的补全,未能兼顾下游应用。针对上述不足,设计了一种兼顾补全与预测任务的双通道回声状态网络。两个通道的网络虽共用输入层,但具有各自的储备池和输出层。两者最大的区别是左/右通道的输出层分别表示输入层前/后一个时刻对应的目标值或预补值。最后将两个通道的估计值进行融合,充分利用来自缺失时刻之前和之后的数据相关性以进一步提升性能。两种缺失现象下(随机缺失和分段缺失)不同缺失率的实验结果表明,所提模型无论是在补全精度还是预测精度上都优于目前流行的各类方法。

移动边缘计算中的无人机三维部署和内容缓存优化方法

随着无线网络中的移动数据流量爆炸式增长,支持高速缓存的无人机被应用于移动计算领域充当边缘服务器,为网络中的用户提供按需服务。为了在满足其他资源约束的条件下,给用户带来更好的体验,通过联合优化无人机部署、缓存放置和用户关联以实现最小化所有用户的内容访问时延,并为用户提供质量不同的内容缓存服务。针对多无人机和地面基站协同提供缓存服务的场景,提出了一种基于迭代优化的联合优化算法。该算法通过迭代求解由目标问题分解得到的三个子问题的方式来获得具有收敛性保证的次优解决方案。首先,采用基于连续凸近似的算法求解无人机部署子问题;其次,采用基于贪心的算法求解内容缓存子问题;然后,利用基于罚函数的连续凸近似算法求解用户关联子问题;最后,对上述过程重复迭代,得到目标问题的一个次优解。多次仿真实验验证了所提算法的有效性和可行性。仿真结果表明,与基准算法相比,所提联合优化算法在平均内容访问时延、缓存命中率两方面均具有更好的性能。

多无人机辅助MEC环境中基于Wardrop路由博弈的计算卸载

无人机(Unmanned Aerial Vehicles,UAVs)与多接入边缘计算(Multi-access Edge Computing,MEC)技术的结合突破了传统地面通信的局限性,已成为解决MEC中任务卸载问题的重要手段。由于单无人机可提供的计算资源和能量有限,为了应对日益扩大的网络规模,考虑了多无人机辅助MEC环境中的任务卸载问题。基于问题定义,任务卸载过程可以视为一个在平行链路上进行的、具有玩家特定延迟函数的Wardrop路由博弈,目的是得到均衡状态和最优状态下的卸载策略,并量化分析两者间的差距。由于均衡解难以计算,因此构造了一个新的势函数,将均衡问题转换成最小化势函数问题。同时使用Frank-Wolfe算法最终获得均衡和最优卸载策略。算法在每次迭代中将目标函数线性化,通过求解线性规划得到可行方向,进而沿此方向在可行域内作一维搜索。仿真实验表明,相比其他基准测试方法,基于平行链路Wardrop路由博弈的均衡卸载策略能够有效降低模型总成本,且与最优卸载策略下总成本的比值约为1。

一种用于方面级情感分析的知识增强双图卷积网络

近年来,深度神经网络特别是图神经网络在方面级情感分析任务上取得了较大进展,但是仍存在未充分利用外部知识信息、句法依赖树的边关系信息以及知识图谱结构信息的缺陷.针对上述问题,本文提出了一种知识增强的双图卷积网络BGCN-KE(Knowledge-enhanced Bi-Graph Convolutional Network).首先,提出一种融合句法依赖关系与外部知识的子图构造算法,得到节点间语义关系更紧密的知识子图.其次,提出了双图卷积网络,分别利用两个图卷积网络在句法依赖知识子图中引导评论文本的节点学习邻接节点的外部知识,以及在评论文本的句法依赖图中融合特定方面相关的语义信息,从而增强评论文本的特定方面知识表示和语义表示.再次,BGCN-KE引入边关系注意力机制,更好地捕获特定方面和上下文词语间的语义关系.最后,提出了一种多级特征融合机制,充分融合特定方面相关的外部知识、语义信息和边关系特征.多个公共数据集上的实验证明,BGCN-KE的性能优于最新的对比模型.

一种用于答案选择的知识增强图卷积网络

答案选择是问答领域的一个重要子任务,目标是根据问题从候选答案集合中选择最合适的答案.该任务的核心是问答语义匹配.近年来,随着深度神经网络和预训练语言模型的应用,许多端对端的问答匹配模型展现出优异的性能.但是,现有模型仍然存在语义信息提取不充分以及未有效利用外部知识信息等问题.针对上述问题,本文提出一种知识增强图卷积网络(A Knowledge-enhanced Graph Convolutional Network,KEGCN).首先,KEGCN提出一种基于图卷积神经网络的问题-答案结构信息提取机制,在利用BERT获得文本语义信息的基础上,KEGCN通过图卷积神经网络学习问答对之间的结构信息,增强语义信息.其次,KEGCN设计了一种基于自注意力门控网络的扩展知识语义构建机制,利用自注意力门控网络获取扩展知识实体之间的上下文语义关联并过滤知识噪声,增强模型的鲁棒性.最后,KEGCN利用多尺寸卷积神经网络提取多粒度的全局语义信息,以进一步提高答案选择推理的准确性.WikiQA和TrecQA数据集上的实验结果表明,与对比模型相比较,KEGCN的综合性能更加优异.

基于深度自回归循环神经网络的边缘负载预测

为了更好地支持边缘计算服务提供商进行资源的提前配置与合理分配,负载预测被认为是边缘计算中的一项重要的技术支撑.传统的负载预测方法在面对具有明显趋势或规律性的负载时能取得良好的预测效果,但是它们无法有效地对边缘环境中高度变化的负载取得精确的预测.此外,这些方法通常将预测模型拟合到独立的时间序列上,进而进行单点负载实值预测.但是在实际边缘计算场景中,得到未来负载变化的概率分布情况会比直接预测未来负载的实值更具应用价值.为了解决上述问题,本文提出了一种基于深度自回归循环神经网络的边缘负载预测方法(Edge Load Prediction with Deep Auto-regressive Recurrent networks,ELP-DAR).所提出的ELP-DAR方法利用边缘负载时序数据训练深度自回归循环神经网络,将LSTM集成至S2S框架中,进而直接预测下一时间点负载概率分布的所有参数.因此,ELP-DAR方法能够高效地提取边缘负载的重要表征,学习复杂的边缘负载模式进而实现对高度变化的边缘负载精确的概率分布预测.基于真实的边缘负载数据集,通过大量仿真实验对所提出ELP-DAR方法的有效性进行了验证与分析.实验结果表明,相比于其他基准方法,所提出的ELP-DAR方法可以取得更高的预测精度,并且在不同预测长度下均展现出了优越的性能表现.

多约束边环境下计算卸载与资源分配联合优化

移动边缘计算(Mobile Edge Computing,MEC)将计算与存储资源部署到网络边缘,用户可将移动设备上的任务卸载到附近的边缘服务器,得到一种低延迟、高可靠的服务体验.然而,由于动态的系统状态和多变的用户需求,MEC环境下的计算卸载与资源分配面临着巨大的挑战.现有解决方案通常依赖于系统先验知识,无法适应多约束条件下动态的MEC环境,导致了过度的时延与能耗.为解决上述重要挑战,本文提出了一种新型的基于深度强化学习的计算卸载与资源分配联合优化方法(Joint computation Offloading and resource Allocation with deep Reinforcement Learning,JOA-RL).针对多用户时序任务,JOA-RL方法能够根据计算资源与网络状况,生成合适的计算卸载与资源分配方案,提高执行任务成功率并降低执行任务的时延与能耗.同时,JOA-RL方法融入了任务优先级预处理机制,能够根据任务数据量与移动设备性能为任务分配优先级.大量仿真实验验证了JOA-RL方法的可行性和有效性.与其他基准方法相比,JOA-RL方法在任务最大容忍时延与设备电量约束下能够在时延与能耗之间取得更好的平衡,且展现出了更高的任务执行成功率.

时空数据驱动的智能家居服务管控方法

针对目前智能家居服务管控技术存在的标准缺失和用户需求多样化问题,作者提出一种时空数据驱动的智能家居服务管控方法。该方法包括构建智能家居时序知识图谱和基于联邦学习的智能家居服务管控方法。通过记录智能家居场景中概念实例的状态,时序知识图谱提供了环境变化和服务状态的时序数据支持。通过联邦学习算法,结合不同家庭的模型参数,该方法可更新个性化模型和预测智能家居服务状态。实验结果表明,该方法可有效管控智能家居设备,并可准确满足用户需求,具有高准确度和较快的收敛速度。

移动边缘计算中基于Actor-Critic深度强化学习的任务调度方法

移动边缘计算(MEC)通过将计算与存储资源部署至网络边缘,有效降低了任务响应时间并提高了资源利用率。由于MEC系统状态的动态性和用户需求的多变性,如何进行有效的任务调度面临着巨大的挑战,不合理的任务调度策略将严重影响系统的整体性能。现有工作通常对任务采用平均分配资源或基于规则的策略,不能有效地处理动态的MEC环境,这可能造成过多的资源消耗,进而导致服务质量(QoS)下降。针对上述重要问题,提出了一种MEC中基于Actor-Critic深度强化学习的任务调度方法(TSAC)。首先,提出了一种面向边缘环境的任务调度模型并将任务等待时间和任务完成率作为优化目标;其次,基于所提系统模型与深度强化学习框架,将联合优化问题形式化为马尔可夫决策过程;最后,基于近端策略优化方法,设计了一种新型的掩码机制,在避免智能体做出违反系统约束的动作和策略突变的同时提高了TSAC的收敛性能。基于谷歌集群真实运行数据集进行仿真实验,与深度Q网络方法相比,至少降低6%的任务等待时间,同时提高4%的任务完成率,验证了的可行性和有效性。

基于云模型和AHP的网络信息系统可生存性评估

针对当前网络信息系统可生存性评估指标的复杂性和定性概念评估问题,将云模型理论和AHP方法相结合,提出了一种基于云模型的多层次可生存性模糊评估方法。用AHP方法构建了多层次评估指标体系,并对各级指标权重进行有效计算。采用多维云模型与AHP方法结合,设计了定性指标和定性数据的量化模糊评估方法,得到了定性评估结果。实验结果表明,所提出评估方法能够实现复杂评估指标体系下的模糊量化评估,在计算的准确性和模糊性方面具有较好性能。

一种用于自然场景文本识别的多路并行位置关联网络

自然场景文本识别是计算机视觉领域的研究热点之一,在无人驾驶、图像检索、机器人导航等领域具有广泛的应用前景.由于自然场景中的文本图像存在背景复杂、透视失真、过度弯曲等现象,给文本识别带来了巨大的挑战.针对上述问题,本文提出了一种基于多路并行的位置关联网络(Multi-Path Parallel Location Association Network,MPLAN)的自然场景文本识别方法.首先,针对不规则文本图像,MPLAN使用文本矫正网络自适应学习图像变换,从而获得线性排列的文本图像.其次,为了捕获字符间的位置信息,MPLAN提出了位置关联模块,利用序列特征的有序性,通过捕获字符位置信息,以提高序列特征与目标字符的对齐准确度.此外,为了增强字符间的语义相关性,MPLAN提出了基于多路传输思想的并行注意力模块,获取全局语义信息,实现序列特征的上下文通信,从而锁定有效字符的位置.在包括规则文本、不规则文本在内的六个数据集上的实验结果表明,MPLAN能够有效利用位置信息与全局语义信息解码字符序列,特别是在识别不规则文本上取得了领先的性能.

一种用于方面级情感分析的关系注意力图卷积网络

方面级情感分析是情感分析的子任务,旨在判断评论目标的具体方面所对应的情感极性.近年来,深度神经网络模型在方面级情感分析问题上取得了较大进展.然而,现有的方面级情感分析模型仍存在方面信息丢失、没有充分利用句法依存关系等问题.本文提出了一种基于关系注意力机制的图卷积网络RAGCN(Relational Attention based Graph Convolutional Network).首先,RAGCN通过两个双向长短期记忆网络分别对句子和增强后的方面建模,以引导图卷积网络对向量表示进行更新.其次,为了区分上下文单词对给定方面情感的贡献,提出了一种关系注意力机制.该机制能充分利用评论节点间的边类型,结合双向长短期记忆网络的输出以捕获方面和上下文单词之间的关系.此外,为进一步提高模型的鲁棒性,RAGCN采用门控融合机制来过滤关系注意力层和图卷积网络层的输出,从而获取多更准确的句子表征向量.多个方面级情感分析数据集上的实验结果表明,RAGCN模型在准确度,Macro-F1方面均优于对比模型.

一种局部信息增强与对话结构感知的多轮对话模型

多轮对话是人工智能领域的一个重要分支.如何从多轮对话上下文中正确提取与问题相关的核心内容是多轮对话任务的关键问题.现有模型存在辅助任务低效,对全局与局部信息的筛选不够充分,对较短的多轮对话数据学习能力不足等问题.针对上述问题,本文提出了一种局部信息增强且能够感知对话结构的多轮对话模型(Structure-aware Dialogue Model with Fine-grained Local Information,SAFL).针对子任务训练代价大的问题,提出了随机滑动窗口回复预测任务,在多轮对话上下文中的不同位置与大小的窗口内进行回复预测,充分学习细粒度的局部对话语义.针对信息筛选不够充分的问题,提出了重点局部信息蒸馏机制,借助多门控融合方法从全局和局部信息之中蒸馏出重点信息,提升模型融合效果.针对模型对较短的多轮对话上下文学习能力不足的问题,提出阶段信息学习机制,在微调前加强预训练语言模型对短多轮对话数据的领域学习,降低微调阶段中对短多轮对话的学习难度.此外,SAFL设计了对话结构感知任务在对话结构方面进一步加强模型对对话上下文的理解能力.Ubuntu和E-commerce数据集上的实验结果表明,SAFL模型的总体性能优于对比模型.

一种用于垃圾评论分类的融合主题信息的生成对抗网络模型

随着信息时代的飞速发展,由此也衍生出刷垃圾评论等黑色产业.随着机器学习技术的兴起,人们研究出许多有效的方法来识别垃圾评论.传统统计机器学习方法通过人工特征工程提取能够区分垃圾评论和正常评论的评论类别特征,往往需要花费大量的精力进行特征选择;而深度学习方法利用神经网络自动学习评论特征.但是受限于标记数据的获取困难,现有的深度学习模型仍然存在较为严重的过拟合问题,另外不考虑主题信息,直接对评论文本进行训练也使得模型学习困难,泛化能力较弱.针对上述问题,本文提出一种用于垃圾评论分类的融合主题信息的生成对抗网络模型Topic-SpamGAN(Topic-SpamGenerative Adversarial Network).为解决标记样本获取困难的问题,Topic-SpamGAN采用GAN拟合真实标记样本,提升分类器的训练效果;其次,Topic-SpamGAN使用强化学习帮助生成器训练,改善生成样本的质量;此外,Topic-SpamGAN在模型学习中引入主题信息增强生成文本的相关性,并通过主题信息引导模型进行分类学习,使模型学习更为稳定.旅馆数据集上的实验结果证明,Topic-SpamGAN能获得优于现有垃圾评论分类模型的性能.

基于QoE的无人机网络部署和缓存策略优化方法

为了最大限度提升用户的体验质量,设计了一个使用支持缓存的无人机进行辅助通信的蜂窝网络模型。该模型使用无人机通信和边缘缓存相结合的方式来进行流量卸载,通过联合优化无人机部署,缓存放置和用户关联以实现用户QoE的最大化,并使用平均意见得分来对其进行评估。基于问题定义,提出了一个无人机部署、缓存放置和用户关联的联合优化算法,以最大化MOS。该联合算法使用K-means聚类算法为用户创建基于用户位置的无人机部署集群,使用基于罚函数的凸优化算法以获得缓存放置策略,使用贪心算法以获得对用户的关联策略。多次仿真实验验证了所提出算法的有效性和可行性。实验结果表明,与三种基准算法相比,所提出的联合优化算法在MOS、回程流量卸载率和内容访问时延三方面均具有更好的性能。