面向DAG任务的分布式智能计算卸载和服务缓存联合优化

建立了一种有向无环图(DAG,directed acyclic graph)任务卸载和资源优化问题,旨在应用最大可容忍时延等约束实现系统能耗最小化。考虑到网络中计算请求高度动态、完整的系统状态信息难以获取等因素,最后使用多智能体深度确定性策略梯度(MADDPG,multi-agent deep deterministic policy gradient)算法来探寻最优的策略。相比于现有的任务卸载算法,MADDPG算法能够降低14.2%至40.8%的系统平均能耗,并且本地缓存命中率提高3.7%至4.1%。

车联网中基于联邦和强化学习的边缘缓存策略

为解决车联网中传统内容流行度预测方法无法准确捕获车辆请求特性,导致缓存命中率较低的问题,提出了一种基于联邦学习和强化学习的边缘协同缓存策略。该策略将车辆请求概率更高的内容预缓存在其他车辆或路侧单元中,以提高缓存命中率和降低平均内容获取延时。采用联邦学习方法利用分布在多个车辆上的私有数据进行训练并预测内容流行度,然后使用强化学习算法求解目标函数,获得流行内容的最佳缓存位置。结果表明,所提出的策略在缓存命中率和平均内容获取延时方面均优于其他对比缓存策略,有效提升了车联网边缘缓存性能。

用户请求感知的边端缓存与用户推荐联合优化策略

针对当前边缘缓存场景中普遍存在的用户偏好未知与高度异质问题,该文提出一种用户请求感知的边端缓存与用户推荐联合优化策略。首先,建立点击率(CTR)预测基本模型,引入对比学习方法生成高质量的特征表示,辅助因子分解机(FM)预测用户偏好;然后,基于用户偏好设计一种动态推荐机制,重塑不同用户的内容请求概率,从而影响缓存决策;最后,以用户平均内容获取时延最小化为目标建立边端缓存与用户推荐联合优化问题,将其解耦为边端缓存子问题和用户推荐子问题,分别基于区域贪婪算法和一对一交换匹配算法求解,并通过迭代更新获得收敛优化结果。仿真结果表明,相较于基准模型,引入对比学习方法的预测模型在曲线下面积(AUC)和准确率(ACC)上分别提升1.65%和1.30%,且联合优化算法能够有效降低用户平均内容获取时延,提升系统缓存性能。

面向缓存的动态协作任务迁移技术研究

边缘网络中不断出现的计算密集和延迟敏感型业务推动了任务迁移技术的快速发展。然而,任务迁移过程中存在应用场景复杂多变、问题建模难度高等技术瓶颈。尤其是考虑用户移动时,如何保证用户服务的稳定性和连续性,设计合理的任务迁移策略仍是一个值得深入探讨的问题。因此,提出了一种移动感知的服务预缓存模型和任务预迁移策略,将任务迁移问题转化为最优分簇与边缘服务预缓存的组合优化问题。首先,基于用户的移动轨迹对当前执行任务状态进行预测,引入动态协作簇和迁移预测半径的概念,提出了一种面向移动和负载两种任务场景的预迁移模型,解决了何时何地迁移的问题。然后,针对需要迁移的任务,基于最大容忍时延约束分析协作簇半径和簇内目标服务器数量的极限值,提出了以用户为中心的分布式多服务器间动态协作分簇算法(Distributed Dynamic Multi-server Cooperative Clustering Algorithm,DDMC)以及面向服务缓存的深度强化学习算法(Cache Based Double Deep Q Network,C-DDQN),解决了最优分簇和服务缓存问题。最后,利用服务缓存的因果关系,设计了一种低复杂度的交替最小化服务缓存位置更新算法,求解出了最佳迁移目标服务器集合,实现了任务迁移中的服务器协作及网络负载均衡。实验结果表明,提出的迁移选择算法具有良好的鲁棒性和系统性能,相比其他迁移算法所消耗的总成本降低了至少12.06%,所消耗的总时延降低了至少31.92%。

面向元宇宙移动增强现实应用的异质内容 主动缓存与个性化交付机制

针对移动增强现实(MAR)应用异质数据内容传输和响应时延的问题,提出了面向元宇宙移动增强现实应用的异质内容主动缓存与个性化交付机制,首先综合考虑了用户特征和边缘节点服务能力,提出了用户行为和资源感知的边缘协作服务域构建方法;进而,基于协作服务域设计基于存储空间划分和用户偏好预测的异质内容预缓存机制;特别地,针对前景内容引入了个性化推荐机制,并设计了前景内容的差异化策略。仿真结果表明,所提机制在缓存命中率、前景内容和异质内容的平均响应时延方面均优于NCPCR策略、CCS-AGP策略和AIEC-RSC策略。

基于动态服务缓存辅助的任务卸载方法

针对服务缓存和任务卸载联合优化中,由于缺乏对用户服务请求多样性和动态性的综合考虑而导致的用户体验质量降低问题,提出一种基于动态服务缓存辅助的任务卸载方法。首先,针对边缘服务器执行缓存服务动作空间较大的问题,重新定义了动作,并筛选出最优的动作集合以提高算法训练的效率;其次,设计一种改进的多智能体Q-Learning算法学习最优的服务缓存策略;再次,将任务卸载问题转换为凸优化问题,利用凸优化工具获得最优解;最后,利用拉格朗日对偶法求得最优的计算资源分配策略。为了验证所提方法的有效性,基于真实数据集进行了充分的实验。实验结果表明,对比Q-Learning、双层深度Q网络(D2QN)以及多智能体深度确定性策略梯度(MADDPG)方法,所提方法的响应时间分别降低了8.5%、11.8%和12.6%,平均体验质量分别提高了1.5%、2.7%和4.3%。

MSs-MEC中基于DRL的服务缓存和任务迁移联合优化算法

多服务移动边缘计算(multiple-services mobile edge computing,MSs-MEC)能根据需求自适应调整服务缓存决策,使得部署在用户侧的边缘服务器能够灵活处理不同服务类型的任务。但在实际应用中,特定类型任务的成功迁移依赖于服务环境的提前安装。此外,同时进行任务迁移和服务缓存可能会因时间冲突而导致计算延时。因此,针对上述相关问题,首先将任务迁移和服务缓存决策进行解耦,针对深度强化学习(deep reinforcement learning,DRL)在具有高维的混合决策空间的性能提升不明显的缺点(例如资源分配时利用率不高),将DRL与Transformer结合,通过在历史数据中学习,输出当前时隙的任务迁移决策和下一时隙的任务决策,保证任务到达边缘服务器时能立即执行。其次,为了提高资源分配问题中的资源利用率,将问题分解为连续资源分配问题和离散的任务迁移与服务缓存问题,利用凸优化技术求解资源分配最优决策。广泛的数值结果表明,与其他基线算法相比,提出的算法能有效地减少任务的平均完成时延,同时在资源利用率和稳定性方面也有优异的表现。

处理器片上渗透缓存蕴含的时间与空间及时局部性

处理器片上寄存器的分布形态与数量规模对处理器的整体计算性能有直接影响,这种影响表面上看是波及处理器片上缓存结构的改进和优化,本质上是时间要素与空间要素交织在一起的综合反映.因此,从时间和空间上确保处理器内核对片上缓存的局部化访问必将进一步提高处理器的整体计算性能.为了认识处理器片上缓存中存在的时间与空间及时局部性,以由传统缓存耦合而成的渗透缓存为工具来分析处理器内核访问片上缓存的时间与空间局部性,仿真实验表明渗透缓存因具备容纳时间与空间局部性的结构提高了处理器访问片上缓存的命中率,客观上缩短访存延迟,从而为提高处理器性能创造了有利条件.

命名数据网络中的二分缓存方案

为了解决命名数据网络(Named Data Networking,NDN)中存在的数据冗余,缓存数据内容多样性差以及数据内容请求时延高的问题,提出了一种二分缓存方案.该方案将首次请求的数据内容缓存在中心路由器中,将再次被请求的相同数据内容缓存在内容请求者的邻接路由器中,过滤了请求热度不高的数据内容,增加了数据内容被就近请求的概率,降低了数据内容的请求时延.同时该方案将被替换的数据包缓存至上游路由器,使路由器中重复的数据内容逐渐推向内容生产者,减少了数据冗余的同时增加了路由器缓存的数据内容的多样性.仿真结果显示该算法能降低数据内容的平均请求时延,减少服务器负载,有效提升缓存命中率.

基于内容流行度的卫星网络缓存策略研究

针对传统卫星网络缓存策略中只考虑全局内容流行度未考虑到不同区域流行内容差异较大,从而无法准确找到高流行度内容进行放置导致用户获取时延较大的问题,提出了一种基于全局流行度预测与局部流行度计算的混合卫星网络缓存策略。策略使用LSTM模型对全局内容流行度进行预测,并且对局部内容流行度进行计算,同时将卫星缓存节点分区,定义缓存节点分区比例因子,分别缓存全局和局部流行内容,以最小化用户内容平均获取时延为优化目标,采用BPSO求解缓存放置问题。仿真结果表明,与传统的随机缓存放置及最流行缓存放置相比,所提出的策略能够降低用户内容获取时延,提高缓存命中率。

边缘计算中支持分簇编排的应用缓存方法研究

移动边缘计算通过在距离终端更近的位置提供计算存储服务来提供更优的任务处理表现.为减少系统通信链路压力,进一步优化任务处理时延和能耗,本文首先提出了一种支持位置更新的分布式分簇编排策略,对通信区域进行分簇和簇头选取,簇头作为编排节点进行簇内管理,当有卸载任务时寻找最佳执行设备进行处理;然后基于Docker容器提出应用程序协作缓存算法,通过在存储资源丰富的设备中提前部署高频拉取的应用程序来降低任务部署延迟,从而进一步降低任务处理延迟;最后应用多接入边缘计算仿真平台进行对比实验,结果表明提出的分簇编排策略和协作缓存算法可以有效降低网络和CPU占用率,获得超低任务部署和完成时延,显著提高服务质量,并显示出强可扩展性.

存储体编译和布局协同的片上缓存设计方法

为了提高片上缓存的速度、降低面积和功耗,提出了一种存储体编译和布局协同的片上缓存设计方法。该方法基于存储体在芯片上的不同空间位置预估该存储体的时序余量,分别采用拆分/合并、尺寸调整、阈值替换和长宽比变形等多种配置参数穷举组合进行存储体编译,根据时序余量选择最优的静态随机存取存储器存储体编译配置。将该方法与现有的物理设计步骤集成为一个完整的设计流程。实验结果表明,该方法能够降低约9.9%的功耗,同时缩短7.5%的关键路径延时。

命名数据网络中基于分级的数据缓存方法

针对NDN固有数据缓存机制存在数据内容多样性低、频繁替换等问题,提出了一种数据分级缓存方法.该方法将传输路径上的路由器进行等级划分,根据数据内容热度,将其缓存在相应等级的路由器中,以减少用户获取数据内容的时间.实验结果表明:该方法能够有效提高缓存命中率,减少平均路由跳数,降低平均请求时延.

深度学习在多核缓存预取中的应用研究综述

当前人工智能技术应用于系统结构领域的研究前景广阔,特别是将深度学习应用于多核架构的数据预取研究已经成为国内外的研究热点。针对基于深度学习的缓存预取任务进行了研究,形式化地定义了深度学习缓存预取模型。在介绍当前常见的多核缓存架构和预取技术的基础上,全面分析了现有基于深度学习的典型缓存预取器的设计思路。深度学习神经网络在多核缓存预取领域的应用主要采用了深度神经网络、循环神经网络、长短期记忆网络和注意力机制等机器学习方法,综合对比分析现有基于深度学习的数据预取神经网络模型后发现,基于深度学习的多核缓存预取技术在计算成本、模型优化和实用性等方面还存在着局限性,未来在自适应预取模型以及神经网络预取模型的实用性方面还有很大的研究探索空间和发展前景。

配电网监测数据索引集群的分布缓存方法

针对配电网监测数据急剧增加导致配电网监控系统响应时间过长的问题,本文提出一种热点数据部分链表分布缓存方法。首先,引入缓存技术并分析原有热点数据链表缓存方法的局限性,提出一种新的缓存方法以提高缓存管理效率;然后,设计预热查询实现索引系统的热启动从而提高索引系统的缓存命中率;最后,以配电网监测数据为算例,验证所提方法的效果。测试结果表明,所提出的缓存方法及设计的预热查询能在不同查询条件下大幅减少索引集群的查询时间,有效提高配电网监测数据索引集群的查询效率。

基于PSO的联合任务卸载与缓存算法研究

随着各类计算敏感(Computation-Sensitive, CS)型和高数据率(High-Rate, HR)服务的不断涌现,诸如移动游戏、认知辅助和虚拟/增强现实服务等,移动终端(Mobile Terminal, MT)对存储和计算资源的需求越来越大。为满足移动边缘计算(Mobile Edge Computing, MEC)网络中MT对CS和HR服务的通信需求,联合任务卸载、缓存与资源分配算法的研究被广为关注。现有研究鲜有涉及多蜂窝无线回程网络,不利于现实应用与低网络成本部署。针对支持CS和HR服务的多蜂窝无线回程网络,以MT所需资源占其服务基站的所有MT所需资源的比例分配频谱、计算与缓存资源。在该资源分配方式下,提出了最小化MT平均时延的问题,涉及MT关联指示的优化,其中MT关联兼顾基站的选择、计算和缓存模式的选择。为处理该问题,开发了基于粒子群优化(Particle Swarm Optimization, PSO)的MT关联与资源分配(PSO-based MT Association and Resource Allocation, PMARA)算法。仿真结果表明,在上述资源分配方式下,同其他现有算法相比,所设计的算法通常可以获得更低的MT时延。

基于隐式协作缓存机制的WSN网络能耗优化算法

针对无线传感器网络(Wireless Sensor Networks,WSN)节点间缓存空间压力造成计算、存储、通信能力差的问题,提出一种基于隐式协作缓存机制的WSN网络能耗优化算法。在明确WSN网络数据采集机制的基础上,使用远端节点缓存内容的隐式协作,降低网络节点间缓存空间压力,平衡节点间的缓存替换率;以传感器到基站的距离、节点剩余能量以及节点分散比重作为优化指标,获得选举簇头无线传感器网络能耗优化算法。仿真结果表明,所提方法可以降低WSN节点能耗,使WSN网络中不同节点能量消耗相对平衡,有效延长了WSN网络使用周期。

内存高效的持久性分布式文件系统客户端缓存DFS-Cache

为了在数据密集型工作流下有效降低缓存碎片整理开销并提高缓存命中率,提出一种持久性分布式文件系统客户端缓存DFS-Cache(Distributed File System Cache)。DFS-Cache基于非易失性内存(NVM)设计实现,能够保证数据的持久性和崩溃一致性,并大幅减少冷启动时间。DFS-Cache包括基于虚拟内存重映射的缓存碎片整理机制和基于生存时间(TTL)的缓存空间管理策略。前者基于NVM可被内存控制器直接寻址的特性,动态修改虚拟地址和物理地址之间的映射关系,实现零拷贝的内存碎片整理;后者是一种冷热分离的分组管理策略,借助重映射的缓存碎片整理机制,提升缓存空间的管理效率。实验采用真实的Intel傲腾持久性内存设备,对比商用的分布式文件系统MooseFS和GlusterFS,采用Fio和Filebench等标准测试程序,DFS-Cache最高能提升5.73倍和1.89倍的系统吞吐量。

移动边缘网络中的多目标缓存优化方法

随着5G时代的到来,各类移动应用蓬勃发展,用户量快速增长,大量的通信流量对移动边缘网络造成了巨大的压力,缓存资源紧张的问题逐渐凸显.为此,本文提出了一种基于多目标优化算法的移动边缘网络缓存放置策略,考虑包含一个宏基站和若干小基站的边缘网络,通过分析边缘网络缓存中不同利益相关方的需求,即用户平均延迟、缓存成本和传输功耗,以及缓存空间有限的约束条件,构建了多目标优化模型,为了求解模型,提出了一种基于最远交配和淘汰策略的多目标进化算法(MOEA-FMES).通过模拟仿真实验与其他常见多目标优化算法进行了对比,结果表明MOEA-FMES优于对比算法,能够给出一组质量较高、收敛性较好且分布均匀的解,证明了所提出方法的有效性.

基于联盟链的边缘缓存系统中最佳缓存策略设计

针对不同运营商各自部署边缘设备,投入巨大且缓存内容相互隔离,无法共享的问题,改进了一种基于联盟链的边缘缓存系统架构,使运营商部署的边缘设备间能够打破内容隔离,实现更大范围的共享。为了提高运营商缓存收益,同时保证用户传输质量,降低用户传输时延,首先针对缓存内容流行度、内容大小以及边缘设备的协作能力,分析不同内容交付方式对于用户传输时延和运营商缓存收益的影响;然后,以最大化缓存收益和最小化传输时延为目标建立优化问题;最后,为解决构建的高维度大规模的缓存决策问题,采用基于异步优势动作评价的内容缓存算法确定内容的最佳放置位置。仿真结果表明,所提缓存策略能够有效地提高边缘缓存收益,降低内容传输时延,提升用户体验。