大规模视频点播磁盘cache替换算法

大规模视频点播（ＬＳＶＯＤ）中ｃａｃｈｅ机制是提高系统效率的有效手段，是支持ＶＯＤ实用化的关键技术之一．由于连续媒体的数据量大，使用周期长等特点，传统的ｃａｃｈｅ替换算法不能直接应用于ＬＳＶＯＤ．文中根据ＶＯＤ的特点开发了两种基于访问频率的替换算法：ＬＦＲＵ（ｌｅａｓｔｆｒｅｑｕｅｎｃｙ ａｎｄ ｒｅｃｅｎｔｌｙ ｕｓｅｄ）和ＰＬＦＵ（ｐｅｒｉｏｄ ｌｅａｓｔｆｒｅ－ｑｕｅｎｃｙ ｕｓｅｄ）算法，它们都试图将访问频率大的视频数据保留在ｃａｃｈｅ中．ＬＦＲＵ 算法结合了数据的访问频率和访问时间信息，对访问模式的变化具有一定的适应性．ＰＬＦＵ 算法用周期法和预测法解决了ＬＦＵ 算法中的ｃａｃｈｅ“污染”问题．实验数据显示，新的替换算法比传统的替换算法效率高，更适合大规模的ＶＯＤ系统．

存储系统的集中式Cache替换算法

为了最大限度地优化存储系统的I/O性能,通过对存储系统性能的分析,提出一种Cache替换算法———最小访问时间算法(LAT).该算法为Cache中数据对象定义一个排队函数,该函数不仅与对象的Cache命中率有关,还与对象的设备访问速度有关.按照此函数,Cache替换访问次数少、设备访问时间短的对象,从而使得存储系统的平均I/O时间最短.实验结果表明,随着设备访问速度差的增加,LAT算法的平均I/O性能远远优于LRU和LFU.

多核系统中共享Cache的冒泡替换算法

在多核环境下,对共享L2 Cache的优化显得尤为重要,因为当被访问的数据块不在L2 Cache中时(发生L2缺失),CPU需要花费几百个周期访问主存的代价是相当大的.在设计Cache时,替换算法是考虑的一个重要因素,替换算法的好坏直接影响Cache的性能和计算机的整体性能.虽然LRU替换算法已经被广泛应用在片上Cache中,但是也存在着一些不足:当Cache容量小于程序工作集时,容易产生冲突缺失;且LRU替换算法不考虑数据块被访问的频率.文中把冒泡替换算法应用到多核共享Cache中,同时考虑数据块被访问的频率和最近访问的信息.通过分析实验数据,与LRU替换算法相比,采用冒泡替换算法可以使MPKI(Misses per Kilo instructions)和L2 Cache命中率均有所改善.

一种结合动态写策略的磁盘Cache替换算法

磁盘Cache是改善I/O性能的一种技术.通过分析Cache写策略和LRU、LFU替换算法对磁盘Cache性能的影响,引入一种动态写策略,改进替换算法,使基于频率的块替换算法FBR与动态写策略相结合.二者结合较好地应用于磁盘存取中,充分利用局部性规律,提高I/O性能,使磁盘在多种工作环境和不同Cache大小下的性能更优.

一种基于频率的多核共享Cache替换算法

LRU替换算法在单核处理器中得到了广泛应用,而多核环境大都采用多核共享最后一级Cache(LLC)的策略,随着LLC容量和相联度的增加以及多核应用的工作集增大,LRU替换算法和理论最优替换算法之间的差距越来越大。该文提出了一种平均划分下基于频率的多核共享Cache替换算法(ALRU-F)。该算法将当前所需要的部分工作集保留在Cache内,逐出无用块,同时还提出了块粒度动态划分下基于频率的替换算法(BLRU-F)。该文提出的ALRU-F算法相比传统的LRU算法缺失率降低了26.59%,CPU每一时钟周期内所执行的指令数IPC(Instruction Per Clock)则提升了13.59%。在此基础上提出的块粒度动态划分下,基于频率的BLUR-F算法相比较传统的LRU算法性能提高更大,缺失率降低了33.72%,而IPC则提升了16.59%。提出的两种算法在性能提升的同时,并没有明显地增加能耗。

基于BWDSP指令Cache的PLRU替换算法研究

通过BWDSP模拟器对目前常用的几种替换算法和大小不同的指令Cache块进行仿真实验得出不同缺失率。实验结果表明,所提出的PLRU替换算法性能高于LRU、LFU、FIFO替换算法,并使BWDSP整体性能提高到为其他三种替换算法的1.12倍左右。

集群VOD系统中磁盘Cache替换算法研究

根据VOD的特点开发了两种基于访问频率的替换算法:LFRU(least frequency and recently used)和PLFU(period least frequency used)算法，它们都试图将访问频率大的视频数据保留在Cache中。LFRU算法结合了数据的访问频率和访问时间信息，对访问模式的变化具有一定的适应性。PLFU算法用周期法和预测法解决了LFU算法中的Cache“污染”问题。

MRU Cache替换算法平均性能剖析

研究了MRU替换算法的平均性能问题.研究结果发现,在一定条件下,MRU的平均性能优于LRU替换算法.针对具有线性访问序列循环体的程序,形式化证明了MRU平均性能优于LRU的成立条件.并采用实时系统时间分析测试集针对不同Cache配置进行实验,验证了MRU平均性能优于LRU这一结果的普遍性.结合本文结果与MRU实时性能的研究结果,可以认为MRU具有优异的平均性能和实时性能.

基于网络光盘库的Cache替换算法

Cache作为提高访问效率、改善系统性能的重要环节和技术,广泛地应用于各种计算、匹配场合中。除了在处理器上使用之外,在Web访问及存储系统中,为了提高访问速度,Cache也扮演了重要的角色。该文分析了当前应用于处理器、Web Cache等方面的替换算法,针对网络光盘库这个存储系统的自身特点,提出了一种新的替换算法。该算法结合了LFU和MQ这两种算法的特点,提高了数据在Cache中的命中率。实验表明替换算法与访问模型密切相关。

HLR中的cache机制及其SLRU替换算法

针对现有平台实时处理能力的不足,在HLR系统中引入了基于双数据库模式的Cache机制。提出了结合LRU算法和LFU算法两者优点的SLRU替换算法,该算法保证了Cache机制的高效稳定运作,从而大大提高了整个HLR系统的实时处理能力。

Cache替换算法LRU和2Q的深度分析

Cache替换算法是内存和CPU交互时速度保证的关键,传统的LRU算法在处理偶然性数据访问时造成缓存污染严重,但其实现简单,命中率和效率尚可,故成为现今大多情况下使用的算法;2Q算法通过设置两个队列,A1队列通过暂存数据减弱偶发性数据的影响,实现同样简单且有不错的性能。通过编制的词法分析器分析程序代码得来的数据进行算法性能的比较。

面向替换延迟隐藏的Cache空间预约技术

快速发展的集成电路制造工艺与相对滞后的设计技术形成的"存储墙"问题已经成为制约限制处理器潜在性能提升的主要障碍,构建高性能片上存储系统一直是处理器微体系结构研究的重要内容。提出Cache空间预约技术--CSPO,为片上Cache增加预约空间计数器POC,以及Cache行预约标志POT,使Cache替换目标选择与片外存储器访问并行执行,同时具备将POT标识为1的脏Cache数据行尽快提前写回的能力,从而在片外数据返回前提前完成Cache替换目标行选择和脏数据写回,并将替换目标Cache行地址存入专用寄存器中,数据返回后直接写入替换目标Cache行,从而有效隐藏Cache替换操作延迟、提升IPC。实验结果表明,CSPO技术能有效提升IPC性能,范围为2.46%~11.11%,平均为5.37%。

基于网络代价的Web Cache算法

随着网上连续媒体数据的增多,传统的Cache算法已经不能满足要求,由于连续媒体数据对空间 和带宽的要求,针对连续媒体数据的特点,提出了一种基于网络代价的Web Cache置换算法。

基于梯度的低功耗Cache划分算法

在GPA(Gradient-based Partition Algorithm)算法的基础上提出一种对多核系统的共享L3cache进行划分的方法GLPCPA(Gradient-based Low-Power Cache Partition Algorithm),该方法通过监测cache行为的局部特性和全局特性的方法打开或关闭一些cache路对cache的容量进行动态调整,在保持性能的同时降低功耗.该方法使用循环OBL(Robin One-Bit LRU)替换算法,其硬件开销小且性能高.仿真实验表明GLPCPA算法能将共享L3 Cache的总功耗减少20%以上,最多可以减少40%,但性能下降不超过10%.而且GLPCPA具有健壮性、可扩展性以及稳定性,并能够和现有的cache设计很好地结合在一起.

数据迁移算法研究

分级存储根据数据的访问频率、保留时间、容量等指标将数据存储在不同性能的存储介质上,是降低海量数据存储成本的有效解决方案,如何对存储的数据进行迁移是分级存储管理中的关键技术。该文研究了三种不同的数据迁移算法,基于存储空间的高低水位法、基于数据访问率的Cache替换迁移算法和信息生命周期管理中的价值评估法,对其优缺点进行了对比。综合应用三种迁移算法,可以实现数据在各级存储层次之间自动智能的迁移,最终达到提高系统性能的目的。

面向多线程程序基于效用的Cache优化策略

为了提供高速的数据访问,多核处理器常使用Cache划分机制来分配二级Cache资源,但传统的共享Cache划分算法大多是面向多道程序的,忽略了多线程负载中共享和私有数据访问模式的差别,使得共享数据的使用效率降低.提出了一种面向多线程程序的Cache管理机制UPP,它通过监控Cache中共享、私有数据的效用信息,为每个线程以及共享数据分配Cache空间,使得各个线程以及共享数据的边际效用最大化,从而提高负载的整体性能.另外,UPP还考虑了程序中数据的使用频率以及临近性信息,通过提升、动态插入策略过滤低重用数据,从而使得高频数据块留在Cache中.通过实验表明,其性能相对于基于LRU的纯共享Cache结构和基于公平的静态Cache划分结构均有提升.

嵌入式移动数据库客户端列Cache方案研究

在嵌入式环境中,有效利用客户机端Cache的空间,可以大大降低系统功耗和提高系统的性能。从体系结构级的角度,介绍了一种适应数据广播环境的移动数据库客户机端Cache管理方案——列Cache,并探讨了一种改进的替换和预取策略——带锁的循环淘汰PIX算法,分析了其可行性,试验证明了这种方案的有效性。

多级缓存模式下的数据块替换优化算法

多数处理器中采用多级包含的cache存储层次,现有的末级cache块替换算法带来的性能开销较大。针对该问题,提出一种优化的末级cache块替换算法PLI,在选择丢弃块时考虑其在上级cache的访问频率,以较小的代价选出最优的LLC替换块。在时钟精确模拟器上的评测结果表明,该算法较原算法性能平均提升7%。

计算机高速缓冲存储器(Cache)命中率的分析

从Cache的容量、空间逻辑组织结构的组大小、块大小、数据的替换算法和写入Cache的数据地址流对Cache命中率的影响进行分析,选择合适的参数可提高Cache的命中率,有效地提高计算机的运算速度.

基于流水线的指令Cache设计技术

介绍了基于流水线技术的cache原理.并利用它的基本原理和技术,提出了设计指令cache关键技术和方法.