对基于目录的高速缓存一致性协议的改进

在多处理嚣系统中,高速缓存的一致性协议是很重要的。一般有监听总线协议和基于目录的协议两种。而基于目录的 协议又可以分为三类,各有一些缺点。本文提出了一个基于目录的高速缓存一致性协议的改进方案。

一种无目录的共享高速缓存一致性协议

针对使用目录记录各共享缓存块在各核心的私有备份信息的多核和众核并行系统共享高速缓存一致性协议因使用目录造成性能下降的问题进行了研究。研究发现,实际应用的多核和众核系统可以不存储共享缓存块的共享信息,因为多核和众核系统大都采用弱一致性协议,根据这种协议,某个核心的写操作不需要立即被其他核心观察到,可以延迟到下一个同步点观察到。基于这一发现,提出了一种不用记录共享信息的无目录的(DirectoryLess)共享高速缓存(Shared cache)一致性协议,简称DLS协议。该协议通过在同步点对不确定是否被其他核心更改的缓存块主动无效的方法,在不需要存储共享信息的目录的情况下来保证多核系统符合弱一致性。用并行程序测试集SPLASH-2对一个16核处理器进行了试验,试验结果表明,相比基于目录的MESI协议,DLS不仅可以完全消除目录及其电路面积,而且可平均提高11.08%的程序性能,减少28.83%的片上网络通讯,以及减少15.65%的功耗。而这一切,只需要改变处理器的设计,并不需要改变编程语言和编译器,因此,该协议无需更改或重新编译即可以兼容现有的代码。

面向非写分配高速缓存的一致性协议及实现

针对现有的高速缓存一致性协议应用在基于写回、非写分配缓存的多核处理器的缺点,提出一种新颖的基于写干涉的一致性协议,并加以硬件实现.采用写干涉协议,在处理器产生写缺失操作时,可以把数据直接写到系统中其他处理器有效的该高速缓存行中;支持"脏数据"的延迟回写和缓存间的数据拷贝;且系统中只要存在有效的被请求的缓存行就可以提供数据,避免不必要的共享存储器访问.实验结果表明,该文提出的写干涉协议与MOESI协议相比,显著减少了对共享存储器的访问,提高了整个系统性能,同时大幅降了低动态功耗.

多处理器高速缓存一致性分析与评价

在多处理器系统中,主存与各私有Cache之间存在数据不一致性,解决不一致的方法有硬件控制方法(监听总线协议、基于目录的Cache一致性协议)和软件控制方法,同时提出了软硬件相结合的方法以及三种死锁的处理机制,这样能更有效地解决Cache的一致性问题。

一种可动态配置的分布式内存池缓存一致性机制

在分布式内存系统中,缓存是减少远端内存访问开销的一种有效手段.然而,单一的缓存一致性保证机制往往不能高效适配不同类型负载的访存特性.为此,面向分布式异构内存池系统,设计了基于目录和基于广播相结合的混合缓存一致性保证机制.利用四象限矩阵分析方法,对每个数据对象进行访存模式的判定分析,并为其配置最高效的缓存一致性保证策略,并且可以根据对象访存特征的变化在2种策略之间动态切换.实验结果表明,相比使用单一的缓存一致性保证机制,采用可动态配置的混合缓存一致性保证机制可提升分布式异构内存池系统的读和写,性能平均达32.31%和31.20%.此外,混合的缓存一致性保证机制在客户端数量不断增加时仍然表现出良好的可扩展性.

基于目录的Cache一致性协议的可扩展性研究

基于CC-NUMA结构的DSM多处理器系统是大规模高性能并行计算机的一个实现方式,由于比监听协议具有更好的扩展性,系统多采用基于目录的Cache一致性协议。但是,随着系统规模的不断扩大,目录协议同样面临着可扩展性的问题。本文在分析影响目录协议可扩展性因素的基础上,对当前比较典型的几种目录组织形式从存储开销方面进行了讨论,最后提出了基于目录Cache的两级目录组织方案。

基于目录的一致性协议浅析

分布式共享存储体系结构是当今并行计算机的主要发展方向。在注重性能指标的多处理器系统中通常采用硬件手段解决高速缓存一 致性问题。高速缓存的一致性设计成为共享存储多处理器系统的关健技术。直接关系到系统的性能、正确性和可用性。该文介绍几种典型的 基于目录的一致性协议,并分析共享存储器多处理器系统中一致性协议的实现技术。

基于Simics的分布式一致性协议仿真

用于多种计算机系统和指令系统仿真的Virtutech Simics只提供一个简单的顺序扁平侦听式高速缓存一致性(Snoo-ping Cache Coherence Protocol)模型支持MESI协议,从而制约了可仿真的并行处理器个数。以下将基于目录的分布式高速缓存一致性协议(Distributed Directory-based Cache Coherence Protocol)模型应用于Simics中并给出基于Simics的分布式一致性协议的仿真结果。这一结果证实分布式协议能降低事件总数,减少网络中的事件。本文提出一个简单的基于目录的分布式高速缓存一致性协议,从而解决制约Simics的可扩放性问题。

基于节点预测的直接Cache一致性协议

处理器性能的提升依赖于对存储系统性能的挖掘．随着片上集成内核数量的不断增大和特征尺寸的持续缩小，延迟、存储可扩展的Cache一致性协议已经成为提升访存效率的关键性因素．文中提出一种基于节点预测的直接Cache一致性协议-NPP协议，研究一致性交互延迟隐藏和目录存储开销减少技术．针对读、写缺失中存在的间接性问题和现有解决方案破坏已有数据局部性、无法获得最近数据副本等问题，分别提出节点挂起技术和直接写缺失处理技术，有效隐藏了目录访问延迟．为了实现准确的节点预测，作者还提出基于“签名”回收的历史信息更新算法，避免了冗余更新和不完整更新．使用SPLASH-2测试程序集，在基于2DMESHNoC互联的64核CMP下，相对于全映射目录协议，NPP协议的平均执行时间降幅为21．78％～31．11％；平均读缺失延迟降低14．22％～18．9％；平均写缺失延迟降低17．89％～21．13％．而获得上述性能提升的代价是网络流量平均增加6．62％～7．28％．

基于总线侦听Cache一致性协议算法与实现

以共享总线的多处理机系统为例,本文介绍了在共享总线系统中用于解决Cache问题的侦听总线一致性协议,并基于总线侦听Cache一致性协议的优点和协议区分状态的原因,给出了一个评价协议好坏的角度:总线的流量和存储器访问的有效时间,最后给出了基于总线侦听Cache一致性协议算法与实现。

适用于多核环境的混合Cache一致性协议

提出一种适用于多核环境的混合Cache一致性协议。该协议采用混合值传播策略,引入小容量目录D-Cache,克服传统监听一致性协议发送数据请求时盲目广播的缺点,通过数据块状态的扩展,有效避免乒乓现象的发生。仿真实验结果表明,该协议能减少测试程序的运行时间,降低多核处理器私有L1 Cache的失效率,提高系统性能。

多处理器系统Cache一致性协议的探讨

高速缓存一致性协议用于解决多个高速缓存的不一致性问题。基于目录的协议用于网络连接的系统,监听协议用于 总线连接的系统。本文探讨了其中几种常见的协议。

一种基于流水化流应用的混合式高速缓存设计

针对多核流应用处理器中存在的缓存效率低下和一致性问题,提出了数据流应用的流水化分割处理方案,在此基础上提出了一种基于一级私有缓存和二级共有缓存的混合型缓存结构,并深入分析了该结构运行过程中的完整性和一致性问题.通过对常用的FIR、FFT等DSP算法的验证,该高速缓存结构以一定的面积开销将访问下级缓存的可能性降低30%左右,显著降低了流应用的运行时间.

多处理器系统缓存一致性的分析

并行处理系统是处理器发展的主要趋势。为了在访问时间上与高速的处理器相匹配,多处理器系统要使用高速缓存。文中介绍了多处理器的两种结构———集中式共享存储结构和分布式存储结构;阐述了多处理器的高速缓存一致性问题以及解决方法,着重讨论了监听协议和目录协议。监听协议又分为写无效协议和写更新协议,重点介绍了写更新协议。分析比较了写更新协议和目录协议中高速缓存块的状态及状态之间的转换。

一种应用于多路直连CMP的混合一致性协议

Cache一致性协议对系统性能和带宽需求具有重要影响,而当前广泛采用的广播协议带宽需求较高,目录协议访存延迟较大,均不适用于国产服务器CPU直连接口带宽较低及延迟较大的应用场景。针对上述问题,基于Token广播协议和目录协议,设计混合一致性协议,采用Simics结合GEM S搭建多路直连片上多核处理器仿真系统,通过运行SPLASH-2测试协议的相关性能。实验结果表明,混合协议的系统性能优于目录协议,与Token协议相比,混合协议以较小的性能代价,大幅降低片间通信带宽需求,且在带宽资源受限系统中具有更好的系统性能。

NoC目录协议能耗分析与建模研究

在MPSoC芯片设计中,能耗问题是一个关键因素,NoC(Network-on-Chip片上网络)的能耗占芯片总能耗的50%以上.文中首先对NoC应用层协议的能耗行为进行统一的数学描述,在此基础上,针对目前Cache一致性中常用的目录协议进行深入分析,提出一种基于位置概率分布的目录协议能耗模型,其考虑目录信息与数据块节点位置分布的无关性,定位数据块在NoC中的节点位置,计算任意节点间数据传输的概率矩阵,并结合路由单元能耗、连线能耗以及网络拓扑结构,准确获得目录协议中一次数据块传输的能耗.仿真实验表明,该文提出的模型在发包概率稳定的Mesh(网孔)网络中可有效计算出不同类型目录协议产生的能耗,且精度较高(误差小于2%),为下一步协议能耗优化研究提供可信的量化的评判依据.

自动信任协商中一种策略一致性管理方法

自动信任协商(ATN)是指通过暴露信任凭证与访问控制策略进行匹配以达到建立信任关系的目的。在开放的分布式环境中,策略一致性管理便于网络用户发现资源,并及时了解访问资源所需具备的条件。当前,自动信任协商中的策略一致性管理由资源方进行维护,这不利于资源被发现,限制了资源的共享,浪费了资源方宝贵的计算资源。针对这些问题,提出了一种有效的策略一致性管理方法。该方法设立可信第三方,使用LDAP协议集中管理资源方的访问控制策略,使用通用语言XML对策略进行描述,可有效检测与避免策略更新、删除等所带来的策略不一致问题。

基于访存局部性的一致性请求广播范围预测

目前广泛采用的广播协议带宽需求较高,目录协议访存延迟较大,不适用于国产服务器处理器片间直连接口带宽相对较低、延迟较高的应用场景。为此,基于片内目录、片间Token广播的双层异构混合一致性协议,应用访存局部性原理,对片间请求广播范围进行预测研究,提出一种HP-SRW协议。实验结果表明,与两级目录协议相比,该协议时间性能提高8.9%,带宽需求降低3.1%,与混合协议相比时间性能略有提升,带宽需求降低30.6%,与Token协议相比,HP-SRW协议以4.7%的时间性能为代价,带宽需求降低66.5%。

基于交叉开关互连的多核堆栈处理器架构设计

为满足堆栈处理器对于并行化程序应用的需求,提出一种多核堆栈处理器架构。在单核堆栈处理器的基础上,以交叉开关作为核间互连结构,通过对指令集、高速缓存器、一致性协议以及中断机制的设计,可在一个时钟周期内完成取指、译码、执行、核间数据传输和中断响应操作。在Xilinx FPGA芯片上进行单核、双核和四核堆栈处理器的实现,通过矩阵乘法计算进行性能实验验证,在100 MHz时钟频率的情况下,四核堆栈处理器的最大性能相当于单核堆栈处理器的3.99倍。实验结果表明,基于交叉开关互连的多核堆栈处理器架构可较好发挥多核堆栈处理器中每一个核心的性能。

全局数据目录的动态管理和维护

针对分布式并行数据库系统DPDBS中数据库副本数、数据库分布等信息的动态性,提出全局数据目录的动态管理和维护算法。该算法将数据目录一致性检查嵌入数据库执行过程中,通过改进两阶段提交协议和采用捎带、恢复和并行处理等技术,在低开销的情况下动态地保证了全局数据信息的一致性和实时性。