延迟命中场景下基于学习方法的缓存性能优化

传统的缓存算法大多基于简单的统计信息进行内容替换,在绝大部分场景下都和离线最优算法有着较大的性能差距。当前基于机器学习来设计高效的缓存策略基本都假设请求的大小相等,忽略了真实场景中请求的大小往往不等且大小变化的范围较大。由于传输速度已接近极限,但网络的吞吐量依旧在持续增长,延迟命中这一因素表现得更加突出。延迟命中下的命中率和传统算法中的命中率并不等价。本文同时考虑请求大小不等和延迟命中两个因素,提出ARC-learning+算法,研究内容主要包括:(1)对请求内容变大小场景,分析了缓存内容大小对于缓存性能的影响,并提出基于概率准入策略的ARC-learning+算法。在真实数据集上实验结果表明,在请求内容变大小场景下,修改后的缓存替换策略非常接近已有算法的最优内容命中率。(2)对延迟命中场景,ARC-learning+算法采用的排序函数综合考虑请求缺失所消耗的时延和请求的流行度等因素。实验结果表明,ARC-learning+算法在流行度变化较快情况下的时延提升明显优于已有的其他缓存算法。在其他流行度变化情况下也非常接近已有算法的最优时延性能。