《缓存命中率与车氏近似、排盘结果缓存容量的最优边界母典》各章定量结论
按次计算的服务经营者普遍相信,缓存容量翻倍,命中率也会跟着翻倍。本书用标准库程序推翻这条直觉:在齐普夫请求下,最近最少使用(LRU)缓存的命中率随容量增长得很慢,示意参数下容量放大一百二十八倍,命中率只放大 6.80 倍;而车氏近似只凭请求概率与容量,就能事先算出 LRU 命中率,与逐条模拟的最大差距为 0.0013。核对出处后,本书作蓝图修正:车皓、董烨与王志军 2002 年的论文主题是分层缓存,特征时间是其建模技术;「命中率随容量缓慢增长」的直接出处是布雷斯劳等人 1999 年的研究;近似为何准确,引费金 1977 年与弗里克等人 2012 年的论证。书中参数为示意;全部计算由书中程序生成;本书给出只读的容量建议,不访问任何服务器、不写任何配置;「排盘」仅作一种计算结果的名称,不做任何命理推断;属于非个人化经营建议。
DOI 待发布 · 专著页正式发布后上线(本站暂无专著页) · 5DL-B-327 · English version
- 第 1 章 · 翻倍的错觉:齐普夫请求下的命中率曲线
四个容量下,模拟命中率分别是 0.1380、0.2624、0.4496 与 0.7374,车氏近似给出的是 0.1373、0.2613、0.4483 与 0.7367,差距分别是 -0.0007、-0.0010、-0.0013 与 -0.0007,最大的绝对差距只有 0.0013。车氏近似没有任何从模拟里拟合出来的参数,它只用了请求概率和容量两样输入。对一个容量规划问题来说,这样的误差已经远小于请求概率本身的估计误差:第八章会看到,单… - 第 2 章 · 特征时间:车氏近似的二分求解与精度
三个容量下,车氏近似都落在区间之内。容量二百五十时,模拟均值是 0.1930,区间是从 0.1921 到 0.1940,车氏近似给出 0.1931;容量一千时,均值 0.3448,区间从 0.3428 到 0.3468,近似值 0.3450;容量四千时,均值 0.5769,区间从 0.5749 到 0.5789,近似值 0.5767。批与批之间的标准差在 0.0012 到 0.0024 之间,这说明即使在完全稳定的请求下,一天几万次请… - 第 3 章 · 贝拉迪下界:最优替换、静态上界与 LRU 的容量代价
第三章以贝拉迪最优替换为下界、静态前 C 名为上界,算出 LRU 为不知道流行度要多付 4.48 倍槽位。 - 第 4 章 · 边际收益:容量与命中率曲线的斜率和成本最优边界
第四章由斜率与成本求出最优容量,示意参数下为 4187 个槽位、占目录 0.2094,且最优点附近成本平坦。 - 第 5 章 · 非平稳请求:流行度漂移、冻结名单与冷启动
第五章说明流行度漂移时稳态近似只会高估,快速换人可使命中率从 0.4483 跌到 0.3488,冻结名单迅速老化,清空后的回填按特征时间计时。 - 第 6 章 · 分片与分层:同样的槽位,不同的摆法
再看车氏近似一栏。前一级的命中率 0.1931、0.2613、0.3450、0.4027,与单一缓存在同样容量下的值完全一致,这一级没有问题。问题出在后一级:两级合计的近似值是 0.4319、0.4190、0.4177 与 0.4309,比模拟值系统地偏高,对半分时偏高约六个百分点。原因在于,第一级的缺失流并不是独立引用:一个对象刚刚在第一级缺失,它就被放进了第一级,接下来一段时间里它的请求都会在第一级命中,不会再到达第二级;也就是说… - 第 7 章 · 东西方原典考辨:《礼记·王制》的九年之蓄与贝拉迪的最优替换
第七章考辨《礼记·王制》「国无九年之蓄曰不足」与贝拉迪 1966 年的最优替换,用储粮模型显示损耗率决定九年之蓄能否达到,并以穷举证实最优替换。 - 第 8 章 · 实证闭环:收费站排盘结果缓存的只读容量规划
第八章给出收费站排盘结果缓存的只读规划流程、蒸馏小工具「缓存命中率估算器」与预注册检验方案,特征时间达 9.58 天的容量须标出漂移提示。书中以标注框区分已发表的证据、可运行的 Python 计算(22 段程序)、原典与作者的假说。
模型示意算例,非实时报价