操作して学ぶ

AMAT計算機 — ヒット率から期待レイテンシを求める

AMAT = ヒット時間 + ミス率 × 下位層のAMAT。 キャッシュのヒット率を1〜2ポイント動かすだけで、体感する速さが劇的に変わることがあります。 L1/L2/L3/DRAMのようなCPUキャッシュ階層から、ページキャッシュやRedis等のアプリケーションキャッシュまで、 ヒット率をスライダーで動かして期待レイテンシの非線形な変化を確かめられます。

ここが分かる

  • ヒット率が高い領域(99%→95%など)ほど、わずかな低下がAMATを大きく押し上げる。低い領域よりも高い領域での劣化の方が体感に効く。
  • 下位層が桁違いに遅いほど(DRAM→SSD、SSD→HDDなど)、同じヒット率の低下でもAMATへの影響は跳ね上がる。
  • 「ヒット率99%」と聞くと十分に見えても、下位層が10万倍遅ければミスの1%がAMATの大半を占めることがある。