はじめに
1日1項目1時間学習の会
今回のテーマはキャッシュメモリの役割についてです。
キャッシュメモリとは
キャッシュメモリとは、CPUが頻繁にアクセスするデータや命令を一時的に保存しておく高速メモリのことです。
同じデータや命令を何度も利用する傾向があるため、それらをキャッシュメモリに一時的に保存し、CPUが素早くアクセスできるようにします。これにより、CPUがメインメモリに頻繁にアクセスすることを防ぎ、処理速度を向上させます。
L1, L2, L3キャッシュの違い
キャッシュメモリは階層構造になっており、次キャッシュ（L1）、2次キャッシュ（L2）、3次キャッシュ（L3）があり、それぞれ異なる速度・容量の特徴があります。
L1キャッシュ
- 場所: CPUコア内に存在
- 役割: 最も高速で、最初に参照されるキャッシュ
- 容量: 数十KB（例: 32KB～128KB程度）
- 速度: 非常に高速（CPUクロックに非常に近い速度で動作）
- 用途: 命令キャッシュ（Instruction Cache）とデータキャッシュ（Data Cache）に分かれ、よく使われる命令やデータを保持する
L2キャッシュ
- 場所: CPUコア内またはその近く
- 役割: L1キャッシュにないデータを提供
- 容量: 数百KB～数MB（例: 256KB～2MB程度）
- 速度: L1より遅いがメインメモリより高速
- 用途: CPUごとに独立して割り当てられ、L1キャッシュのミス（データが見つからなかった場合）時に利用
L3キャッシュ
- 場所: CPUのコア間で共有（マルチコアCPUの場合）
- 役割: 複数のコア間で共有され、L2キャッシュにないデータを提供
- 容量: 数MB～数十MB（例: 4MB～64MB程度）
- 速度: L2より遅いがメインメモリより高速
- 用途: コア間の協調とデータ共有を支援し、L2キャッシュのミスを補完
L2とL3はL1の補完的な役割
キャッシュメモリの利点と課題
利点
- CPUの処理待ち時間を短縮し、システム全体のパフォーマンス向上
- 同じデータの再利用を促進
課題
- キャッシュミス（キャッシュにデータがない状態）が発生すると、逆に遅延が大きくなる
- 容量が大きいほど遅くなるため、各レベルのキャッシュは容量と速度のバランスが必要
まとめ
キャッシュメモリは、高速アクセスが必要なデータや再計算コストの高いデータを保存するのに非常に有効です。
- 頻繁に利用されるが変化しにくいデータ（設定、SQL結果、APIレスポンス）
- 重い処理の結果（計算結果、予測データ）
- ユーザーの利便性を高めるデータ（セッション、入力内容）
参考