More than 1 year has passed since last update.

主記憶装置と高速化手法

Last updated at 2022-09-22Posted at 2022-07-25

レジスタとメモリとハードディスクの間には超えられない速度の差がある。
そのギャップを緩和するために２つの間に設けるキャッシュメモリとディスクキャッシュがある。

キャッシュメモリ

CPUとメモリの読み書き速度の差は非常に違う。
CPUが読み書きしてメモリに渡そうとすると違う処理をしていて待ち時間が発生する。
その待ち時間を無くすために高速に読み書きできるメモリを置く。
それがキャッシュメモリだ。
特徴は

このキャッシュは一つだけでは無い。

１次キャッシュ、2次キャッシュ...と重ねて設置することができる。
１次キャッシュにデータがない場合２次キャッシュへアクセスされる。

CPUよりも低速だけどその分容量を大きく持てるものが増えることでキャッシュ効果に期待が持てる。

また主記憶装置と磁気ディスク装置の間で担うのがディスクキャッシュだ。
ディスクキャッシュは専用の半導体メモリを搭載したり、主記憶装置の一部を間借りすることで実装している。

記憶装置は階層構造になっている。
上から

これが階層構造で組み合わさることで見かけ上は高速で大容量な記憶装置を実現させている。
これを記憶階層と言う。
上に行くほど高速、逆は低速
高速なものほど高価なので容量は限られている。

全部高速のものにしたら高価すぎるのか。
単価とはそう言うことか。
高速なものは高価なのか。

キャッシュメモリは読み出し専門ではない。書き込みも行う。そしてそこで書き込んで終了とはならない。
なので主記憶装置にも反映させなくてはいけない。
その反映方式の紹介だ。

主記憶装置へも同時に書き込みを行う。

普段はキャッシュメモリにしか書き込まない。
キャッシュメモリから追い出されるデータが発生した場合に、その内容を主記憶装置へと書き戻して更新内容を反映させる。
普段の書き込み処理が高速化できるのは良いのですが、制御が大変だ。

ライトバックの説明で制御が大変と書いてあった。
今までの勉強の内容で説明できるのだろうか。
どうして制御が大変かをしっかり言えるようにしたい。

キャッシュメモリはメモリに比べて容量が小さい。なので必ずしも目的のデータがキャッシュメモリに存在するかわからない。
目的のデータが存在する確立はヒット率と言う。
キャッシュメモrになくて、主記憶装置を読みに行く確率は1-ヒット率になる。

キャッシュメモリのアクセス時間 * ヒット率

主記憶装置のアクセス時間 * (1-ヒット率)

これらを足し合わせて平均的なアクセス時間（実行アクセス時間)が求まる。

主記憶装置へのアクセスを高速化する手法。
主記憶装置の中の複数の区画(バンク)に分割します。
区画はそれぞれ並行してアクセスできるのが特徴です。
分割した区画は横断するように番地を振り分けられています。 連続した番地のデータを一気に読み出すことができる。

命令処理に必要なデータがキャッシュメモリに存在せず、キャッシュメモリからデータを読み込むことができないことです。

キャッシュメモリはメインメモリに比べると容量が小さいため、多くのデータを保存しておくことができません。そのため、CPUがキャッシュメモリを検索しても、必要なデータが存在しない場合があります。この場合をキャッシュミスといいます。

キャッシュミスの場合、命令処理に必要なデータをメインメモリ等に探しに行きます。メインメモリはCPUからの距離が遠いので、アクセスに時間がかかります。その間、命令処理はメモリアクセス待ちとなり、処理の実行が滞ります。