re.Invent 2023 の、「Reserve GPU capacity with Amazon EC2 Capacity Blocks for ML」というセッションを受けたので、まとめておきます。(英語のリスニングが得意ではないので間違った解釈が入っているかもしれません。都度修正します)
Capacity Blocks とは
Capacity Blocksは、機械学習(ML)ワークロードに特化したリソース予約システムで、高性能なGPUインスタンスを将来の特定の日に予約して、機械学習(ML)作業に利用することができます。↓の赤枠が今回追加されたやつですね。
コンソール↓(リージョンはオハイオだけ??そう言ってた気がする・・・)
何がいいのか
必要な時間分の料金のみを支払うので、基本的にはコスト削減になります。
従来の予約オプション(オンデマンドキャパシティー予約 + Savings Plans)で余分となっていたキャパシティーや、どのくらいコストが削減されるのか見せてくれました。
従来のキャパシティー
Capacity Blocks(必要な時間分の料金のみを支払う)
コストの比較
予約したキャパシティーを使う期間が長ければ(100%に近ければ)Capacity Blocksの方が高くなりますが、そうでない場合に削減できています。
操作してみた
リージョンをオハイオ
にする。
EC2のコンソールを開き、サイドメニューからキャパシティーの予約
をクリック。
必要な情報は以下。
- 予約するインスタンス数
- 継続時間(購入したい期間)
- 日付(いつからいつまで)
キャパシティブロックを検索
を押すと、前払い料金が確認できます。次へ
タグは今回は何も設定しません。次へ
確認画面で購入
を押すと、予約が完了します。