本記事は EC2 環境に基づいています。
DeepSeek の各モデルに必要な GPU、メモリ、および対応する AWS EC2 インスタンスのタイプについて説明します。
DeepSeek的各种模型
| モデル | パラメータ数 | GPU 映像メモリ | メモリ（システム） | 推奨 AWS EC2 インスタンス | GPU タイプ | vCPU | システムメモリ |
|---|---|---|---|---|---|---|---|
| DeepSeek-R1 小型モデル | 7B パラメータ | 6GB | 16GB | g4dn.xlarge | 1x NVIDIA T4 GPU（16GB） | 4 | 16GB |
| g5.xlarge | 1x NVIDIA A10G GPU（24GB） | 4 | 16GB | ||||
| DeepSeek-R1 中型モデル | 13B パラメータ | 12GB | 32GB | g5.2xlarge | 1x NVIDIA A10G GPU（24GB） | 8 | 32GB |
| p3.2xlarge | 1x NVIDIA V100 GPU（16GB） | 8 | 61GB | ||||
| DeepSeek-R1 大型モデル | 30B パラメータ | 20GB | 64GB | p3.8xlarge | 4x NVIDIA V100 GPU（16GB） | 32 | 244GB |
| p4d.24xlarge | 8x NVIDIA A100 GPU（40GB） | 96 | 1.1TB | ||||
| DeepSeek-V3 超大型モデル | 236B パラメータ | 80GB | 512GB | p4de.24xlarge | 8x NVIDIA A100 GPU（80GB） | 96 | 1.1TB |
| p5.48xlarge | 8x NVIDIA H100 GPU（80GB） | 96 | 1.1TB |
注意点
映像メモリの要件：DeepSeekの大規模モデル（30Bや236Bパラメータなど）では、複数のGPUを並列で使用する必要があります。もし単一のGPUで実行する場合、映像メモリが不足することがあり、モデルの分割処理を行うことが推奨されます。
メモリ：映像メモリだけでなく、システムメモリも重要です。特に大規模モデルを使用する場合は、64GB以上のシステムメモリが推奨されます。
EC2インスタンスの選定：大規模なモデルには、複数GPUを搭載したインスタンス（例えばp4dやp5シリーズ）が必要です。小規模モデルの場合、より経済的なインスタンス（例えばg4dnやg5シリーズ）が適しています。