自己紹介
社長！2025年12月ですぞー！
(去年のパクり)
m10i と申します。
- ネットワーク(バックボーン設計・構築・運用)
- IP電話
- それらに関わるLinuxサーバ(構築・運用)
- サイバーセキュリティ
の業務を社内で転々としております。
今回は GPUクラウドってどうなの？ってお話です。
ではやっていきましょう💪
そしてこんなリポジトリ(コンテナイメージ)を管理してます
こちらは有名な画像生成AIのWebUI「ComfyUI」をRunpodの
コンテナで動かそうとする為のデータです。
じゃ、こちらは自宅のパソコンスペックはどうなの？となりますが
OS : Windows11 Pro 25H2
Linux OS : Fedora Linux 44
CPU : AMD Ryzen 7 9700X
Memory : DDR5 64GB
Storage : M.2 SSD(Gen4) 1TB x2
GPU : NVIDIA GeForce GTX 1060 6GB
GPUが...GPUのスペックだけが弱すぎる...
ゲームがしたいわけではないので、GPUだけ貧弱になってしまいました
でも生成AIを触ってみたい！！！
と、こうしてRTX4090スペックのGPUが触れるクラウドを探してました...
そして見つけた Runpod
早速ではありますが、様々なレビューを見た所、
比較的安価で従量課金できる Runpod GPU Cloud を選択してみました。
このQiita記事は無料ですが、
Runpodで動かすにはクレジット購入が必須です。
(現状無料体験は無し)
アカウント登録後、Billing ページの Other ボタンを押して 最小 $10 から課金できます。
私は $30(約5000円)払ってテストしました。
おのれ円安
同ページに Auto-Pay 設定もありますので、
石油王ではない限りOFFにしておきましょう...
(この機能が必要な状況でしたら、GPU買ったほうが安いです)
Pod を作ろう (Deploay a Pod)
Pod では利用するシーンに合わせて様々なGPUを選ぶことが出来ます
もちろん、GPUのグレードに応じて 1時間当たりのクレジット料金は変わります。
今回ComfyUI利用として試しにRTX4090(1世代前のコンシューマ最上位グレードGPU)を選びました
$0.59/hrが標準の1時間当たりの従量課金です
$0.50/hrは1年間の前払いをした際の課金額となります
(年間 $4380 -> 66万円くらい)
GPUを選択するとそのままデプロイ設定が表示されます
- Pod Name
任意のPod名がつけられます(後でも変更可能です) - Pod Template
Podで起動するコンテナイメージを選択します
プリセットでJupyter Notebook, ComfyUIといった各種イメージも配備されてますが、
私は自前のイメージを動かしたかったので「Edit」ボタンから変更しました
- Container Image
AWS ECRに保管している自前のコンテナイメージURLです
(この記事を書いてるときは利用可能な状態にしておきます) - Container Disk
Container Disk領域はPodを停止するとファイルが削除される仕様です
最初はコンテナイメージがおかれる領域かな？と思ってたのですが
違いまして、正直5GBも要らないDisk領域です...(最小で5GB以上しか設定できない)
コンテナが起動中の間に発生した「/workspace」以外のディレクトリに置かれたファイルとなります - Volume Disk
Volume DiskはPodが停止した際にもファイルを維持するためのDiski領域となります
そのため必要なファイル(主に生成AIで利用するモデル)といったファイルはここに置くのが望ましいです - Volume Mount Path
上記のVolume Diskがマウントされるディレクトリになります - Expose HTTP Ports
外部にHTTPプロトコル(実際はHTTPSプロキシ経由にしてくれる)として公開するTCPポートを記載します
ここでは 8188=ComfyUI, 8888=生成された画像ビューワーサーバ を指定してます
Set Overridesをして設定保存後、
Deply On-Demand をクリックするとコンテナが起動します。
コンテナイメージが大きい場合は其れなりのダウンロード&展開時間が掛かりますので、
のんびり待ちましょう。
無事に起動(しない...?!)
どうやらリージョンもしくはサーバハードウェアによって
"CUDA"のバージョンが異なる為コンテナから認識しないことが多々あります
こうなったらもうお手上げなので PodをStopしてからTerminateしてPod削除してください...
なお、StopしたPodを起動すれば良いじゃん？と思うかもしれないですが
一度デプロイされたPodがほかのサーバに移ることは"ほぼ"ない、
それどころかRunpodは日々GPUリソースが枯渇しており
GPUが無いCPUのみコンテナ(結局CUDA使えない)で起動します... 
- どうやら新規Podデプロイ時は優先的にGPUを割り当ててくれる仕様なのですが
一度停止したPodはなかなかGPUリソースが回ってきません...
起動したPodで遊ぶGPUリソースは最高！
RTX4090は良いぞ
買いたい
ComfyUIは少々とっつきにくい画像生成WebUIですが、
慣れると面白いイラストが大量生産できます
(ここではComfyUIの詳細は割愛します)
なお、アクセスできるHTTPS URLは特にIPアドレス制限などできないため、
不特定多数の人に公開するのは注意しましょう
皆さんもGPUリソースが足りない時の手段として
Runpodを活用してみてはいかがでしょうか？
お知らせ
こちらの記事はctc Advent Calendar 2025の記事となります
この後もctc(中部テレコミュニケーション株式会社)のメンバーが技術にまつわる知見を投稿していきますのでご期待ください