自己紹介

社長！2025年12月ですぞー！
(去年のパクり)

m10i と申します。

ネットワーク(バックボーン設計・構築・運用)
IP電話
それらに関わるLinuxサーバ(構築・運用)
サイバーセキュリティ

の業務を社内で転々としております。

今回は GPUクラウドってどうなの？ってお話です。

ではやっていきましょう💪

そしてこんなリポジトリ(コンテナイメージ)を管理してます

こちらは有名な画像生成AIのWebUI「ComfyUI」をRunpodの
コンテナで動かそうとする為のデータです。

じゃ、こちらは自宅のパソコンスペックはどうなの？となりますが

OS : Windows11 Pro 25H2
Linux OS : Fedora Linux 44
CPU : AMD Ryzen 7 9700X
Memory : DDR5 64GB
Storage : M.2 SSD(Gen4) 1TB x2
GPU : NVIDIA GeForce GTX 1060 6GB

GPUが...GPUのスペックだけが弱すぎる...
ゲームがしたいわけではないので、GPUだけ貧弱になってしまいました

でも生成AIを触ってみたい！！！
と、こうしてRTX4090スペックのGPUが触れるクラウドを探してました...

そして見つけた Runpod

早速ではありますが、様々なレビューを見た所、
比較的安価で従量課金できる Runpod GPU Cloud を選択してみました。

このQiita記事は無料ですが、
Runpodで動かすにはクレジット購入が必須です。
(現状無料体験は無し)

アカウント登録後、Billing ページの Other ボタンを押して最小 $10 から課金できます。

私は $30(約5000円)払ってテストしました。
~~おのれ円安~~

同ページに Auto-Pay 設定もありますので、
石油王ではない限りOFFにしておきましょう...

(この機能が必要な状況でしたら、GPU買ったほうが安いです)

Pod を作ろう (Deploay a Pod)

Pod では利用するシーンに合わせて様々なGPUを選ぶことが出来ます
もちろん、GPUのグレードに応じて 1時間当たりのクレジット料金は変わります。

今回ComfyUI利用として試しにRTX4090(1世代前のコンシューマ最上位グレードGPU)を選びました
$0.59/hrが標準の1時間当たりの従量課金です
$0.50/hrは1年間の前払いをした際の課金額となります
(年間 $4380 -> 66万円くらい)

GPUを選択するとそのままデプロイ設定が表示されます

Pod Name
任意のPod名がつけられます(後でも変更可能です)
Pod Template
Podで起動するコンテナイメージを選択します
プリセットでJupyter Notebook, ComfyUIといった各種イメージも配備されてますが、
私は自前のイメージを動かしたかったので「Edit」ボタンから変更しました

Container Image
AWS ECRに保管している自前のコンテナイメージURLです
(この記事を書いてるときは利用可能な状態にしておきます)
Container Disk
Container Disk領域はPodを停止するとファイルが削除される仕様です
最初はコンテナイメージがおかれる領域かな？と思ってたのですが
違いまして、正直5GBも要らないDisk領域です...(最小で5GB以上しか設定できない)
コンテナが起動中の間に発生した「/workspace」以外のディレクトリに置かれたファイルとなります
Volume Disk
Volume DiskはPodが停止した際にもファイルを維持するためのDiski領域となります
そのため必要なファイル(主に生成AIで利用するモデル)といったファイルはここに置くのが望ましいです
Volume Mount Path
上記のVolume Diskがマウントされるディレクトリになります
Expose HTTP Ports
外部にHTTPプロトコル(実際はHTTPSプロキシ経由にしてくれる)として公開するTCPポートを記載します
ここでは 8188=ComfyUI, 8888=生成された画像ビューワーサーバ　を指定してます

Set Overridesをして設定保存後、
Deply On-Demand をクリックするとコンテナが起動します。
コンテナイメージが大きい場合は其れなりのダウンロード&展開時間が掛かりますので、
のんびり待ちましょう。

無事に起動(しない...?!)

どうやらリージョンもしくはサーバハードウェアによって
"CUDA"のバージョンが異なる為コンテナから認識しないことが多々あります

こうなったらもうお手上げなので PodをStopしてからTerminateしてPod削除してください...

なお、StopしたPodを起動すれば良いじゃん？と思うかもしれないですが
一度デプロイされたPodがほかのサーバに移ることは"ほぼ"ない、
それどころかRunpodは日々GPUリソースが枯渇しており
GPUが無いCPUのみコンテナ(結局CUDA使えない)で起動します...

どうやら新規Podデプロイ時は優先的にGPUを割り当ててくれる仕様なのですが
一度停止したPodはなかなかGPUリソースが回ってきません...

起動したPodで遊ぶGPUリソースは最高！

RTX4090は良いぞ
~~買いたい~~

ComfyUIは少々とっつきにくい画像生成WebUIですが、
慣れると面白いイラストが大量生産できます
(ここではComfyUIの詳細は割愛します)

なお、アクセスできるHTTPS URLは特にIPアドレス制限などできないため、
不特定多数の人に公開するのは注意しましょう

皆さんもGPUリソースが足りない時の手段として
Runpodを活用してみてはいかがでしょうか？

お知らせ

こちらの記事はctc Advent Calendar 2025の記事となります
この後もctc(中部テレコミュニケーション株式会社)のメンバーが技術にまつわる知見を投稿していきますのでご期待ください