はじめに
先日、LLMとComfyUIをつなぎ、チャットでのプロンプト作成や、画像を見ながら好みを探せるアプリ「SceneLab」を公開しました。
作って使う中で気になったのが、LLMと画像生成を同じGPUで動かしたときの待ち時間です。
どのくらいのサイズのLLMまでなら、画像生成の速度に影響せず一緒に動かせるのか。大きなLLMを使う場合は、画像生成の前にアンロードしたほうがよいのか。解放すると画像生成は速くなっても、次にLLMを使うときのロードで待たされないか。
今回は、自分の環境であるRTX 5090(VRAM 32GB)搭載PCで、LLMのモデルとアンロード設定を変えて待ち時間を測定しました。SceneLabの処理を使っていますが、LLMと画像生成で同じGPUを併用している方にも、設定を選ぶ目安になればと思います。
結論から言うと、LLMが軽量な4B・9Bでは「両方VRAMに残す設定」、大きい27Bでは「画像生成前にLLMを解放する設定」、さらに巨大なMoEモデルでは「StrataのElastic(部分退避)」 が最も待ち時間を抑えられました。
何を測ったか
処理の流れは次のとおりです。
- 1回のLLM呼び出しで、画像生成用の案を8件まとめて作らせる
- 返されたプロンプトで、ComfyUIから画像を8枚、1枚ずつ連続生成する
LLMへの指示
単純な翻訳だけでなく、複数の条件を扱いながら決まった形式で出力できるかを見るため、SceneLabの「ひらめきモード」という処理を使いました。
「雨上がりの街での不思議な出会い」というテーマに対して、用意した材料を組み合わせたり連想を広げたりしながら、画像生成用の案を8件作るよう指示し、タイトル・使用要素・画像生成用プロンプトなどを決まったJSON形式で返してもらいます。比較しやすいよう、材料や指示はすべてそろえました。
必要な形式で8案が返れば成功とし、不備があった場合は成功するまで再試行しました(※今回は処理の安定性と速度の測定が目的のため、アイデアや画像のクオリティは採点していません)。
測定環境
- GPU:NVIDIA GeForce RTX 5090、VRAM 32GB
- CPU:Intel Core Ultra 7 270K Plus
- メインメモリ:64GB
- OS:Windows
- ComfyUI:0.43.0(Stability Matrixから実行)
- LM Studio:Bionic 1.2.0(ビルド2)
- Strata:実行エンジン0.1.50(CUDA 13.0)
- Python:3.12.14(ComfyUI側)
- PyTorch:2.14.1+cu130
LLM
| モデル | パラメーター数 | 量子化 | ファイル容量 | 実行環境 | 思考設定 |
|---|---|---|---|---|---|
| Qwen3.5 4B | 4B | Q4_K_M | 約2.7GB | LM Studio | ON |
| Qwen3.5 9B | 9B | Q4_K_M | 約5.6GB | LM Studio | ON |
| Qwen3.8 27B | 27B | Q4_K_M | 約16.8GB | LM Studio | xhigh |
| Qwen3.8-Flash-Next | 125B+埋め込み51B | IQ2_XS | 約68.0GB | Strata | High |
| Qwen3.8-Flash-Next | 125B+埋め込み51B | IQ3_S | 約83.6GB | Strata | High |
| Swift 1.5(Qwen3.8-Flash-Next派生) | 125B+埋め込み51B | IQ3_S | 約83.7GB | Strata | High |
コンテキスト長はすべて64Kです。Flash-NextとSwift 1.5は、Strataのセットアップで導入したGSQ-RCO版を使用しました。
※各モデルのファイル容量は手元のファイルを確認した値です(コンテキスト長やKVキャッシュなどの影響を受けるため、実際のVRAM使用量とは異なります)。
画像生成
- モデル:Qwen-Image-2.1-Turbo(画像生成部分は7B、INT8版のファイル容量は約7.3GB)
- 解像度:1024×1024
- ステップ数:8 / CFG:1.0
- Sampler:euler / Scheduler:simple
- Seed:20261110で固定
使用ファイルの合計容量は約17.3GBです。
画像モデル:qwen_image_2.1_turbo_int8_convrot.safetensors(約7.3GB)
テキストエンコーダー:qwen3vl_8b_int8_convrot.safetensors(約9.4GB)
VAE:qwen_image_2.1_vae_bf16.safetensors(約0.7GB)
アンロード設定と測定手順
LLMと画像モデルを両方VRAMに残すと、次の処理で再ロードを省けます。一方、VRAMに余裕がなくなると、メモリとVRAM間のデータ転送やスワップによって処理が遅くなる可能性があります。
そこで、以下の組み合わせを比較しました。
- LLM:解放OFF(VRAMに保持)/ 解放ON(アンロード)
- ComfyUI:解放OFF(VRAMに保持)/ 解放ON(/free APIでVRAM解放)
Strataでは、LLMを完全にアンロードする方法に加え、MoEモデルの一部(エキスパート)をメインメモリへ退避させてVRAM使用量を縮める「Elastic」も測定しました(今回の空きVRAM目標は16,000MiBに設定)。
各条件で、ウォームアップから本測定までの流れを5回ずつ繰り返しています。
- ウォームアップ:チャットで「レトロな喫茶店を描いて」と依頼し、LLMを実行して画像を1枚生成する
- 本測定:LLMで8案を作り、画像8枚を連続生成する
LLMの解放ONは、プロンプト作成後(画像生成を始める前)に行います。ComfyUIの解放ONは、ウォームアップの1枚を生成した後と、本測定の8枚をすべて生成した後に行います(8枚生成の途中では解放しません)。
※ウォームアップの時間は表に含めていません。アンロードONの場合、次に使うときの再ロード時間は測定に含まれます。また、Flash-Next IQ2_XSは「OFF・Elastic」、IQ3_Sは「OFF・完全アンロード・Elastic」、Swift 1.5 IQ3_Sは「OFF・Elastic」の条件で測定しました。
測定結果
表の読み方
時間の単位は秒で、各条件5回の中央値です。
- LLM:初回の応答を受け取って解析するまでの時間(初回が出力失敗でも、その応答時間を採用)。
- 画像8枚:画像生成の開始から8枚を取得・保存するまでの時間(LLMの解放・Elastic縮小の時間は除く)。
- 合計:初回LLM時間+画像8枚の処理+LLMの解放+最後のComfyUI解放(再試行の時間は含めない)。
※再試行の時間は含めていないため、後述の「初回成功数」も合わせてご覧ください。また、各列がそれぞれの中央値であるため、「LLM+画像8枚」の単純な足し算と「合計」の数値は少しずれることがあります。
Qwen3.5 4B(LM Studio)
| LLM解放 | ComfyUI解放 | LLM | 画像8枚 | 合計 |
|---|---|---|---|---|
| OFF | OFF | 29.6 | 17.5 | 49.4 |
| OFF | ON | 33.3 | 20.6 | 54.2 |
| ON | OFF | 34.0 | 17.4 | 53.5 |
| ON | ON | 32.6 | 20.4 | 54.4 |
Qwen3.5 9B(LM Studio)
| LLM解放 | ComfyUI解放 | LLM | 画像8枚 | 合計 |
|---|---|---|---|---|
| OFF | OFF | 31.8 | 17.6 | 49.3 |
| OFF | ON | 46.6 | 19.6 | 66.6 |
| ON | OFF | 47.9 | 19.8 | 68.1 |
| ON | ON | 49.2 | 21.4 | 73.3 |
Qwen3.8 27B(LM Studio)
| LLM解放 | ComfyUI解放 | LLM | 画像8枚 | 合計 |
|---|---|---|---|---|
| OFF | OFF | 74.6 | 34.3 | 108.9 |
| OFF | ON | 71.4 | 35.0 | 106.2 |
| ON | OFF | 70.6 | 20.5 | 93.2 |
| ON | ON | 76.5 | 21.6 | 100.6 |
Qwen3.8-Flash-Next IQ2_XS(Strata)
| LLM解放 | ComfyUI解放 | LLM | 画像8枚 | 合計 |
|---|---|---|---|---|
| OFF | OFF | 34.8 | 25.3 | 69.5 |
| OFF | ON | 36.8 | 31.4 | 79.5 |
| Elastic | OFF | 33.0 | 18.3 | 51.3 |
| Elastic | ON | 33.9 | 26.3 | 62.5 |
Qwen3.8-Flash-Next IQ3_S(Strata)
| LLM解放 | ComfyUI解放 | LLM | 画像8枚 | 合計 |
|---|---|---|---|---|
| OFF | OFF | 33.3 | 177.1 | 210.0 |
| OFF | ON | 40.1 | 139.2 | 180.1 |
| 完全アンロード | OFF | 133.7 | 29.6 | 169.8 |
| 完全アンロード | ON | 81.0 | 27.8 | 113.2 |
| Elastic | OFF | 38.2 | 27.6 | 66.1 |
| Elastic | ON | 30.3 | 27.8 | 58.9 |
Swift 1.5 IQ3_S(Strata)
| LLM解放 | ComfyUI解放 | LLM | 画像8枚 | 合計 |
|---|---|---|---|---|
| OFF | OFF | 28.2 | 117.5 | 144.1 |
| OFF | ON | 27.6 | 113.9 | 141.9 |
| Elastic | OFF | 42.0 | 36.8 | 80.9 |
| Elastic | ON | 27.2 | 26.8 | 55.5 |
初回で8案を返せたか
| モデル | 初回成功 | 失敗回数(タイムアウト含む) |
|---|---|---|
| Qwen3.5 4B | 14 / 20 | 7 |
| Qwen3.5 9B | 19 / 20 | 1 |
| Qwen3.8 27B | 20 / 20 | 0 |
| Flash-Next IQ2_XS | 20 / 20 | 0 |
| Flash-Next IQ3_S | 30 / 30 | 0 |
| Swift 1.5 IQ3_S | 20 / 20 | 0 |
失敗回数は再試行中の失敗も含めた合計です。4Bは出力不備(指定の8件ではなく9案・11案を返す、JSON形式が崩れるなど)が6回、タイムアウトが1回でした。
結果から分かったこと
1. 軽量モデル(4B・9B)は「両方残し」が最速
4Bと9Bでは、LLM・ComfyUIともに解放OFFにした設定で、画像8枚の生成時間が約17.5〜17.6秒でした。VRAM 32GB環境と今回の画像モデルの組み合わせであれば、毎回LLMを解放する必要性は低そうです。
なお、4Bは今回のような「8案を一括でJSON出力する」タスクでは再試行が目立ちましたが、短い会話や単純なプロンプト作成であれば、軽量モデルでも十分実用的です。
2. 27Bクラスは「画像生成前のLLM解放」が効く
27Bになると、両方OFFのままだとVRAMが逼迫し、画像8枚の生成に約34.3秒かかります。ここでComfyUI解放OFFのままLLM解放をONにすると、画像8枚が約20.5秒まで短縮され、再ロードを含めた合計時間も約108.9秒から約93.2秒へ縮みました。
27Bクラスのモデルを使う場合は、画像生成側にVRAMを譲るメリットがはっきり出ます。
3. 100B超のMoE(Strata)は「Elastic」が圧倒的に有利
ファイル容量が68GB〜83GB超のMoEモデルでは、設定による差が最も顕著でした。
- Flash-Next IQ2_XS:「Elastic + ComfyUI解放OFF」が合計約51.3秒で最速でした(解放OFFの約69.5秒と比べ、画像8枚も25.3秒→18.3秒に短縮)。
- Flash-Next IQ3_S:LLMを残したままだと画像8枚に約139〜177秒もかかります。完全アンロードすれば画像生成は約27.8秒まで速くなりますが、次のLLM呼び出し時の再ロードが重く(81〜133秒)、合計は約113.2〜169.8秒かかります。一方、Elasticを使えば画像8枚が約27.8秒、合計も約58.9秒と、完全アンロードの半分近くまで短縮できました。
- Swift 1.5 IQ3_S:こちらも同様に、「Elastic + ComfyUI解放ON」で合計約55.5秒と最短を記録しました。
測定したElasticの縮小処理そのものは、どのモデルでも中央値で0.1秒未満でした(縮小後の復元処理は、次のLLM応答時間側に含まれます)。
Elasticを使う際の注意点(メインメモリ容量)
Strataの起動時にメインメモリ(RAM)の空きが少ないと、resident low-RAMモードに入り、Elasticを利用できなくなります。このモードはエキスパートをVRAMとRAMに分けて保持することでRAM消費を抑える仕組み上、VRAM側のデータをRAMに重複して持たないため、ElasticでVRAMだけを解放することができません。今回はRAM 64GB環境で検証しましたが、RAM容量には余裕を持たせておく必要があります。
4. 用途別の使い分け(1枚生成 vs 連続生成)
今回の検証は「8枚連続生成」でしたが、普段の使い方によって最適解は変わります。
- 1枚ずつ対話しながら作る場合:1枚生成するたびにLLMへ戻る使い方では、毎回のアンロードと再ロードが待ち時間につながります。画像生成が多少遅くなっても、LLMをVRAMに残して切り替えの負担を減らしたほうが、体感では快適に使えるケースが多そうです。
- 今回のようにまとめて連続生成する場合:最初にLLMを解放(またはElastic縮小)して画像生成側のVRAMを空けるメリットが大きく、トータルの待ち時間を大幅に減らせます。
設定選びの目安(測定の注意点)
LLMの処理時間は「思考(Thinking)の長さ」によって毎回かなりばらつきが出ます。例えば9B・両方解放OFFでも、実際は約7.5〜48.9秒の幅がありました。
数秒の差はプロンプトや思考量によって毎回変わりますが、「VRAMに十分な余裕がないモデルを使う場合は、画像生成前にアンロード(またはElastic)して空きを確保するほうが安定して速い」 というのは確実な目安になりそうです。
※今回の時間には、モデルのロードや画像の取得・保存、完了確認の待ち時間も含まれています。また、LM StudioとStrataではAPIや思考設定の仕様も異なるため、ご自身の環境で設定を調整する際の参考として見てもらえればと思います。
おわりに
RTX 5090の32GB環境であっても、LLMと画像生成を併用すると、モデルサイズに応じたVRAM管理で待ち時間が大きく変わることが分かりました。軽量モデルは残したまま、27B以上は画像生成前に解放・縮小する使い分けがやはり有効です。
今回検証に使った「SceneLab」では、日本語チャットからのプロンプト作成やComfyUI連携に加え、こうしたモデルごとのVRAM解放設定にも対応しています。今回のベンチマークで使ったQwen-Imageに加え、FLUX 3 Image KleinやSDXL系(標準はJuggernaut XL Ragnarok) にも対応しましたので、ローカルLLMとComfyUIを行き来しながら画像を作っている方は、よければ試してみてください。