2023/08/17 update

以下にアップデートを記載

2023/06/25 Stable Diffusion 現在までのまとめ

第一目標

拡張機能 2台のパソコンを利用して Stable Diffusion で生成速度を上げたい
Tiled Diffusion やスケールアップ時に選択必須となる「Denoising strength」によるガチャ要素を避けたい
Stable Diffusion Web UI の
追加機能である Distributed で生成するものとする
Distributed Github リンク

第二目標(発生した問題の回避)

生成される画像が2台で異なる
- GPU ボードの型番が異なる場合に発生する
- Stable Diffusion 側の設定で「Random number generator sourceをCPUに設定」で回避可能
  ※ただし上記の条件で生成されるのは CPU 生成と同じ
xformars のオプションではそもそも同じ画像が生成できない仕様
DiffusionのRandom number generator sourceをCPUに設定
webui 起動オプション --precision full --no-half

`--precision full、--no-half のリンク先翻訳`

特定の GPU ビデオカードは半精度をサポートしていません。生成された画像の代わりに緑色または黒色の画面が表示される場合があります。を使用します--upcast-sampling。--xformersを使用している場合、これはスタックされるはずです。それでも解決しない場合は、--precision full --no-halfVRAM 使用量が大幅に増加する状態でコマンドライン引数を使用します。これには、が必要になる場合があります--medvram。

GPUで生成した場合、以下の結果

その他に検証した項目

以下の CPU で生成し、ハッシュは異なるが、人間の目視で同じものが生成

要再検討事項

TensorRT の高速化は現在スケールアップができない
Distributed の機能が正常に機能するか、TensorRT へスケールアップが実装されるかで再度要検討

追記 update

2台(複数台)で連携
Stable-Diffusion-WebUI-Distributed
連携させると片側だけ動く

Master のみで生成〇 ※単体で動作させるより遅い
Slave(worker)のみで生成〇 ※単体で動作させるより遅い
Master-Slave で生成 ×
ハードウェアアクセラレータによる GPU スケジューリング
→オン/オフで症状がケースバイケースで変わる

課題：トライアンドエラーで起動時(webui-user.bat)オプションの確認

高速に書き出すことに特化した問題

(2台生成高速化とは外れるがメモとして残す)

GPU 側の電力制限を 70% に抑えてもパフォーマンスに影響がない
某巨大掲示板のコメント ※リンクNGのため記載を転記

TGP200Wの4070でテストしてみた

電力制限	実測電力	アスカベンチ所要時間	速度比
100%	約200W	Time taken: 19.23s	(100%)
70%	約140W	Time taken: 20.05s	(95.9%)
50%	約100W	Time taken: 28.54s	(67.3%)

実測電力はグラボ全体のW数(GPU-Zで言うBoard Power)
巷でよく言われている通り70%かけても処理速度は5%くらいしか下がらない
美味しい

出力サイズ特化型1 (upscale x4 での実行速度)

本来のStable Diffusionではなく、あくまで付随機能だが
生成速度をメモとして残す
もともとはハードウェアアクセラレータによる GPU スケジューリングで速くなる環境、
オフにすると速くなる環境などさまざな情報があったため派生検証として実施した結果のメモ
※1枚あたりの画像サイズは 1GB を超えるので要注意

webui-user.bat 起動パラメータなし

set PYTHON=
set GIT=
set VENV_DIR=
set COMMANDLINE_ARGS=

Windows 10/11 以下の設定を実施
システム > ディスプレイ > グラフィック > 既定のグラフィック設定

オンの結果

元画像サイズ	変更後	処理時間
512 x 512	4096 x 4096(4K)	Time taken: 19.88s
4096 x 4096(4K)	32768 x 32768(32K)	Time taken: 17m 46.59s

オフの結果

元画像サイズ	変更後	処理時間
512 x 512	4096 x 4096(4K)	Time taken: 20.10s
4096 x 4096(4K)	32768 x 32768(32K)	Time taken: 18m 0.98s

出力サイズ特化型2 Tiled Diffusion

パラメーターである「denoising strength」の影響が大きい
ある程度の GPU パワーが必要
当方検証環境 1050Ti ではひとたまりもない検証のため
2023/06/25 現時点では未実施

現在までの進捗

Distributed が動いていない
1050Ti 1枚、1030 1枚が死亡、敵討ちがすむまで引くに引けない(意味不明)
のっぴきならない事情がない限り、gen13 Core i5 + 32GBメモリ + 3060(12GB版) + を要検討
予算次第では 4070 以上

tags:`Stable Diffusion` `20230626` `update`