グラフィックボードなしでAIによる画像生成を試しているので、その備忘録です。一般的には画像生成に高価なグラフィックボードが必要になりますが、今回使用しているのはグラフィックボードなし（CPU内蔵）のモバイルPCです。
そうすると、Google Colabやその他のGPUレンタルなどの外部サービスを利用するのか？と思われますが、ローカルのみです。
これまでローカルのCPUのみで画像生成は、グラフィックボードを使用する時に比べ大幅に時間がかかっていましたが、FastSD CPUではLCM（Latent Consistency Model）やIntel社のOpenVINOを採用する事で高速生成を実現しています。
LCMとOpenVINOの詳しい説明については今回省略します。
検証に使用したマシンスペック
CPU:Core Ultra 7 155H
メモリ:32GB
GPU:Intel Arc Graphics（CPU内蔵）
OS:Windows11 23H2
OpenVINOを利用するにはIntel社製の対応したCPUが必要です
詳しくはIntel社のシステム要件をご覧ください
https://docs.openvino.ai/2024/about-openvino/release-notes-openvino/system-requirements.html
FastSD CPUとは？
FastSD CPUはCPU版のStable Diffusionの高速版です。2024年8月7日現在のバージョンはv1.0.0-beta.35です。CPU版といってもOpenVINOに対応しているのでCPU+GPUで生成出来ます。
ライセンスはMITとなっています。
FastSD CPUのページ
https://github.com/rupeshs/fastsdcpu
FastSD CPUでの画像生成時間
CPUの性能によりますが、性能が高ければ1秒未満でも生成できるようです。
1回目は時間がかかりますが、２回目以降は早くなります。
私の場合は1枚あたりの画像生成時間は1.2秒〜1.3秒程度でしたが、FastSD CPUのGithubによると0.82秒で生成できたようです。
FastSD CPUの画面
「a small cute cat」でGenerate
生成時間は1.36秒でした。
生成された画像がこちら。
複数枚の画像生成
続いて4枚の画像を生成してみました。
生成時間は4枚で5.01秒
1枚あたりの生成時間は約1.25秒
生成された画像がこちら
FastSD CPUのインストール方法
・Python3.10か3.11が推奨
・Git
PythonとGitの詳しいインストール方法は省略します。
インストールを行うディレクトリに移動してfastSD CPUをCloneします。
git clone https://github.com/rupeshs/fastsdcpu.git
Cloneが完了したら、fastsdcpuのフォルダの中に移動して、install.batを実行します。インストールは結構時間がかかります。
インストールが完了したら、start-webui.batを実行して、http://127.0.0.1:7860 にアクセスします。
start-webui.batを実行してもすぐにバッチの画面が閉じる（落ちる）場合はVisual Studio CommunityのC++デスクトップ開発をインストールしてみてください。個人利用なら無償で利用できます。
エラーのメモ
OSError: [WinError 126]指定されたモジュールが見つかりません。
Pytorch側の問題？fbgemm.dllが読み込めずコケている。
現状としてはVisual Studio CommunityのC++デスクトップ開発をインストールすることで上記の問題は回避できるようですが、将来的には改善する可能性があります。またVisual Studio CommunityのC++デスクトップ開発をインストールするより簡単に回避する方法をご存じの方おられましたら、ご教授いただけると嬉しいです。
FastSD CPUの使い方
基本的な使い方の紹介です。
Modeは当初LCMになっていますが、 OpenVINO対応の環境でしたら、LCM-OpenVINOの方が高速に生成できるかもしれません。ただしメモリはたくさん使います。
fantasy land scapeと書かれた場所がプロンプト入力エリアです。
練習なのでなんでもいいんですが、プロンプトエリアに「a small cute cat」と入力してGenerateを押してみてください。
1回目の生成は時間がかかりますが、２回目以降は早くなります。
ちなみに1秒台での画像生成に使ったモードはLCM-OpenVINO
使用したモデルが /rupeshs/sdxs-512-09-openvino
Generation Settingsタブの設定でUse tiny auto encoder for SDにチェックを入れて生成を行いました
プロンプトについては詳しく解説しているサイトを調べるか、ChatGPTなどのAIを使って生成してもらってください。
お疲れ様でした。
おまけ
FastSD CPUで他のモデルを試してみました。
LCM-dreamshaper V7 OpenVINOを利用しました。
ステップ数：４
画像サイズ：512x768
生成時間は13.53秒でした。
生成した画像
画像生成を本格的に使いたいという方には、グラフィックボード搭載のPCをお勧めしますが、趣味やお試し程度で生成AIを使う分には十分遊べる気がします。
最後までお読みいただきありがとうございます！