Pyramid Flow をローカルで動かしてみた
動作環境
- OS: Ubuntu Server 22.04.5 LTS
- NVIDIA ドライバ: nvidia-driver-565-server
- CPU: AMD Ryzen 3700X
- RAM: DDR4 64GB
- GPU: NVIDIA RTX 3090 FE (VRAM 24GB)
インストール
この通りにインストール
https://github.com/jy0205/Pyramid-Flow?tab=readme-ov-file#installation
動作確認
384p (640x384) ではエラーなく完了した.
784p (1280x768) では CUDA Out of memory が発生.
Out of memory 回避策
model.enable_sequential_cpu_offload()
を追加すればメモリ不足を回避できるらしい.
app.py を直接編集して追加書き込み.
ちなみに, cpu_offloading フラグを有効にすることでもメモリ不足を回避できるらしいが,
app.py を見るとすでに有効になっている模様.
実行時間
384p, 5s の動画生成はすぐ終わったが, 768p, 5s の動画生成は 35 分かかった…
追記
model.enable_sequential_cpu_offload()
は必要なければ (VRAM が潤沢にあれば) つけない方が早いかも
384p, 5s の動画が enable_sequential_cpu_offload すると 5~6min, しないと 1min45s で完了.