NVIDIA GB10(aarch64)で cosmos-predict2.5 を uv で動かす手順
CUDA 13.0 / torch cu130 / Hugging Face 認証 / examples/inference.py 実行まで
TL;DR
- GB10(aarch64)でも cosmos-predict2.5 はほぼ無改造で動作
- 重要ポイントは (1) git lfs pull / (2) uv sync + CUDA extra(cu130)
- サンプル実行:
uv run --extra cu130 -- python examples/inference.py ...
動作確認環境(Tested)
- Machine: MSI EdgeXpert(MS-C931 / NVIDIA GB10 platform)
- Architecture: aarch64
- OS: Ubuntu 24.04.3 LTS
- GPU: NVIDIA GB10(compute capability 12.1)
- Driver: 580.126.09
- CUDA Toolkit: 13.0(nvcc 13.0.88)
- Python: 3.10.x
- Package manager: uv
- PyTorch: 2.9.0+cu130
1. 前提:必要なツールを入れる
sudo apt update
sudo apt install -y git git-lfs
- NVIDIA Driver / CUDA 13.0 はインストール済み前提
- uv は公式手順でインストール(参照): https://docs.astral.sh/uv/
2. リポジトリ取得(※ git lfs 必須)
git clone https://github.com/nvidia-cosmos/cosmos-predict2.5
cd cosmos-predict2.5
git lfs install
git lfs pull
3. uv + Python 環境構築(cu130 extra を使う)
uv venv --python 3.10
uv sync --extra cu130 --all-groups
4. Hugging Face のログイン(必須)
cosmos-predict2.5 は Hugging Face 上のモデルを取得して動作します。
HF トークンでログイン+モデルページでのアクセス承諾/申請が必要です。
4.1 トークン作成(Read 権限で OK)
- トークン作成ページ: https://huggingface.co/settings/tokens
- Read 権限の token を作成
4.2 CLI ログイン(uv 環境から実行)
uv run --extra cu130 hf auth login
- プロンプトに token を貼り付けてログインします
4.3 モデルのアクセス権
- モデルによっては「利用規約への同意」や「アクセス申請」が必要です。
- 対象モデルのページを開く(例): https://huggingface.co/nvidia/Cosmos-Predict2.5-14B
- 「Agree」「Request access」「Accept」等をクリック
- 承認後にログインしているshellから実行すると自動でダウンロードされます
5. examples/inference.py でサンプルを動かす(ここまで)
まずヘルプで引数を確認します:
uv run --extra cu130 python examples/inference.py --help
次に、同梱されているサンプル(robot_pouring)を実行します(Video2World):
PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True,max_split_size_mb:128 \
uv run --extra cu130 python examples/inference.py \
-i assets/base/robot_pouring.json \
-o outputs/base_video2world \
--inference-type=video2world
- 出力は outputs/base_video2world/ 以下に生成されます(ログに出力パスが出ます)
- モデル取得で止まる場合は、前章の HF ログイン / アクセス承諾 を見直してください
まとめ
- GB10 + aarch64 でも cosmos-predict2.5 はほぼ無改造で動作
- 重要なのは以下の3点:
- git lfs pull
- uv sync --extra cu130 と uv run --extra cu130 の徹底
- Hugging Face のログインとモデルアクセス権(承諾/申請)
参考リンク
- cosmos-predict2.5 リポジトリ: https://github.com/nvidia-cosmos/cosmos-predict2.5
- NVIDIA Cosmos Predict2.5 Quickstart Guide: https://docs.nvidia.com/cosmos/latest/predict2.5/quickstart_guide.html
- Hugging Face token 作成: https://huggingface.co/settings/tokens