想定する読者
- Jetson AGX Orin ユーザー
- 画像認識、機械学習系の関心を持っている人
- すでに移植済みのモジュールがあれば、さっさとデモを動かしたい人
URLS
https://github.com/dusty-nv/
-
https://github.com/dusty-nv/jetson-containers
- これらの用途に対するdocker imageを得ることができます。
- 使用しているJetsonでのJetPacKのバージョン(もしくはL4Tのバージョン)にあうdisk imageを取得すれば、利用するアプリケーションの立ち上げがしやすくなります。
-
https://github.com/dusty-nv/jetson-inference
- 図に示してある種類の画像認識タスクを実行することができます。
https://github.com/NVIDIA-AI-IOT
- https://github.com/NVIDIA-AI-IOT/torch2trt
- pytorch で学習されたモデルをTensorRT に変換するツール
- https://github.com/NVIDIA-AI-IOT/nanoowl
- OWL-ViTのTensorRT対応版(open vocabulary object detectionの1つ)
https://www.jetson-ai-lab.com/index.html
https://huggingface.co/docs/transformers/ja/index
- transformers のライブラリで huggingfaceを使っている人も多いだろう。
- このサイトのモデルは、大規模言語モデルを使っているものが多い。
- メモリの潤沢なGPUボードを利用しているUbuntuPCを想定しているのが多いだろう。
- しかし、中にはjetson AGX Orinで動作するもの(わずかな改変で動作するもの)が含まれているだろう。
https://github.com/MACNICA-CLAVIS-NV
- NVidiaの代理店であるMACNICA が作っているとみられるgithub
宣伝
- Jetson AGX Orinを使って、複数のリポジトリでdockerを使いつつ作業を進めていくと、ディスクスペースの枯渇に直面する。
- その状況への回避方法を以下の記事に書いた。
- jetsonでのディスク枯渇対策 microSDの利用
- jetsonでのディスク枯渇対策 dockerの場合 その2