はじめに:2024ローカルAIで何か作ってみたいと思い jetson orin nano購入・・・しかし!!
こんな事を思って、自腹で約90k(9万円)の jetson orin nano
を購入してローカルAI環境を構築を行おうと思っていた。
しかし、昨日気づいた記事で
ここで 菱洋エレクトロ
が出してる価格を見ると「大体半額」の
- 42,460円(税込み)
いやあ「10月頃に普通に jetson orin nano を9万円ぐらい」で買ったので、いやあ「2024年一番のしくじり」と言うか、大失敗しました・・・って感じで昨日そう思った次第です。
前の価格だと、orin nano本体+SSD+ケース=10万円ちょっとで、これと比べると
- ラズパイ5 + MVMEキッド + SSD + ケース=3万円ぐらい
なので、約3個分以上だったのが、今回の super
の登場で
- orin nano super + SSD + ケース = 5万円強
なんとラズパイ約2個分の価格差まで縮まったわけで、いやあ本当「大失敗」でしたって話になります。
次に:何の因果か 中古のAGX Xavier(32GB)とAGX orin(32GB)も買ってみた
そう言う意味では「中古の jetson orin nano = 6万円ぐらい」だったので、最初からそっちを買っとけば良かったと最初思ったわけですが、中古だと2023年発売なのでそれなりに「安くなってる」こともあり、何か業務で購入じゃないから、個人的利用だし「中古」で良かったと、実はこちらでも「しくじり」を「後悔してた」次第です。
そんな感じで「中古のJetsonを色々見てると、稀に安い価格」の「Jetson」があったので、ついポチってしまいました。
- jetson AGX Xavier(32GB): 発売時期:2018年末頃
- jetson AGX orin(32GB): 発売時期:2023年初め頃
何故これらを購入してしまったのかと言えば、
- ローカルAIってGPGPUの場合、学習データがそのままメモリに乗っかる(GPGPUは仮想メモリ使えない)ので、8GBだと基本足りない
- jetson AGX Xavier(32GB)は中古だと10万円未満で安くメモリが多い反面、CUDAコアが512個なのと、古いこともありJetPackが最新じゃないので、今後制約とか出てきそう
- jetson AGX orin は最新版なので、中古価格も20万円を超えるが、orin nanoの倍のCUDAコア2048で、最新のJetPackが利用できる
何か最初から jetson AGX orin
の中古買っとけば良かったって思った次第ですが、実際使ってみると思いの外「jetson AGX Xavier(ザビエル)」が使えるので、その点からすれば、最初に ザビエル
買って、色々足りなければ AGX orin 買う事を検討とかで良かったなあって思ったりしました(2しくじり)
ちなみに:ラズパイ5+SSD+ケース買うなら、AmazonでRyzen7 5825Uの中華PC+Ubuntuインストールのほうがコスパが良い
ちょうど最近買ったAmazon御用達の小型中華PC
これ割引価格で買うと3万5千円ぐらいで買えるわけで、また Ryzen75875U = 8コア16スレッドで、AMDのGPU内蔵なので、普通に軽い3Dゲームぐらいなら普通に動きます。
メモリも最大64GBまで増設可能なので、普通にメインPCで使えそうですが、例の中華あるあるのWindowsがボリュームライセンスなので、ちょっとWindowsは厳しい部分がありますが・・・。
あと欠点として搭載SSDがSATA接続なので、ここがNVME接続ならもっと良かった感じです。
しかしさすがRyzenCPUなだけあって faster whisper の音声文字起こしのAIをCPUで使った感じ、M1Macと同じぐらいの速度で変換できたので、普通に「速い」し、あと電力消費量も30ワットと低いので、普通にUbuntuインストールして使うと、ラズパイ5より遥かにコスパが良いと言えます。
今回は短いですが、改めて2024年のローカルAI関連の散財を振り返ると、無駄遣いしたなあって思いました。
以上です。