@ktanemo

Are you sure you want to delete the question?

Leaving a resolved question undeleted may help others!

AI用PCは何を購入すれば良いですか?(予算100万)

Q&A

Closed

解決したいこと

職場でAI開発用のPCの選定を任されました。(細かな部分は濁したり若干違うことを書いていますがご了承ください。)
予算は100万円程度です。
生成AIではなく、画像認識や動画検査などのAIを開発予定です。
職場で過去に購入したものを見ると3080が載ったメーカー製PCを使っていました。
100万円あれば余裕で5090が搭載したPCが買えてしまうのでそちらが良いと思いましたが、ゲーミング用途な気がしています。
RTX 2000 Ada 世代などそちらの方がAI開発向けGPUだと思っています。
5090搭載PCかNVIDIA RTXシリーズ搭載PCのどちらが良いか教えていただきたいです。
また、NVIDIA RTXシリーズ搭載PCの場合、100万円程度であればどのGPUが載ったものを買えばよいか教えてください。

お礼

様々なご回答ありがとうございました。
予算100万円であれば5090PCが良さそうです。とりあえず購入してみて、必要に応じてクラウドも検討したいと思います。
こちらの質問に関しては一旦クローズにさせていただきます。

2 likes

5Answer

購入する前提にはなっていますが、クラウドのGPUを都度利用する、というのも悪くないかもしれません。
試行錯誤の頻度や、今後の計画などにもよるとは思います。

2Like

・GPU以外の要件は特にないということですか?(メモリ、設置場所の制限、冷却性能など)
・サポートや保証についての要件は?
・AI開発専用でシステムの運用は別サーバーですね?

0Like

Comments

  1. @ktanemo

    Questioner

    ありがとうございます。

    GPU以外の要件は特にないということですか?(メモリ、設置場所の制限、冷却性能など)
    →現状のPCのメモリが64GBでしたので、同等かそれ以上、ディスクは2TB以上で考えています。サーバーラックではなく棚などに置く予定なので、デスクトップ型で考えています。

    ・サポートや保証についての要件は?
    →一般的なメーカー保証が付いていれば十分です。自然故障1年〜3年程度でしょうか。

    ・AI開発専用でシステムの運用は別サーバーですね?
    →その通りです。こちらのPCで色々ならモデルを作ってみてどのモデルがいいのか検討したりします。学習用としても使用します。基本的にはリモートで接続していろんな人が触れるようにする予定です。なので、WindowsであればPROにしたいです。

  2. @ktanemo

    Questioner

    今回購入するのはモデル検討用、検証用、学習用といった用途です。
    実際の製品に載せるのは別PCですし、モデルが決まった後に継続的に学習させるPCも別にあります。

    スマホからの回答なので読みにくくて申し訳ありません。

  3. 基本的にはリモートで接続していろんな人が触れるようにする予定です。なので、WindowsであればPROにしたいです。

    上記OSは同時接続数は1だったかと思いますが・・・
    AIの開発言語が不明ですがPythonであればtensorflow-gpuはwindowsネイティブの開発終了だったかと思います。
    複数人で使用するならメモリ64GBでは少ないかと思われます。

    使用用途からハード+ソフトの要件を考えて、予算の中で最も性能の良いGPUにするのが良いかと思います。

  4. @ktanemo

    Questioner

    ありがとうございます。
    pytorchで開発予定です。
    複数人と言っても同時に接続することはないです。既存の開発用PCもありますので。
    個人的にはlinuxとかに開発環境をたててvscodeなどから利用するのもよいかと思いますが、会社の開発用PCが私が知る限りwindowsなのでそれに合わせるつもりです。

    皆さんの回答を読み100万円程度だと5090搭載PCが無難な気がしています。

  5. 複数人と言っても同時に接続することはないです。

    そうなんですね。ではビッグデータを扱わないなら64GBメモリで大丈夫かもしれません。

    会社の開発用PCが私が知る限りwindowsなのでそれに合わせるつもりです。

    Windowsの縛り(?)があるんですね。Windowsは再起動が必要なことが多いのも結構嫌なんです。体感ですがWindow機は計算が遅い気がしています(スペック同等のマシンにて)。

    サーバーラックではなく棚などに置く予定なので、デスクトップ型で考えています。

    (既にご存じかとは思いますが)長時間学習回していたりするとファンがうるさくなり苦情がくることもありますので設置場所にはご注意を。(私は悩まされた側ですが・・・)

過去に購入したPCというのはAI開発用のPCですか?
もしそうでしたらその人に聞いた方が早いかと

そうでなくて初のAI開発でしたらまずはセミナーとか行ってみてはいかがでしょうか?
画像認識系の講習が内容に含まれているものを選びましょう

0Like

Comments

  1. @ktanemo

    Questioner

    ありがとうございます。

    AI開発用のPCですか?
    そうです。現在はWindows環境のものがあります。現在も画像認識系のai開発を行っています。
    ある程度AI開発に関する知識はあるのですが、学習にどのくらいのスペックが必要なのか、GPUのことについてなどハードウェア関連は詳しくなく質問させていただきました。
    調べているとコンシューマ向けのGPUで開発をしている記事はたくさん出て来ますが、プロ向けのGPUだとどのくらい違うのかと言った記事が少なく質問させていただきました。

企業ではなく、個人レベルですが、geforce4070TiS16GB、YOLOv8、(勘違いして)2560x2560で学習していたこともあるので、ご参考までに体験を記します。
学習スピードはGPUの性能もですが、バッチをいくつに設定できるかも大きく、結局GPUメモリをいくつ積んでいるか?という勝負になってきます。
2560x2560時代は半年くらい前でデータも削除してしまっているのであいまいな記憶だけですが、16GBでは4バッチができたかどうか怪しかったと思います。
たぶんGPUメモリを食い尽くして部分的に共有のメインメモリを利用していたと思いますが、やはりGPUメモリに収まらないとてき面に遅くなります。

できるだけ新しい構造のNVIDIA GPUで、できるだけメモリの多いものが学習の速度も速く、回数も試しやすいのでいいだろうとは思いますが、

こちらの、CUDA-Enabled NVIDIA Quadro and NVIDIA RTXで見ると、RTX6000 48GBだ!と思いましたが、カード単体で200万するんですね。

一般用のGeforceではなく、RTX6000が選択できるのはDellが見つかりました

RTX4000 20GBで100万ちょっとということになりました。

が、これなら5090 32GBでもいいんじゃないか?とも思ったりします。

1 GeForce RTX 5090 RTX4000
MEM 32GB 20GB
MEM IF 512bit 256bit
MEM band 1,792GB/s 448GB/s
CUDA cores 21,760 6,144
RT cores 170 48
Tensor cores 680 192
サポート 弱? 強?

シングルカードという前提ですが、置きにいくならDell RTX4000、強気にいくなら5090でしょうか

いやースペック見比べてアレコレ考えるの楽しいですね←

0Like

Comments

  1. プロ用とゲーマー用でドライバーに差があって性能差がでるかどうか?でしょうか
    5090と4000ならハードウェアの性能差が大きそうなので、ドライバーの違いによる影響はあまり考えなくても良さそうですが、メモリが同程度や、世代が同程度だと、どうなるんでしょうね

    こちらの記事は丁寧にまとまってますね
    ドライバーはDirectX最適かOpenGL最適かの差ということですかね?

  2. @ktanemo

    Questioner

    ありがとうございます。
    私も最近個人で4070tiSでYOLOv8の学習をさせていました。labelimgが使い悪すぎて嫌いになりました。

    VRAMの量だけ見ると間違いなく業務用なのですが、100万円程度では手が出ないんですよね。
    ご紹介いただいた記事はまだ読めていませんでした。詳しく書いていただいているのでしっかり参考にさせていただきます。

  3. 脱線になりますが、CVATは使いやすかったですよ

予算は100万円程度で開発用のPCということであれば、
GeForce RTX 5090搭載のPCで良いと思います。

0Like

Comments

  1. @ktanemo

    Questioner

    ありがとうございます。
    色々調べていますが100万円程度であれば5090がベターな気がしてきました。

Your answer might help someone💌