0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

大メモリ AMD ミニPCでローカルAIを動かす — EVO-X2 + ROCm 7.1.1 の記録

0
Posted at

はじめに

ローカルAI(画像生成・LLM)を 自宅の1台 で試したいとき、NVIDIA グラボ前提の記事ばかりだと止まりがちです。
私は 高速大メモリ AMD 統合GPU ミニPC を軸に、Windows 11 のまま ROCm → ComfyUI → LM Studio まで通しました。

検証機は GMKtec EVO-X2(Ryzen AI Max+ 395 / Radeon 8060S、128GB構成)。
この記事は 動いた記録と全体像 だけ。コマンド全文・トラブル全集は Zenn 本にまとめています。


ローカルAIに「大メモリ AMD ミニPC」が向く理由(短く)

ポイント 内容
メモリ 64〜128GB の UMA で、大きな LLM やモデルを載せやすい
GPU 統合GPUでも ROCm(Windows プレビュー) で PyTorch 系が動く(395 は公式互換リスト入り)
OS Linux に切り替えず PowerShell + GUI(LM Studio)で日常運用しやすい

「CUDA と同じ手順」は当てはまりません。UMA の BIOS 設定ROCm / DirectML の使い分け が最初の分岐です。


なぜ EVO-X2 か

候補は「大メモリ + AMD iGPU のミニPC」でした。EVO-X2 を選んだ理由は次のとおりです。

  • Ryzen AI Max+ 395 が ROCm 公式の APU 互換に載っている
  • 128GB 構成で GPT-oss 120B クラスを現実的な量子化で試せる
  • 筐体が小さく、自宅デスクで常時起動しやすい

デバイスマネージャーで Radeon 8060S が見え、BIOS で UMA を用途に合わせて切り替える——ここからが AMD 統合GPU ローカルAI の日常です。


実際に通した流れ(Windows 11)

BIOS(UMA) → Miniconda + rocm-env → ROCm 7.1.1 / PyTorch 確認
    → ComfyUI(画像) / LM Studio(LLM)

ROCm 環境で PyTorch が 8060S を認識することを確認したあと、LM Studio で GPT-oss 系、ComfyUI で画像生成まで到達しました。120B の UMA 条件や速度表は本編に記載しています。
rocm_verify.png
(画像: ROCm 確認画面)

comfyui_workflow.png
(画像: ComfyUI ワークフロー)


つまずきやすいところ(記事だけの要点)

  • 「CUDA out of memory」 と出ても ROCm 環境では UMA / 割り当ての問題であることが多い
  • Python 3.12(ROCm)と 3.10(旧 A1111 系)を混同しない
  • 120B は UMA 96GB と 32GB の切り替えなど、条件がシビア

詳しい手順は Zenn 本にまとめました

再現に必要な手順・コマンド・トラブル対処・付録は、次の有料本(第1章は無料)に 約148,000字 で整理しています。

EVO-X2で始めるローカルAI実践ガイド(1,200円)

  • Windows 11 上の ROCm 7.1.1 構築(全手順)
  • ComfyUI / Stable Diffusion Forge
  • LM Studio で GPT-oss 20B / 120B
  • BIOS・UMA・M.2 増設・トラブルシューティング

おわりに

AMD 統合GPU のローカルAIは、情報が断片的になりがちです。
土台(ROCm)→ 画像 → LLM の順で一冊にしたのが上記の本です。

同じ EVO-X2 / 395 系で試している方の参考になれば幸いです。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?