0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

ローカルLLMで自宅にワークステーションを作るべきか、クラウドサービスを使うべきか本気で検討してみた。

0
Posted at

はじめに

エヴァンゲリオンのMAGIみたいな「性格の違う3つのAIが合議するシステム」を作りたい。さらに欲を言えば、Slackに常駐して自動でタスクをこなし、本人は承認するだけの「影武者」を作って自分の負荷を減らしたい。

そう思ったとき、最初にぶつかるのがこの問いです。

自宅にGPUワークステーションを組むべきか、クラウドのLLM APIに課金すべきか。

数週間かけて構成・価格・モデル・電気代・果ては出口戦略(売却やマイニング転用)まで調べたので、その検討過程をまとめます。価格は2026年夏時点の調査値で、GPU・メモリはAI需要で高騰・変動中のため目安として読んでください。

前提:手元のマシンと、やりたいこと

現有マシンはBTOのゲーミングPC(GALLERIA XA7R-R47TS、購入時約50万円)。

パーツ スペック
GPU RTX 4070 Ti SUPER(VRAM 16GB)
CPU Ryzen 7 7800X3D
RAM 32GB DDR5
SSD 1TB NVMe Gen4
LAN 1GbE

やりたいことは2段階です。

  1. MAGI:3人格のLLMが並列に回答し投票する合議システム
  2. 影武者:Slack常駐で文章・コーディング・調査タスクを自動実行し、本人は承認だけ

ローカルLLM編:現有マシンでどこまでいけるか

16GB VRAMで動くモデル

調べた結論として、16GB VRAMなら14Bクラスが本命でした。

  • Qwen3.5 14B / gpt-oss-20B:Q4量子化で13GB程度に収まり、40〜50 tok/sec
  • Gemma 27B:IQ3量子化で11GB程度。コーディング系で大型MoEより良いスコアの報告も
  • Gemma4 26B A4B(QAT版15GB):コーディングエージェント用途ではQwen3.6系に劣る(SWE-bench Verified 52% vs 73%)が、長文コンテキスト処理は128kで7.2倍速く、多言語・長文要約なら十分実用的

70Bクラスや長大なコンテキストはこのVRAMでは厳しい。つまり**「動く」と「やりたいことに足りる」は別問題**で、影武者に求められるエージェント能力(正確なツール呼び出し・指示追従)を持つのはMoE型の大型モデル(GLM系、Qwen3-235B級)。現有機では力不足です。

ランタイムとOS

  • Ollama vs LM Studio:どちらもllama.cppベースで推論速度はほぼ同じ。API連携・ヘッドレス運用ならOllama、GUIでモデルを試すならLM Studio
  • Windows vs Linux:推論速度はCUDAが効くので大差なし。常時起動APIサーバーにするならLinuxが軽量・安定。Windows 11 ProならWSL2で両取りが手軽

アップグレードするといくらかかるか

本気でローカル運用するためのアップグレード案を松竹梅で見積もりました。

プラン 構成 概算
Part A(現マザボ維持) GPU換装など 松/竹/梅 8万〜110万円
Part B 竹 X870E + RTX 4090×2(VRAM 48GB) 155〜165万円
Part B 松 Threadripper PRO + WRX90 複数GPU 290万円超
(参考)既製WS Threadripper 9000 + Blackwell 96GB 約340万円

影武者の要件(複数モデル同時ロード+将来のLoRA微調整)から逆算するとVRAM 48GBが目標ラインで、4090×2の約160万円が本命になります。

ただし「Slack常駐・非同期・承認だけ」なら速度要件が緩む一方で賢さの要件が上がるため、VRAMよりRAM 128〜192GB+CPUオフロードでMoE大型モデルを回す構成の価値が上がる、という発見もありました。この場合、入り口はマザボ刷新+RAM全振り+現行GPU流用で25〜30万円に圧縮できます。

ハードウェア以外の見えないコスト

調べて初めて意識したコストがいくつもありました。

  • 電気代:24時間稼働で月5,000円〜1万円
  • 電源工事:複数GPU構成だと100Vでは心もとない。単相3線式なら200V化は8千〜3万円、古い単相2線式の家だと5〜10万円
  • ネットワーク:1台完結なら1GbEで問題なし。ただし複数ノード分散推論は最低10GbE、モデルをNASに置くとロードが数十倍遅くなる
  • 部材の高騰:AI需要でDRAM/NAND/GPUが高騰中。メーカーがHBM・サーバー向けを優先しており、2027年の増産でも需要の6割程度という試算も。目先1年は高値前提

出口戦略も一応調べた

投資が無駄になった場合の回収手段です。

  • 売却:現構成(購入50万円)で丸ごと買取10〜16万円、パーツばら売りで15〜22万円。GPU・メモリ高騰のおかげで中古価値は今むしろ押し上げられている
  • マイニング転用:4090クラスは電力効率が悪く、日本の電気代(30〜35円/kWh)では実質赤字か微益。Vast.ai等のGPUレンタルのほうがまだ見込みがあるが、投資の正当化材料にはならない

クラウドAPI編:借りるといくらか

料金感

Claude Sonnet系で入力$3/出力$15 per 100万トークン、Haiku系ならその1/10以下。MAGIは1質問で3人格+合議のため通常の4〜5倍トークンを消費しますが、それでも個人利用なら月数百円〜3,000円程度。毎日ヘビーに使っても5,000円〜1万円台という試算になりました。

初期費用ゼロで、モデル品質はローカルで動かせるものより明確に上です。

どのサービスを使うか

Bedrockが定番かと思いきや、個人開発なら違いました。

サービス 評価
OpenRouter 1つのAPIキーで315以上のモデル。MELCHIOR=Claude、BALTHASAR=GPT、CASPER=Geminiと3賢者を別ベンダーにでき、合議で意見が割れやすい。MAGI用途の第一候補
Anthropic API直 Claudeだけでよければ最シンプル
Gemini API コスパ最強クラス+無料枠。タダで試す入口に
DeepSeek フラッグシップ級品質を1/20以下のコストで
Bedrock IAM/VPC統合などAWS環境に統一したい場合向け。個人では認証設定の手間が増えるだけ

比較まとめ

観点 ローカルWS クラウドAPI
初期費用 25万〜290万円超 0円
月額 電気代5千〜1万円 数百円〜1万円台
モデル品質 クラウド最上位に届かない 最高クラス
プライバシー 完全に手元 外部送信あり
24時間常駐 得意(従量課金なし) トークン量次第
隠れコスト 電源工事、部材高騰、陳腐化 ベンダー依存、価格改定
資産価値 売却で3〜4割回収可 なし

回収シミュレーション:ランニングコストを考えたら何年で元が取れるか

比較表を眺めているだけでは分からないので、投資回収を試算してみました。

前提として重要なのは、ローカルにも電気代が月5千〜1万円かかること。つまり回収の元手になるのは「浮いたAPI代 − 電気代」の差額だけです。

利用シナリオ API代/月 差額(節約)/月 入門構成 約30万円 本命構成 約160万円
個人のふつうの利用 〜3千円 マイナス 回収不能 回収不能
ヘビー利用 1〜1.5万円 〜5千円 約5年 約27年
影武者24h常駐でフル稼働 3〜5万円 2.5〜4万円 8〜12ヶ月 3.5〜5年強

この表から分かることは3つあります。

  1. 軽い利用だと永遠に回収できない。電気代がAPI代を上回るので、ローカルは使えば使うほど赤字になる
  2. 損益分岐はAPI代が月1.5〜2万円を超えたあたり。影武者が本当に24時間タスクを回し続ける規模になって初めて、ローカルに経済合理性が生まれる
  3. 160万円構成はフル稼働でも3.5年超。GPUの陳腐化サイクル(2〜3年)より長く、純粋なコスト回収目的では正当化しにくい。売却残存価値(3〜4割)を織り込んでも実質2.5〜4年

逆に30万円の入門構成は、フル稼働前提なら1年前後という現実的なラインに収まります。

ここから導ける判断基準はシンプルです。まずクラウドで作って使用量を実測し、API請求が月2万円を超え続けたらローカル投資を検討する。請求額そのものが投資判断の計器になります。

結論:「どちらか」ではなく順番の問題だった

検討を始めたときは二択だと思っていましたが、結論は段階戦略に落ち着きました。

  1. まずクラウドAPIで作る:MAGIも影武者も、本質はプロンプト設計とオーケストレーション(Slack Bot、ツール連携、承認フロー)にある。これは0円+月数千円で今日から作れて、ハードの賢さ不足・速度不足を先に体感できる
  2. プロトタイプはローカルの現有機でも検証:Ollama+qwen3:8bで合議ロジック自体は標準ライブラリのPythonスクリプトで動いた
  3. ハード投資は最後、しかも段階的に:投資するならマザボ刷新+RAM 192GB+GPU流用(25〜30万円)から始め、速度に耐えられなくなったら4090を追加して48GB構成へ
  4. 買い時も選ぶ:メモリ・GPUの高騰は2027年半ば以降に緩和の見方があり、急がないなら相場を見てから

一番の学びはこれです。

150万円の使いどころを外さないためには、先にソフトを作って「何が足りないか」を体感してからハードに投資する。

「自宅にAIワークステーション」はロマンがあるし、いずれ組むつもりです。でも最初の一歩がGPU購入である必要はありませんでした。

おまけ:この検討で作ったもの

  • magi.py:Ollamaバックエンドの3人格合議プロトタイプ(依存パッケージなし)
  • 影武者Slack Bot構想:公開チャンネルはchannels:joinスコープで自動参加可、プライベートチャンネルは/invite手動が仕様上の限界、という細かい知見も

このあたりは別記事にする予定です。


価格・ベンチマークはすべて2026年7〜8月時点の調査に基づきます。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?