はじめに
エヴァンゲリオンのMAGIみたいな「性格の違う3つのAIが合議するシステム」を作りたい。さらに欲を言えば、Slackに常駐して自動でタスクをこなし、本人は承認するだけの「影武者」を作って自分の負荷を減らしたい。
そう思ったとき、最初にぶつかるのがこの問いです。
自宅にGPUワークステーションを組むべきか、クラウドのLLM APIに課金すべきか。
数週間かけて構成・価格・モデル・電気代・果ては出口戦略(売却やマイニング転用)まで調べたので、その検討過程をまとめます。価格は2026年夏時点の調査値で、GPU・メモリはAI需要で高騰・変動中のため目安として読んでください。
前提:手元のマシンと、やりたいこと
現有マシンはBTOのゲーミングPC(GALLERIA XA7R-R47TS、購入時約50万円)。
| パーツ | スペック |
|---|---|
| GPU | RTX 4070 Ti SUPER(VRAM 16GB) |
| CPU | Ryzen 7 7800X3D |
| RAM | 32GB DDR5 |
| SSD | 1TB NVMe Gen4 |
| LAN | 1GbE |
やりたいことは2段階です。
- MAGI:3人格のLLMが並列に回答し投票する合議システム
- 影武者:Slack常駐で文章・コーディング・調査タスクを自動実行し、本人は承認だけ
ローカルLLM編:現有マシンでどこまでいけるか
16GB VRAMで動くモデル
調べた結論として、16GB VRAMなら14Bクラスが本命でした。
- Qwen3.5 14B / gpt-oss-20B:Q4量子化で13GB程度に収まり、40〜50 tok/sec
- Gemma 27B:IQ3量子化で11GB程度。コーディング系で大型MoEより良いスコアの報告も
- Gemma4 26B A4B(QAT版15GB):コーディングエージェント用途ではQwen3.6系に劣る(SWE-bench Verified 52% vs 73%)が、長文コンテキスト処理は128kで7.2倍速く、多言語・長文要約なら十分実用的
70Bクラスや長大なコンテキストはこのVRAMでは厳しい。つまり**「動く」と「やりたいことに足りる」は別問題**で、影武者に求められるエージェント能力(正確なツール呼び出し・指示追従)を持つのはMoE型の大型モデル(GLM系、Qwen3-235B級)。現有機では力不足です。
ランタイムとOS
- Ollama vs LM Studio:どちらもllama.cppベースで推論速度はほぼ同じ。API連携・ヘッドレス運用ならOllama、GUIでモデルを試すならLM Studio
- Windows vs Linux:推論速度はCUDAが効くので大差なし。常時起動APIサーバーにするならLinuxが軽量・安定。Windows 11 ProならWSL2で両取りが手軽
アップグレードするといくらかかるか
本気でローカル運用するためのアップグレード案を松竹梅で見積もりました。
| プラン | 構成 | 概算 |
|---|---|---|
| Part A(現マザボ維持) | GPU換装など 松/竹/梅 | 8万〜110万円 |
| Part B 竹 | X870E + RTX 4090×2(VRAM 48GB) | 155〜165万円 |
| Part B 松 | Threadripper PRO + WRX90 複数GPU | 290万円超 |
| (参考)既製WS | Threadripper 9000 + Blackwell 96GB | 約340万円 |
影武者の要件(複数モデル同時ロード+将来のLoRA微調整)から逆算するとVRAM 48GBが目標ラインで、4090×2の約160万円が本命になります。
ただし「Slack常駐・非同期・承認だけ」なら速度要件が緩む一方で賢さの要件が上がるため、VRAMよりRAM 128〜192GB+CPUオフロードでMoE大型モデルを回す構成の価値が上がる、という発見もありました。この場合、入り口はマザボ刷新+RAM全振り+現行GPU流用で25〜30万円に圧縮できます。
ハードウェア以外の見えないコスト
調べて初めて意識したコストがいくつもありました。
- 電気代:24時間稼働で月5,000円〜1万円
- 電源工事:複数GPU構成だと100Vでは心もとない。単相3線式なら200V化は8千〜3万円、古い単相2線式の家だと5〜10万円
- ネットワーク:1台完結なら1GbEで問題なし。ただし複数ノード分散推論は最低10GbE、モデルをNASに置くとロードが数十倍遅くなる
- 部材の高騰:AI需要でDRAM/NAND/GPUが高騰中。メーカーがHBM・サーバー向けを優先しており、2027年の増産でも需要の6割程度という試算も。目先1年は高値前提
出口戦略も一応調べた
投資が無駄になった場合の回収手段です。
- 売却:現構成(購入50万円)で丸ごと買取10〜16万円、パーツばら売りで15〜22万円。GPU・メモリ高騰のおかげで中古価値は今むしろ押し上げられている
- マイニング転用:4090クラスは電力効率が悪く、日本の電気代(30〜35円/kWh)では実質赤字か微益。Vast.ai等のGPUレンタルのほうがまだ見込みがあるが、投資の正当化材料にはならない
クラウドAPI編:借りるといくらか
料金感
Claude Sonnet系で入力$3/出力$15 per 100万トークン、Haiku系ならその1/10以下。MAGIは1質問で3人格+合議のため通常の4〜5倍トークンを消費しますが、それでも個人利用なら月数百円〜3,000円程度。毎日ヘビーに使っても5,000円〜1万円台という試算になりました。
初期費用ゼロで、モデル品質はローカルで動かせるものより明確に上です。
どのサービスを使うか
Bedrockが定番かと思いきや、個人開発なら違いました。
| サービス | 評価 |
|---|---|
| OpenRouter | 1つのAPIキーで315以上のモデル。MELCHIOR=Claude、BALTHASAR=GPT、CASPER=Geminiと3賢者を別ベンダーにでき、合議で意見が割れやすい。MAGI用途の第一候補 |
| Anthropic API直 | Claudeだけでよければ最シンプル |
| Gemini API | コスパ最強クラス+無料枠。タダで試す入口に |
| DeepSeek | フラッグシップ級品質を1/20以下のコストで |
| Bedrock | IAM/VPC統合などAWS環境に統一したい場合向け。個人では認証設定の手間が増えるだけ |
比較まとめ
| 観点 | ローカルWS | クラウドAPI |
|---|---|---|
| 初期費用 | 25万〜290万円超 | 0円 |
| 月額 | 電気代5千〜1万円 | 数百円〜1万円台 |
| モデル品質 | クラウド最上位に届かない | 最高クラス |
| プライバシー | 完全に手元 | 外部送信あり |
| 24時間常駐 | 得意(従量課金なし) | トークン量次第 |
| 隠れコスト | 電源工事、部材高騰、陳腐化 | ベンダー依存、価格改定 |
| 資産価値 | 売却で3〜4割回収可 | なし |
回収シミュレーション:ランニングコストを考えたら何年で元が取れるか
比較表を眺めているだけでは分からないので、投資回収を試算してみました。
前提として重要なのは、ローカルにも電気代が月5千〜1万円かかること。つまり回収の元手になるのは「浮いたAPI代 − 電気代」の差額だけです。
| 利用シナリオ | API代/月 | 差額(節約)/月 | 入門構成 約30万円 | 本命構成 約160万円 |
|---|---|---|---|---|
| 個人のふつうの利用 | 〜3千円 | マイナス | 回収不能 | 回収不能 |
| ヘビー利用 | 1〜1.5万円 | 〜5千円 | 約5年 | 約27年 |
| 影武者24h常駐でフル稼働 | 3〜5万円 | 2.5〜4万円 | 8〜12ヶ月 | 3.5〜5年強 |
この表から分かることは3つあります。
- 軽い利用だと永遠に回収できない。電気代がAPI代を上回るので、ローカルは使えば使うほど赤字になる
- 損益分岐はAPI代が月1.5〜2万円を超えたあたり。影武者が本当に24時間タスクを回し続ける規模になって初めて、ローカルに経済合理性が生まれる
- 160万円構成はフル稼働でも3.5年超。GPUの陳腐化サイクル(2〜3年)より長く、純粋なコスト回収目的では正当化しにくい。売却残存価値(3〜4割)を織り込んでも実質2.5〜4年
逆に30万円の入門構成は、フル稼働前提なら1年前後という現実的なラインに収まります。
ここから導ける判断基準はシンプルです。まずクラウドで作って使用量を実測し、API請求が月2万円を超え続けたらローカル投資を検討する。請求額そのものが投資判断の計器になります。
結論:「どちらか」ではなく順番の問題だった
検討を始めたときは二択だと思っていましたが、結論は段階戦略に落ち着きました。
- まずクラウドAPIで作る:MAGIも影武者も、本質はプロンプト設計とオーケストレーション(Slack Bot、ツール連携、承認フロー)にある。これは0円+月数千円で今日から作れて、ハードの賢さ不足・速度不足を先に体感できる
- プロトタイプはローカルの現有機でも検証:Ollama+qwen3:8bで合議ロジック自体は標準ライブラリのPythonスクリプトで動いた
- ハード投資は最後、しかも段階的に:投資するならマザボ刷新+RAM 192GB+GPU流用(25〜30万円)から始め、速度に耐えられなくなったら4090を追加して48GB構成へ
- 買い時も選ぶ:メモリ・GPUの高騰は2027年半ば以降に緩和の見方があり、急がないなら相場を見てから
一番の学びはこれです。
150万円の使いどころを外さないためには、先にソフトを作って「何が足りないか」を体感してからハードに投資する。
「自宅にAIワークステーション」はロマンがあるし、いずれ組むつもりです。でも最初の一歩がGPU購入である必要はありませんでした。
おまけ:この検討で作ったもの
-
magi.py:Ollamaバックエンドの3人格合議プロトタイプ(依存パッケージなし) - 影武者Slack Bot構想:公開チャンネルは
channels:joinスコープで自動参加可、プライベートチャンネルは/invite手動が仕様上の限界、という細かい知見も
このあたりは別記事にする予定です。
価格・ベンチマークはすべて2026年7〜8月時点の調査に基づきます。