貧乏人条件
1. Claude Proプランしか払えない
2. 16GBのゲーミンググラボしか持っていない
Claude Freeプランとか8GBのグラボしかないとかの極貧の方は申し訳ございません。本記事は参考になりません。
Claude Proプランを使っていて使用量制限で窮屈に感じる時は多く、ちょうど普段使っているPCはゲームもするからVRAM16GBのグラボが装着されているし、何とかマイグラボを使ってトークンを節約できないかなと最近ホットなClaude Fable 5に相談したところ、できました!
考え方は簡単
- Claudeが計画、指示、検証、判断をする。
- サブエージェントの弱小ローカルLLMが作業をする。
- そうするとコーディング作業分(実装)のトークンはClaudeの使用量を消費しないから節約になる。
弱小ローカルLLMの技術スタック
Gemma-4-12b-it Q8_K_XL
llama.cpp
llama-swap