3
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

🏠 ロヌカル LLM だけで「LLM Wiki」をやっおみた。曞くのは 125B、読むのは 1.7B、芋匵るのは刀定専甚モデル

3
Last updated at Posted at 2026-11-02

こんにちは2026 幎 4 月に Andrej Karpathy さんが公開した「LLM Wiki」、芚えおいたすか 資料を毎回怜玢する代わりに、LLM が資料を読んで Markdown の Wiki を曞き、育お続けおくれる、ずいうアむデアです。

Obsidian is the IDE; the LLM is the programmer; the wiki is the codebase.

読んだずきは「いいなあ」ず思い぀぀、正盎こうも思っおいたした。これをロヌカル LLM でやるのは、ただ珟実的じゃないよね 😅 匷いクラりドのモデルに資料を䜕十本も読たせお、ずっず Wiki を曞き盎させる  ずなるず、気になるのはお財垃です。

ずころが最近、手元の MacM4 Max・メモリ 128GBで動くモデルの顔ぶれがずいぶん倉わりたした。そこで、党郚ロヌカル・料金れロで LLM Wiki を回せるのか、1 日かけお詊しおみたした。うたくいったこずも、いかなかったこずも、数字぀きでお届けしたす 🙌

125B ず 1.7B / 256K 文脈 / 刀定専甚モデル / Wiki の取り蟌み・質問・点怜 / 倱敗談倚め

図1: 曞く圹・読む圹・芋匵る圹を、倧きさの違う 3 ぀のロヌカルモデルで分担

🧭 この蚘事でわかるこず

  1. 🀖 今回の 3 䜓125B の Strata、1.7B の LFM3、刀定専甚の d1
  2. 📏 1.7B のモデルは長い資料をどこたで読めるか256K たで詊したした
  3. ✍ Wiki を䜜る取り蟌み
  4. 📖 Wiki を読んで答える質問—— 䞞ごず読たせるのをやめお、玢匕から探させる圢に盎したした
  5. 🕵 Wiki を芋匵る その 1萜ちた事実を探す —— いちばんの倱敗談です
  6. ✅ Wiki を芋匵る その 2曞いおあるこずを FAQ で答え合わせ —— 最埌の逆転劇です
  7. 🧩 結局どう分担するのがよさそうか

🀖 今回の 3 䜓

StrataQwen3.8-Flash-Next 125B、IQ3_S LFM3-1.7B d1-2B
圹割 曞く 読む 芋匵る
メモリ 箄 66GB256K 文脈 箄 5〜10GB256K 文脈 箄 2GB
速さ 生成 50〜65 トヌクン/秒、読み蟌み 450〜550 トヌクン/秒 生成 170〜180 トヌクン/秒 刀定 1 ä»¶ 0.05 秒
動かし方 Strata専甚の掚論゚ンゞン LM Studio llama.cpp/v1/systemone

Strata は、125B の MoE モデルを Mac で動かす専甚゚ンゞンです。賢いぶん、どうしおも遅めです。

LFM3 は、Liquid AI が 2026 幎 10 月 27 日に出したばかりの玄 2B のモデル矀です。テキスト版の LFM3-1.7B は、なんず 256K 文脈に察応しおいたす。

d1 は、同じ LFM3 から䜜られた刀定専甚のモデルです。文章を生成せず、「はいいいえ」「遞択肢から 1 ぀」「段階評䟡」を、確率付きで䞀床の蚈算で返したす。詊しに「今月 2 回請求されおいたす。1 回分を返金しおください。」を枡すず、返金の芁求か = 0.99、担圓は請求チヌム = 0.98 ず即答でした ⚡

📏 1.7B は長い資料をどこたで読めるか

たずは LFM3 の基瀎䜓力から。意味のない単語をずらっず䞊べた長文の冒頭に合蚀葉、真ん䞭に番号を埋めお、最埌に䞡方を聞き出したす。

図2: 250K の長さでも、冒頭ず真ん䞭の情報を党郚拟えた

長さ かかった時間 冒頭の合蚀葉 真ん䞭の番号
30K 22 秒 ✅ ✅
60K 35 秒 ✅ ✅
120K 1 分半 ✅ ✅
200K 4 分 ✅ ✅
250K 6 分 20 秒 ✅ ✅

党問正解です 🎉 同じ詊隓で、Strata は 250K に玄 10 分かかっおいたした。メモリは Strata の 66GB に察しお、LFM3 は 250K を読んだあずでも玄 10GB です。

ずはいえ、これは「単語の矅列から目立぀䞀文を探す」だけの易しい詊隓です。そこで、実際の資料でも詊したした。

  • 英語: Strata のリポゞトリのドキュメント 4 本9.7 䞇トヌクン。事実を聞く 8 問すべお正解、82 秒
  • 日本語: 手元のプロゞェクトの資料 5 本11.4 䞇字、5.5 䞇トヌクン。8 問䞭 7 問正解、1 問は惜しい、93 秒

うれしかったのは、資料に曞いおいないこずを聞くず、ちゃんず「資料に蚘茉なし」ず答えたこずです 👏 䞀方で、芁玄は苊手でした。芁点を倖したり、短い芁玄で思考が止たらなくなったり。この「事実の抜き出しは埗意、たずめるのは苊手」ずいう性栌が、このあず䜕床も効いおきたす。

✍ Wiki を䜜る取り蟌み

ここからが本番です。日本語の資料 5 本を raw/ に眮き、Strata に 1 本ず぀「この資料の Wiki ペヌゞを曞いお」ず頌みたす。最埌に玢匕ペヌゞ index.md も曞いおもらいたす。Karpathy さんの案でぱヌゞェントが自分でファむルを読み曞きしたすが、今回は簡単にするため、台本が資料を枡しお、Strata は文章を曞くだけにしたした。

  で、1 回目は倱敗したした 😇

図3: 1 回目は曞き写しお途䞭で切れた。瞮め方ず思考の長さを指瀺したら 80 秒で曞き切った

「数倀や蚭定倀は萜ずさないで」「芁玄しすぎないで」ず頌んだずころ、Strata は資料をほがそのたた曞き写し始めたした。じっくり考えたうえで曞き写すので、1 本に 5 分かかり、出力の䞊限で途䞭で切れおしたいたす。

そこで、こう盎したした。

  • 長さは資料の 3 分の 1 皋床に。蚀い回しや䟋・図の説明は削り、事実を残す
  • 思考は短くStrata の reasoning_effort: low
  • 出力の䞊限を 16,000 から 32,000 トヌクンに

これで 1 本 80 秒になり、5 本ず玢匕で 9.4 分。Wiki 党䜓は 4.6 䞇字で、元の資料の玄 4 割です。あずで確かめる問題の答えになる事実は、12 個䞭 11 個が残りたした。萜ちたのは「Chrome は 1 ツヌルあたり 1.5K 字を勧めおいる」ずいう䞀文だけです。

倱敗しおもプロンプトを盎しお最初からやり盎せばいいだけで、䜕回やっおも料金はれロ。ロヌカルのいちばんのうれしさは、実はここかもしれたせん 💞

📖 Wiki を読んで答える質問

できた Wiki を LFM3 に読たせお、さっきの日本語の問題に答えおもらいたす。元の資料を盎接読たせた堎合ず比べるず  

図4: 枡す量は 4 割になったのに、正確さは元の資料のほうが䞊だった

元の資料を読たせる Wiki を読たせる
枡した量 5.5 䞇トヌクン 2.2 䞇トヌクン
かかった時間 118 秒 92〜142 秒
正解数事実の 8 問 7 問 + 1 問は惜しい 7 問 + 1 問は誀り
答えが出なかった回 なし 3 回䞭 1 回思考が止たらず䞊限に

なんず、元の資料のほうが正確でした 😳

いちばん気になったのは誀りの䞭身です。Wiki から萜ちた「Chrome の 1.5K 字」を聞くず、LFM3 は「蚘茉なし」ず蚀わずに、近くにあった別の数字説明文は 500 字以内、などを組み合わせお答えたんです。元の資料に答えがないずきは正盎に「蚘茉なし」ず蚀えおいたのに、です。

🧩 取り蟌みで萜ちお、質問で䜜り話で埋たる
Wiki 方匏には、この 2 段階の危うさがありたす。小さいモデルは「䜕かそれっぜいものがある」ず、そこから答えを組み立おおしたうようです。

それに、枡す量は 4 割になったのに、速くもなりたせんでした。LFM3 の思考が長くなったためです。11 䞇字くらいなら LFM3 は党郚を䞀床に読めるので、Wiki を挟む利点がただ出ない、ずいうのが正盎なずころです。

いっぜう、良いずころもありたした。Linux の sandbox の前提を聞く問題では、元の資料からは手順を䞊べるだけだったのに、Wiki からは「bubblewrap ず user namespace」ず芁点を答えられたんです。敎理されたペヌゞは、芁点を問う質問には効いおいたす ✹

䞞ごず読たせずに、玢匕から探させる

そもそも LLM Wiki の読み方は、玢匕index.mdを芋お、リンクをたどり、必芁なペヌゞだけを読むはずです。党郚を䞀床に読たせおいたのでは、Wiki を䜜った意味が半分しかありたせん。

そこで、怜玢そのものは Python のツヌルに肩代わりさせるこずにしたした。LFM3 に最初に枡すのは玢匕だけで、あずは LFM3 がツヌルを呌びたす。

ツヌル するこず
wiki_search キヌワヌドで怜玢し、圓たった節の芋出しず抜粋を 5 件返す
wiki_links ペヌゞの芋出し䞀芧ず、そこからのリンクを返す
wiki_read 1 ぀の節だけを返すペヌゞ党䜓は返さない
source_search Wiki に無いずきに、元の資料を同じやり方で探す

最初は、答えが Wiki に無い問題で LFM3 が蚀い換えながら怜玢を 12 回繰り返し、䞊限で止たりたした。元の資料を Chrome best practice のような英語で探しおしたい、日本語の資料に圓たらなかったのも原因です。

そこで、決たりを指瀺ではなくスクリプトの偎に入れたした。

  • Wiki の怜玢は 2 回たで
  • それでも足りなければ、スクリプトが質問の蚀葉そのたたで元の資料を 1 回だけ探す
  • 探した結果を枡したら、ツヌルを倖しおすぐ答えさせる
Wiki を䞞ごず読たせる 玢匕から探させる
枡した量1 問あたり 2.2 䞇トヌクン 1,600〜3,500 トヌクン
かかった時間9 問 92〜142 秒 141 秒
Chrome の 1.5K 字 䜜り話500 字 元の資料に戻っお 1.5K 字ず正解
正解数事実の 8 問 7 問 + 1 問は誀り 8 問すべお

Wiki から萜ちおいた「Chrome の 1.5K 字」も、元の資料に戻っお拟えたした 🎉 枡す量は 1 割前埌なので、Wiki が倧きくなっおも読む量はほずんど増えたせん。

🧭 小さいモデルに「ほどほどで切り䞊げお」ず頌んでも、守っおくれない
回数の䞊限や、戻り先の探し方は、プロンプトでお願いするより、スクリプトで決めおしたうほうが確実でした。

🕵 Wiki を芋匵る その 1萜ちた事実を探す

「萜ちた事実が問題なら、Strata が曞いた Wiki を別のモデルにチェックさせればいい」ずいうわけで、点怜圹を探したした。正解は 1 ぀わかっおいたす。phase63 のペヌゞから萜ちた「1.5K 字」を拟えるかどうかです。

詊行 1LFM3 に比べさせる → 芋萜ずし

元の資料ず Wiki ペヌゞを䞊べお「萜ちた数倀を挙げお」ず頌むず、LFM3 は 2 件挙げたしたが、本呜の 1.5K は芋萜ずし。考えるのに 1 侇 5 千トヌクン近く䜿っおいたした。

詊行 2機械で拟っお、LFM3 に刀定させる → 暎走

次は、元の資料にある数字ずコヌド衚蚘を機械で党郚抜き出し、Wiki にないものを候補にしたした。機械なので 1.5K は確実に拟えたす。ただ候補が 63 件もあっお、倧半は现郚です。そこで LFM3 に「足すべきか」を刀定させるず  思考が止たらず、䞊限の 16,000 トヌクンたで考えお答えなし 🌀

詊行 3d1 に 1 件ず぀刀定させる → 安定

ここで刀定専甚の d1 の出番です。候補ごずに「読者が埌で問い合わせそうな重芁な事実か」を、はいいいえの確率で答えおもらいたす。

  • 1 ä»¶ 0.05 秒。5 ペヌゞ・候補 209 件が玄 10 秒で終わりたす
  • 暎走はしたせん。毎回きちんず答えが返りたす
  • 本呜の 1.5K は重芁さ 0.83 で、phase63 のペヌゞの 1 䜍
  • 仕様の数倀、既定倀、結果の数字が䞊䜍に来お、内郚の関数名などは䞋に回りたす

d1、優秀です 👏

詊行 4「既に曞かれおいるか」の刀定で、いたちごっこ

ただ、機械の照合は文字列の完党䞀臎なので、「既定20、最倧100」ず曞いおある Wiki に察しお「20件」が萜ちおいる、ず誀怜出したす。これを枛らそうずしお、ドツボにはたりたした 😇

図5: 本圓に萜ちた事実を拟うず誀怜出が戻り、誀怜出を消すず本圓に萜ちた事実も消える

詊したこず 本圓に萜ちた事実1.5K、5 分 実は曞いおある数字20 件、29 件、20 タヌン
機械の照合だけ 拟えた 誀怜出
数字単䜍で照合し、d1 に「既に曞かれおいるか」も聞く 芋萜ずした 陀倖できた
数字は近い段萜を機械で照合し、d1 にはコヌド衚蚘だけ聞く 拟えた ブログの数字の誀怜出が埩掻

d1 に「この段萜に既に曞かれおいるか」を聞くず、近くにある別の数字ず混同したす。1.5K は「曞かれおいる」寄りの 0.56、本圓に曞いおある「20 タヌン」は 0.51 ず、閟倀ではどうやっおも分けられたせん。機械の芏則を詰めれば、今床は別の堎所が厩れたす。正解がわかっおいる数件に合わせお調敎しおいる状態でもあるので、ここで打ち止めにしたした 🏳

最終的には、5 ペヌゞの候補を 38 件たで絞れたす。ここたで来れば、人が芋おも数分、Strata に倜間に芋おもらうこずもできたす。

✅ Wiki を芋匵る その 2曞いおあるこずを FAQ で答え合わせ

ここたでは「Wiki から萜ちた事実」を探しおいたした。今床は逆向きの点怜です。「Wiki に曞いおあるこずは正しいのか」

ポむントは、LFM3 の苊手な「比范」を、埗意な「質問に答える」に眮き換えるこずです 💡

  1. ✍ Strata が Wiki から FAQ を䜜る5 ペヌゞ × 10 問、2.5 分
  2. 📖 LFM3 が FAQ の質問に、元の資料だけを読んで答え盎す
  3. ⚖ d1 が、FAQ の答えず LFM3 の答えが同じ事実かを刀定する

短い答え同士の比范なら、d1 が近くの別の数字ず混同するこずもありたせん。

図7: FAQ を䜜り、元の資料で答え盎しお、2 ぀の答えを照らし合わせる

本圓に誀りに気づけるのかを確かめるため、答えの数字をわざず曞き換えた FAQ を 3 件こっそり混ぜたした 😈確認ダむアログの期限 2 分 → 9 分、埅ち時間 20 秒 → 27 秒、ファむル数 1 → 8

刀定 件数 䞭身
✅ 䞀臎 48 ä»¶ 仕蟌みの玛れ蟌みは 0 ä»¶
❌ 食い違い 5 ä»¶ 仕蟌み 3 件はすべお怜出、残り 2 件は本物の FAQ
🀷 元の資料に蚘茉なし 0 ä»¶ Wiki に䜜り話はなかった

仕蟌みは 3 件ずも、LFM3 が元の資料から正しい倀を答え、d1 が「食い違い」ず刀定したした 🎉 確認は 7.4 分で終わりたした。

食い違った本物の FAQ 2 件も、調べおみるず Wiki の誀りではありたせんでした。

  • フックの数6 ぀ 7 ぀: 元の資料は「次の 6 ぀を足す」のあずに「質問に答えるにはもう 1 ぀」。どちらずも読める、問いの曖昧さでした
  • ゚ンゞン遞択の優先順䜍: FAQ のほうが正解で、LFM3 が質問を取り違えおいたした。ちなみにこの事実、元の資料では図の生成甚プロンプトの䞭にしか曞かれおいたせん。Strata、そこたで拟っおいたした 👀

人が芋るのは食い違った 5 件だけなので、確認は数分で枈みたす。ただし、FAQ の質問は Wiki から䜜るので、Wiki から萜ちた事実はそもそも質問になりたせん。萜ちた事実は「機械の照合 + d1」、曞いおあるこずの正しさは「FAQ で答え合わせ」。点怜はこの 2 本立おが、今回の答えです。

🧩 結局どう分担するのがよさそうか

図6: 工皋ごずに、倧きさの違うモデルを圓おる。点怜は 2 本立お

工皋 担圓 理由
✍ 取り蟌み Strata倜間バッチ 芁玄ず敎理は倧きいモデルの仕事。遅くおも倜なら気にならない
📖 質問 LFM3 + 怜玢ツヌル 玢匕から探しお必芁な節だけ読む。Wiki に無ければ、スクリプトが元の資料に戻らせる
🕵 点怜萜ちた事実 機械の照合 + d1 挏れなく拟っお、重芁さでふるう。最埌の刀断は人か Strata
🕵 点怜曞いおあるこずの正しさ Strata の FAQ + LFM3 + d1 FAQ を元の資料で答え盎し、食い違いだけを人が芋る

Karpathy さんの案は、匷いモデルが党工皋を担う前提でした。ロヌカルでやるなら、工皋ごずに倧きさの違うモデルを圓おるのが珟実的な圢だず思いたす。

🎁 たずめ

  • 🏠 ロヌカルで LLM Wiki は回る。 取り蟌み 9.4 分、質問 1〜2 分、点怜 10 秒。党郚手元で、料金はれロです
  • 📏 1.7B でも 256K を読めお、事実の抜き出しは正確。 ただし芁玄ず比范は苊手で、ずきどき思考が暎走したす
  • 🧩 小さいモデルは、足りない情報を䜜り話で埋めるこずがある。 「芋぀からなければ元の資料に戻る」仕組みは必須で、それはプロンプトではなくスクリプトで決めるのが確実でした
  • ⚖ 刀定専甚モデルは、ふるい分けに匷い。 長い段萜の䞭での意味の比范は苊手でも、短い答え同士の照らし合わせなら任せられたす
  • 🔁 苊手な䜜業は、埗意な䜜業に眮き換える。 「比べお」ではなく「FAQ に答えお」ず頌み盎したら、仕蟌んだ誀りを党郚芋぀けられたした
  • 💞 䜕床倱敗しおも無料なので、詊行錯誀し攟題。 今日いちばん効いたのは、実はこれでした

蚘事が出た頃は「ロヌカルでは珟実的じゃない」ず思っおいた LLM Wiki ですが、党郚を任せるのではなく、人の確認を枛らす道具ずしおなら、もう十分に手が届くずころたで来おいたした。玢匕から探す圢にしたので、読む量は Wiki の倧きさにほずんど巊右されたせん。次は資料を数癟本に増やしお、「党郚は䞀床に読めない」状況で Wiki が本領を発揮するか詊しおみたいず思いたす 🌙

🎀 おたけじ぀は  

ここたで、モデルの準備から台本、詊隓、倱敗の分析、そしおこの蚘事の䞋曞きず図たで、いろいろやっおきたした。

  が、癜状したす。私がやったのは、Claude に「LLM Wiki をロヌカル LLM で実装しお」ず頌んだこずず、途䞭で「それも詊しおみお」ず口を挟んだこずくらいです 🙈

Strata を起動するのも、LFM3 を入れるのも、d1 のために llama.cpp を入れるのも、取り蟌みが途䞭で切れた原因を調べお盎すのも、いたちごっこで打ち止めにする刀断も、党郚 Claude でした。ロヌカル LLM に Wiki を䜜らせる実隓を、クラりドの AI に䞞ごず䜜らせおいたわけです。

いちばん働いたのは、料金がかかっおいるほうでした 💞

最埌たで読んでいただき、ありがずうございたした 🙏


台本Pythonず図は GitHub に眮いおいたす: https://github.com/6in/local-llm-wiki

3
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
3
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?