社内Wikiが400ページを超えたあたりから、「あの手順どこに書いてあったっけ」を探すだけで15分溶かす日が増えました。私はこの課題をベクトルDBベースのRAGで解決してきたのですが、最近「ベクトル検索を一切使わずにGraphRAGを組んだ」という記事を見つけ、自分のやり方と並べて検証したくなりました。
元記事:「判断特化型GraphRAG」という発想
参考にしたのは kikuziro さんの 判断特化型GraphRAGをJevを使って構築してみた(ベクトル未使用) です。記事によると、要点は次の3つでした。
- Jev(TypeSafe AI製)という、文章生成ではなく「はい/いいえ」の確からしさを0〜1のスコアで返す判断特化型モデルを使っている
- 従来のGraphRAGは「エンティティ・関係の抽出」も「どの線をたどるか」もLLMに任せがちで費用がかさむが、著者はそのほとんどが「はい/いいえで済む判断」だと気づき、判断はJevに、回答文の生成だけをLLMに任せる役割分担にした
- 9種別・12種類の関係・212件のエンティティをマスターとして事前に用意し、質問の出発点から最大3ホップまで隣接ノードを辿りながら「もう答えられる?」をJevに判定させる検索フローを組んだ
記事内の35問の検証では、同じグラフ・同じLLMで比較した場合、判断費用はJev活用がLLM判断より4倍以上安く、ホップが必要な質問での正確さでも上回ったと報告されています。登録時のコストも、文章330件×エンティティ212件を総当たりすると約69,960回の判定が必要になるところ、候補を絞り込むことで1質問あたりのJevへの入力を約70,000トークンから6,400トークンまで圧縮できたとのことでした。ベクトルを一切使わずにここまでやれるのか、というのが最初の感想です。
自分のベクトル型RAGはどう作ったか
私がこの構成に行き着いたきっかけは、別の案件で紙の契約書を電子化した経験でした。押印・郵送ベースで契約締結まで平均2週間かかっていた業務を、作成・送付・署名・保管までまるごとオンライン化し、過去の契約書もPDF化して全文検索可能にしたところ、リードタイムが2週間→平均2日に縮み、検索性も大幅に向上したことがあります。「溜め込んだ文書を検索可能にするだけで現場が変わる」というこの時の手応えを社内Wikiにも持ち込もうと考え、全ページをMarkdownに変換してベクトルDBに格納し、Claude APIをバックエンドにした質疑応答システムを作りました。
結果として、Wikiを探し回っていた時間は大きく減り、利用者からの評判も悪くありません。ここで一番時間を使ったのが、ベクトルDBのチャンクサイズ調整でした。私の場合は500〜1,000トークンが実用上の落としどころで、小さすぎると文脈が途切れて回答が的外れになり、大きすぎると関係ない情報まで拾って回答がぼやけました。
どれくらいチャンク数が変わるか、イメージしやすいように簡易スクリプトで試してみました(実際のトークナイザではなく、日本語ではおおむね1文字≒1トークン程度という目安で近似した概算です。英語でよく言われる「4文字≒1トークン」は日本語にはそのまま当てはまりません)。
// chunk-split-demo.js(Node.js v23.6.1で実行確認)
// 社内Wiki想定の5ページ分(文字数のみダミー)を、文字数ベースのチャンク分割にかける簡易デモ。
// 日本語は英語の「4文字≒1トークン」が当てはまらず、おおむね1文字≒1トークン程度とされる目安で
// 近似しているだけで、実際のトークナイザの挙動ではない。
const CHARS_PER_TOKEN = 1;
function splitIntoChunks(totalChars, targetTokens, overlapTokens) {
const targetChars = targetTokens * CHARS_PER_TOKEN;
if (totalChars <= targetChars) return 1;
const overlapChars = overlapTokens * CHARS_PER_TOKEN;
const stride = targetChars - overlapChars;
if (stride <= 0) throw new Error('overlapTokens must be smaller than targetTokens');
return Math.ceil((totalChars - overlapChars) / stride);
}
const pages = [
{ name: '利用規約まとめ', chars: 3200 },
{ name: '障害対応手順書', chars: 18400 },
{ name: '新人オンボーディング', chars: 42000 },
{ name: 'API仕様書', chars: 9800 },
{ name: '月次会議議事録テンプレ', chars: 2600 },
];
for (const target of [500, 1000]) {
console.log(`--- target=${target}tok, overlap=50tok ---`);
for (const page of pages) {
console.log(`${page.name}(${page.chars}字) -> ${splitIntoChunks(page.chars, target, 50)}チャンク`);
}
}
実行結果(2026-10-14):
--- target=500tok, overlap=50tok ---
利用規約まとめ(3200字) -> 7チャンク
障害対応手順書(18400字) -> 41チャンク
新人オンボーディング(42000字) -> 94チャンク
API仕様書(9800字) -> 22チャンク
月次会議議事録テンプレ(2600字) -> 6チャンク
--- target=1000tok, overlap=50tok ---
利用規約まとめ(3200字) -> 4チャンク
障害対応手順書(18400字) -> 20チャンク
新人オンボーディング(42000字) -> 45チャンク
API仕様書(9800字) -> 11チャンク
月次会議議事録テンプレ(2600字) -> 3チャンク
このスクリプト自体は性能を測ったものではなく、チャンクサイズを変えるとチャンク数がどれだけ変わるかを可視化するためのデモです。500トークンだと長いページ(新人オンボーディング)が94分割され、1,000トークンだと45分割に減る。この「分割され過ぎると文脈が切れる」感覚を数値で掴むのに役立ちました。
Jevという判断特化モデルを公式ドキュメントで確認する
元記事が使っているJevが実際どういうものか、TypeSafe AI公式ドキュメントで確認しました(確認日2026-10-14)。入力はテキストのみ対応で、料金は入力側が100万トークンあたり0.042ドル・出力トークンは無料という設計でした。レート制限は1秒あたり10万トークンかつ80リクエスト、コンテキスト長は1リクエストあたり64kトークンまで、かつ状態情報と最長の質問を合わせた部分は32kトークンまでという制約です。
この仕様を見て腑に落ちたのは、Jevが「長い文章を生成する」用途ではなく「短い判断を大量に繰り返す」用途に最適化された価格・制限になっている点でした。出力が無料なのは、返す値が「はい/いいえ」や確信度スコアのような短い出力だからこそ成立する価格設計に見えます。元記事の「エンティティ抽出や関係判定はどれもはい/いいえで済む」という切り口は、このJevの仕様とかみ合っています。
一般的なGraphRAGとの違いも確認しておく
ベクトルを使わないGraphRAGがどれだけ特殊なのか、比較のためにGraphRAGの代表的な実装であるMicrosoft ResearchのGraphRAG公式ドキュメントも確認しました(確認日2026-10-14)。こちらのインデックス処理では、テキストユニットからLLMで「エンティティ・関係性・主要な主張」を抽出し、抽出したグラフをLeiden法で階層的にクラスタリングして、コミュニティ単位の要約をボトムアップで生成する構成になっています。
つまりMicrosoft版のGraphRAGでも、グラフを組み立てる部分自体はLLMに任せるのが基本形です。一方で検索時は、公式ドキュメントによるとGlobal Searchがコミュニティ要約を使って全体像を推論し、Local Searchは特定のエンティティとその隣接概念に展開する仕組みで、少なくともこの実装では「どの線をたどるか」を毎ホップLLMに判断させる構成ではありません。元記事が「判断特化型」と呼んでいるのは、このLLM依存の判断部分を、生成しない・短い出力しか返さないJevに置き換えた応用形という位置づけだと理解しました。ベクトル検索を使わないこと自体より、「どの処理にどのモデルを割り当てるか」という役割分担の設計のほうが本質的な差別化ポイントに見えます。
比較表:自分のベクトル型RAG vs 判断特化型GraphRAG
| 観点 | 私のベクトル型RAG(Wiki+Claude API) | 元記事の判断特化型GraphRAG(Jev) |
|---|---|---|
| 検索の単位 | チャンク単位の類似度検索 | エンティティ・関係のグラフ探索(最大3ホップ) |
| 判断の担い手 | ベクトル距離(埋め込みモデル) | Jevによる0〜1の確信度スコア |
| 事前準備の重さ | チャンク分割・埋め込み生成のみ | 9種別・12関係・212エンティティのマスター設計が必要 |
| 強いクエリ | 自由文の曖昧検索・類似ドキュメント探索 | 「AとBに関係あるか」のような関係性を辿る質問 |
| 運用コスト感 | チャンクサイズのチューニングが主な手間 | マスター設計とスコア閾値の調整が主な手間(元記事いわく「めちゃめちゃ大変」) |
| 自分で試せたか | 実運用中の自分のデータ | 未実行(Jevのマスター設計から必要で今回は組めず) |
この表を作っていて気づいたのは、どちらも「最初の設計」に最も時間がかかる構造だということです。私の場合はチャンクサイズの試行錯誤、元記事の場合はエンティティとリレーションのマスター設計とスコア閾値の調整。ベクトルかグラフかという軸より、「何にどれだけ事前投資できるか」のほうが選定の決め手になりそうだと感じました。
自分のナレッジ運用の悩みにどこまで刺さるか
Wikiの検索を速くした後、次に困ったのは「AIがどこまで自分で答えてよいか」の線引きでした。これは以前、社内規程とFAQをナレッジベース化したチャットボットをSlackに組み込んだときにも同じ壁にぶつかっています。このときは、回答できない質問だけ人間にエスカレーションする設計にしたところ、総務への問い合わせが1日30件程度から1日9件程度まで減りました。判断特化型GraphRAGの「判断はJev、生成はLLM」という役割分担を見て、この「どこまでを機械的な判断に任せ、どこから人間や生成モデルに渡すか」という線引きの話そのものだと感じました。
もう一つ近い経験があります。複数のAIエージェントでタスクを引き継ぐとき、セッション終了時にhandoffファイルを自動生成し、次のセッションはそれを読むだけで前回どこまで進んだかを復元できるようにしたことがあります。判断特化型GraphRAGのグラフ探索も、結局は「今ある情報でもう答えられるか」を毎ホップ判定しながら文脈を引き継いでいく構造で、この時の「判断に必要な最小限の状態だけを引き継ぐ」という設計思想と重なって見えました。
今の自分のWiki RAGにこの発想を持ち込むなら、全面的にグラフへ組み替えるのではなく、「関係性を辿る質問だけは判断特化モデルに振り分ける」部分的な取り入れ方が現実的だと思います。マスター設計のコストを考えると、まずは問い合わせの多いFAQ領域だけで小さく試すのが自分の運用には合っていそうです。
まとめ
結局のところ、「ベクトルを使うかどうか」は入り口の違いに過ぎず、本質は「どの処理にどのモデル(埋め込み・判断特化・生成)を割り当てるか」という役割分担の設計だと今回の検証であらためて納得しました。私のベクトル型RAGはチャンクサイズの調整だけで実用レベルに届きましたが、関係性を辿るタイプの質問には弱く、そこは判断特化型GraphRAGの土俵だと感じています。次は、自分のWikiデータの一部だけでも9種別程度のマスターを組んで、関係性クエリだけJev的な判断モデルに振り分けるミニ実験をやってみたいと思っています。
今回は元記事とのアプローチ比較と、自分のWikiの規模を想定したチャンク数の試算までを書きました(Jev・GraphRAG自体はまだ動かしていません)。実際に自分のデータで9種別程度のマスターを組んで関係性クエリを判断特化モデルに振り分けるミニ実験は、別記事で扱う予定です。Claude Codeや個人のナレッジ運用まわりで試したことを不定期に書いているので、続きが気になる方は フォロー をどうぞ。