はじめに
RAG(Retrieval-Augmented Generation) とは、外部知識の検索と大規模言語モデル(LLM)の生成能力を組み合わせたハイブリッド技術アーキテクチャです。LLM単体では ハルシネーション(事実に基づかない生成)、知識の陳腐化、社内独自データへのアクセス不可 といった問題がありますが、RAGはこれらを大きく緩和します。
RAGの本質: LLMに「調べてから答える」能力を持たせること。人間が論文を書く前にリサーチするのと同じアプローチです。
RAGが注目される理由
| 課題 | LLM単体 | RAG導入後 |
|---|---|---|
| ハルシネーション | 頻繁に発生 | 検索結果に基づく生成で大幅に削減 |
| 知識の鮮度 | 学習データの時点で固定 | 外部知識ベースをリアルタイムに参照 |
| 社内データ活用 | 不可能 | ベクトルDB / ナレッジグラフ経由で利用可能 |
| 回答の根拠提示 | 困難 | 参照ドキュメントの引用が可能 |
ただし、RAGは固定の構造ではなく、柔軟に進化できるシステムアーキテクチャ です。本記事では、3つのカテゴリ・17種類のRAG実装手法の技術原理を体系的に解説し、最適な方式を選ぶためのフレームワークを提示します。
全体アーキテクチャマップ
📄 カテゴリ1: 文書分割戦略(方法1〜5)
RAGパイプラインの品質は 「どのようにドキュメントを分割するか」 に大きく左右されます。Ingestionパイプラインの品質がシステム全体の品質の50〜60%を決定するとも言われています。
方法1: Simple RAG(基礎版RAG)
原理
最もシンプルなRAGパターンで、以下の直線的パイプラインで構成されます:
ユーザークエリ → Embedding → ベクトル検索(Top-K) → LLM生成 → 回答
- ドキュメントを固定長チャンクに分割
- 各チャンクをEmbeddingモデルでベクトル化し、ベクトルDBに格納
- ユーザーの質問もベクトル化し、コサイン類似度で最も近いチャンクをTop-K検索
- 検索結果をプロンプトに結合してLLMに渡し、回答を生成
特徴
| 項目 | 詳細 |
|---|---|
| レイテンシ | 100〜500ms |
| コスト/クエリ | $0.001〜$0.01 |
| 実装難易度 | ⭐(最も簡単) |
| 適用シーン | 単純なQ&A、チャットボット、ドキュメント検索 |
利点と課題
✅ 利点:
- 高速でシンプル。プロトタイプは半日で構築可能
- デバッグが容易(線形パイプライン)
- コストが最も低い
❌ 課題:
- 語彙の不一致問題(例:ユーザーが「解約」と言い、ドキュメントが「契約終了」と記載)
- 品質フィードバックループがない
- 複数ドキュメントにまたがる推論ができない
- チャンク境界で意味が分断されるリスク
ツール
- ベクトルDB: FAISS, Pinecone, Weaviate, Qdrant, pgvector
- フレームワーク: LangChain, LlamaIndex
方法2: Semantic Chunking(語義分割)
原理
固定長ではなく、テキストの意味的な境界 に基づいてドキュメントを分割します。文のEmbedingベクトル間の類似度が大きく変化する地点を分割点とすることで、各チャンクが意味的に完結した単位になります。
文書 → 文単位に分割 → 各文をEmbedding → 隣接文間の類似度を計算
→ 類似度が急激に低下する箇所で分割 → 意味的に完結したチャンク群
特徴
- チャンクの意味的完結性を保証
- 検索のRecall(再現率)が向上
- 技術的な文書、論文などで特に効果的
技術構成
- NLTK + Transformer Embedding + 動態ウィンドウ切割
- LangChain
SemanticChunker - Sentence-Transformerモデルによる文間類似度計算
利点と課題
✅ Fixed-sizeと比較してRecallが向上(特に技術文書)
✅ 文の途中で切れることがない
❌ Embeddingの計算コストが増加
❌ チャンクサイズのばらつきが大きい
方法3: Context Enriched Retrieval(コンテキスト増強検索)
原理
各チャンクに 前後の隣接段落 を含めて「チャンク + コンテキスト」の完全な意味入力を実現します。
[前のチャンク] + [対象チャンク(検索対象)] + [後のチャンク]
↓
結合して LLM に入力
小さなチャンクで精密にマッチングし、実際にLLMに渡すときは親チャンク(より広いコンテキスト)を返す「Parent-Child方式」とも呼ばれます。
特徴
- コンテキストが豊富になり、回答精度が向上
- スライディングウィンドウ方式の分割をサポート
- 代名詞参照(「それは…」「この場合…」)の解決に有効
利点と課題
✅ コンテキスト欠落による誤回答を大幅に削減
✅ Sementic Chunkingと組み合わせ可能
❌ トークン消費量が増加
❌ チャンク間の重複が発生
方法4: Contextual Chunk Headers(チャンクヘッダー付与)
原理
章名、セクションタイトルなどの 構造的メタデータ を各チャンクに付与し、本文と一緒にベクトル化します。
元のチャンク: "売上は前年比120%で推移した。"
↓ ヘッダー付与
拡張チャンク: "[2024年度 四半期決算報告 > 売上セクション] 売上は前年比120%で推移した。"
特徴
- 分類とコンテキスト提示能力が強化される
- 構造が明確なドキュメント(マニュアル、レポート、法律文書)に特に有効
- メタデータフィールドを検索時のフィルタとしても活用可能
利点と課題
✅ 同一キーワードでも異なるセクションの区別が可能
✅ 検索精度の向上
❌ ドキュメントの構造解析が必要
❌ 非構造化テキストには適用しにくい
方法5: Document Augmentation(ドキュメント拡張)
原理
各ドキュメントに対して 複数の「ビュー」(視点) を生成し、統一的にベクトルDBに格納します。
1つのドキュメント → {タイトル, 要約, 本文, キーワード, メタデータ, Q&A形式}
↓
すべてを個別にEmbedding → ベクトルDBに格納
特徴
- 多角度から検索ヒット率を向上
- LLMを使ってドキュメントから想定される質問を事前生成する手法もある
- 1つのソースに対して複数の検索パスを提供
ツール
- ChunkRAG, DocView RAG
- LlamaIndex
MultiVectorRetriever
利点と課題
✅ 検索網羅率が大幅に向上
✅ 様々なクエリパターンに対応
❌ インデックスサイズの増大
❌ 前処理コスト(LLM API呼び出し)の増加
🔍 カテゴリ2: 検索・ランキング強化(方法6〜9)
分割済みチャンクの検索品質とランキング精度を向上させる技術群です。Retrieval(検索) ステップこそがRAGの最重要ボトルネックであり、生成品質の73%は検索品質に起因するという分析もあります。
方法6: Query Transformation(クエリ変換・書き換え)
原理
ユーザーの入力クエリをLLMで 複数の同義表現 に変換し、それぞれで検索を実行します。
主な手法
| 手法 | 説明 |
|---|---|
| Multi-Query | 1つの質問→複数の同義質問に展開 |
| Sub-Question | 複雑な質問→複数のサブ質問に分解 |
| Step-Back Prompting | より抽象度の高い質問に変換して検索 |
ツール
- LangChain
MultiQueryRetriever - LlamaIndex
SubQuestionQueryEngine
利点と課題
✅ 低品質な入力(曖昧な質問、省略表現)のRecallを大幅改善
✅ 語彙の不一致問題を緩和
❌ LLM呼び出し回数の増加(コスト・レイテンシ)
❌ 変換クエリの品質がLLMに依存
方法7: Reranker(リランキング/重排序)
原理
初回検索で取得したTop-K候補に対して、Cross-Encoder 等の精密モデルで 再スコアリング・再順位付け を行います。
初回検索(高速・粗いマッチング)→ Top-50候補
↓
Reranker(精密スコアリング)→ Top-5に絞り込み
↓
LLM 生成
なぜ必要か?
- Bi-Encoder(Embedding検索)は高速だが精度に限界がある
- Cross-Encoderはクエリと各ドキュメントを一対で精密に評価
- 最もROI(投資対効果)の高いRAG改善手法 と広く認められている
代表モデル
| モデル | 特徴 |
|---|---|
| Cohere Reranker | API形式で簡単に利用可能 |
| MonoT5 | T5ベースの再ランキングモデル |
| bge-reranker | オープンソースで高精度 |
| LLM-based Reranker | LLM自体に関連度スコアリングさせる |
利点と課題
✅ 精度が劇的に向上(Precision改善率が最も高い)
✅ ハルシネーションの削減
✅ コンテキストウィンドウの縮小 → コスト削減
❌ レイテンシの増加(Cross-Encoderの推論時間)
❌ 候補数に比例してコスト増
方法8: RSE(Relevant Span Extraction — 関連スパン抽出)
原理
長文ドキュメントから質問に最も関連する 特定の文・段落(スパン) を抽出します。チャンク全体ではなく、ピンポイントで必要な箇所を特定します。
長文ドキュメント → Cross-Encoder + Pointer Network
→ 最も関連する文・段落のみ抽出
→ LLM に入力
特徴
- 精密な回答が可能
- トークン効率が高い
- 長文ドキュメント(論文、法律文書、契約書)で特に有効
利点と課題
✅ 不要な情報を排除し、ピンポイントな回答
✅ トークンコスト削減
❌ 実装が複雑(Pointer Network等)
❌ スパン境界の決定が難しいケースがある
方法9: Contextual Compression(コンテキスト圧縮)
原理
検索結果に対して 情報圧縮 を実行し、無関係な内容を除去して、核心となる文・段落のみを保持します。
検索結果(Top-K チャンク)
↓ LLM / 抽出モデルによる圧縮
「クエリに関連する部分のみ」を抽出
↓
圧縮されたコンテキスト → LLM 生成
ツール
- LangChain
ContextualCompressionRetriever -
LLMChainExtractor/EmbeddingsFilter
利点と課題
✅ トークンコストの大幅削減
✅ 入力効率の向上 → 生成品質の改善(「Lost in the Middle」問題の緩和)
❌ 圧縮時に重要情報を誤って除去するリスク
❌ 圧縮処理自体のレイテンシ・コスト
⚙️ カテゴリ3: 後処理・フィードバック最適化(方法10〜17)
検索・生成の後処理、フィードバックループ、高度なパイプライン制御を行う技術群です。
方法10: Feedback Loop(フィードバックループ)
原理
ユーザーのクリック行動、満足度評価、回答の採用/棄却などのデータを収集し、検索ランキングモデルの継続的な最適化 に活用します。
特徴
- 「人間のフィードバック → システム進化」の閉ループ
- 長期運用で検索品質が継続的に向上
- スマートカスタマーサポート、企業ナレッジベースで広く使用
利点と課題
✅ 使うほど賢くなるシステム
✅ ドメイン固有の検索精度が向上
❌ 初期データが不足している段階では効果が限定的
❌ フィードバック収集の仕組み構築が必要
方法11: Adaptive RAG(自適応RAG)
原理
小規模モデルやルールエンジンで クエリの種類・複雑度を判定 し、検索戦略を動的に切り替えます。
特徴
| 判定結果 | 選択される戦略 |
|---|---|
| 単純な事実質問 | Simple RAG(低コスト・高速) |
| 曖昧な質問 | Query Transformation + Reranker |
| 複数文書横断 | Multi-hop Retrieval |
| LLM が直接回答可能 | 検索スキップ(Self RAG的判断) |
ツール
- LangChain
Router+MultiVectorRetriever - LangGraph によるステートマシン
利点と課題
✅ コストとパフォーマンスの最適なバランス
✅ 多様なビジネスシーンに1つのシステムで対応
❌ ルーティングロジックの設計・チューニングが複雑
❌ 誤分類時のフォールバック設計が重要
方法12: Self RAG(自己決定RAG)
原理
LLM自身が 「外部知識の検索が必要かどうか」を判断 します。直接回答可能な場合は検索をスキップし、必要な場合のみ検索パイプラインを起動します。
ユーザークエリ → LLM が自己判定:
├── "直接回答できる" → そのまま生成(検索なし)
└── "外部情報が必要" → 検索実行 → 検索結果を評価 → 生成
↓
検索結果が不十分なら再検索
プロンプト例
あなたはこの質問に直接回答できますか?
回答できない場合は、必要な情報を具体的に説明してください。
Self RAGの3つの自己評価トークン
- Retrieve Token: 検索が必要かどうか判定
- ISREL Token: 検索結果がクエリに関連するか判定
- ISSUP Token: 生成結果が検索結果に裏付けられているか判定
利点と課題
✅ 不要な検索をスキップし、効率・コストを改善
✅ 回答の自己批評・自己修正が可能
❌ 自己判定の精度がモデル能力に依存
❌ 「検索すべきだったのにスキップした」ケースのリスク
方法13: Knowledge Graph RAG(知識グラフRAG)
原理
ドキュメントを 構造化された三元組(Subject → Predicate → Object) のグラフに変換し、グラフ検索やパス推論を通じて関連情報を取得します。
ドキュメント → エンティティ抽出・関係抽出
→ 知識グラフ構築(三元組)
→ グラフDB に格納
クエリ → エンティティ認識 → グラフ探索 → 関連パス取得 → LLM 生成
特徴
- 意味的な連想・推論 が可能(例:「AはBの上司で、BはCのプロジェクトメンバー」→「AはCの管理者」)
- エンティティ間の関係を明示的に説明可能
- ベクトル検索では捉えにくい 構造的な関係性 を活用
ツール
- Neo4j + LLM
- KGLM + グラフ埋め込みモデル
- Microsoft GraphRAG(コミュニティ要約方式)
利点と課題
✅ エンティティ間の複雑な関係を推論可能
✅ ベクトル検索と相補的に使用可能
✅ 回答の説明可能性が高い
❌ 知識グラフの構築・維持コストが高い
❌ ドメイン固有のスキーマ設計が必要
方法14: Hierarchical Indices(階層的インデックス)
原理
ドキュメントに対して 複数階層の索引構造 を構築し、段階的に検索をかけて計算コストを削減します。
レベル1: 文書全体の要約(粗い検索) → 候補文書を絞り込み
レベル2: セクション単位のインデックス → 該当セクションを特定
レベル3: チャンク単位のインデックス → 最終的な関連チャンクを取得
技術
- Nested FAISS / TreeIndex
- LlamaIndex
TreeIndex/ComposableGraph
利点と課題
✅ 大規模コーパスでの検索コスト削減
✅ 段階的フィルタリングでPrecision向上
❌ インデックス構築の前処理が複雑
❌ 階層設計がドメイン依存
方法15: HyDE(Hypothetical Document Embedding — 仮想ドキュメント埋め込み)
原理
LLMに まず「理想的な回答」を仮生成させ、その仮回答をEmbeddingして逆方向から関連ドキュメントを検索します。
なぜ有効か?
- ユーザーのクエリ(質問文)とドキュメント(回答文)は 文体が根本的に異なる
- 仮回答は回答文の文体で書かれるため、ドキュメントとの類似度が高くなる
- Zero-shot(事前学習なし) での検索精度を大幅に向上
適用シーン
- ドキュメントが断片化している場合
- 長い質問文や複雑な問い
- SaaS / 技術R&D のナレッジベース
利点と課題
✅ クエリとドキュメント間の語彙ギャップを解消
✅ Zero-shotでの検索精度が向上
❌ 仮回答の生成にLLM呼び出しが必要(レイテンシ増加)
❌ 仮回答自体が不正確な場合、検索結果が偏る
方法16: Fusion RAG(結果融合検索)
原理
複数の検索チャネル を同時に使用し、結果を統合(融合)してランキングします。
ユーザークエリ
├── セマンティック検索(Dense / ベクトル)→ 結果A
├── キーワード検索(Sparse / BM25) → 結果B
└── (オプション)メタデータフィルタ → 結果C
↓
Reciprocal Rank Fusion (RRF) でスコア統合
↓
統合ランキング → LLM 生成
Hybrid Search の効果
| 検索手法 | 得意 | 苦手 |
|---|---|---|
| Dense(ベクトル) | 意味的に類似した表現 | 正確なキーワードマッチ |
| Sparse(BM25) | 正確なキーワード、固有名詞 | 言い換え表現 |
| Hybrid(融合) | 両方をカバー | 設定チューニングが必要 |
Hybrid Search は Pure Semantic Search を一貫して上回る ことが実証されています。
ツール
- Pinecone(Hybrid Search)+ Elasticsearch
- Weaviate Hybrid Search
- Azure AI Search(Semantic Ranker + BM25)
利点と課題
✅ 精度(Precision)と再現率(Recall)のバランスが最良
✅ キーワード検索とセマンティック検索の弱点を相互補完
❌ 複数の検索インフラの運用コスト
❌ 融合スコアリングのチューニングが必要
方法17: CRAG(Corrective RAG)
原理
検索 前 にユーザーの入力を 誤字修正・文法修正・文脈補完 するモジュールを設け、検索品質を向上させます。さらに、検索 後 にも結果の品質を評価し、不十分であれば代替ソース(Web検索等)にフォールバックします。
CRAGの3つの判定結果
| 判定 | アクション |
|---|---|
| Correct | 検索結果をそのまま使用して生成 |
| Incorrect | Web検索等の代替ソースにフォールバック |
| Ambiguous | クエリを修正して再検索 |
ツール
- SpellCheck + Query Rewriter + Prompt Template
- LangGraph による条件分岐ワークフロー
利点と課題
✅ 非専門家の質問(誤字あり、曖昧)への対応力が大幅向上
✅ 検索結果の品質保証メカニズムが組み込まれている
✅ Web検索へのフォールバック機能
❌ パイプラインの複雑度が増加
❌ 品質評価モデルの精度に依存
17種類のRAGアーキテクチャ — 総括比較表
| # | 手法名 | カテゴリ | 原理(一言で) | 主な適用シーン | 実装難易度 | コスト影響 |
|---|---|---|---|---|---|---|
| 1 | Simple RAG | 文書分割 | 固定長分割 + ベクトル検索 | シンプルなQ&A、PoC | ⭐ | 低 |
| 2 | Semantic Chunking | 文書分割 | 語義に基づく動的分割 | 技術文書、論文 | ⭐⭐ | 中 |
| 3 | Context Enriched | 文書分割 | 前後コンテキストを付加 | 文脈依存の回答 | ⭐⭐ | 中 |
| 4 | Chunk Headers | 文書分割 | 構造メタデータ付与 | マニュアル、レポート | ⭐⭐ | 低 |
| 5 | Doc Augmentation | 文書分割 | 複数ビューの生成・格納 | 多様なクエリパターン | ⭐⭐⭐ | 高 |
| 6 | Query Transform | 検索強化 | クエリの多角的変換 | 曖昧な質問への対応 | ⭐⭐ | 中 |
| 7 | Reranker | 検索強化 | Cross-Encoderで再順位付け | 全般(最も推奨) | ⭐⭐ | 中 |
| 8 | RSE | 検索強化 | 関連スパンのピンポイント抽出 | 長文書、法律・契約 | ⭐⭐⭐ | 中 |
| 9 | Compression | 検索強化 | 無関係情報を除去・圧縮 | トークンコスト最適化 | ⭐⭐ | 低(削減効果) |
| 10 | Feedback Loop | 後処理 | ユーザーフィードバックで進化 | カスタマーサポート | ⭐⭐⭐ | 中 |
| 11 | Adaptive RAG | 後処理 | クエリ種別で戦略を動的切替 | 複数業務シーンの統合 | ⭐⭐⭐ | 可変 |
| 12 | Self RAG | 後処理 | LLMが検索要否を自己判断 | リソース効率化 | ⭐⭐⭐ | 低(削減効果) |
| 13 | Knowledge Graph | 後処理 | 三元組グラフで関係推論 | エンティティ関係分析 | ⭐⭐⭐⭐ | 高 |
| 14 | Hierarchical Index | 後処理 | 多層インデックスで段階検索 | 大規模コーパス | ⭐⭐⭐ | 中 |
| 15 | HyDE | 後処理 | 仮回答を生成→逆方向検索 | 断片化文書、複雑な問い | ⭐⭐ | 中 |
| 16 | Fusion | 後処理 | 複数検索チャネルの結果融合 | 精度とRecallの両立 | ⭐⭐⭐ | 中〜高 |
| 17 | CRAG | 後処理 | 入力修正+結果品質評価+フォールバック | 非専門家の入力対応 | ⭐⭐⭐ | 中 |
選型ガイド: シーン別推奨アーキテクチャ
🏁 ステージ別ロードマップ
Phase 1: PoC / プロトタイプ
└── Simple RAG + Semantic Chunking
(まずは動くものを作って検証)
Phase 2: 品質改善
└── + Reranker + Context Enriched + Chunk Headers
(精度を本番レベルに引き上げ)
Phase 3: 本番運用
└── + Fusion (Hybrid Search) + Contextual Compression + Feedback Loop
(コスト最適化 & 継続改善)
Phase 4: 高度化
└── + Adaptive RAG + Self RAG + CRAG + Knowledge Graph
(複雑なユースケースへの対応)
📊 シーン別推奨マトリクス
| ビジネスシーン | 推奨手法の組み合わせ | 理由 |
|---|---|---|
| 社内FAQ / チャットボット | Simple RAG + Reranker | シンプルかつ高精度 |
| 技術文書検索 | Semantic Chunking + Chunk Headers + Reranker | 構造化文書に最適 |
| カスタマーサポート | Adaptive RAG + Feedback Loop + CRAG | 多様な入力品質に対応 |
| 法律・契約書分析 | RSE + Context Enriched + Knowledge Graph | 精密抽出 + 関係推論 |
| 研究・論文要約 | HyDE + Fusion + Semantic Chunking | 複雑な問いと断片化文書に対応 |
| 多言語ナレッジベース | Doc Augmentation + Query Transform + Fusion | 多角度からの検索強化 |
| コスト最適化重視 | Self RAG + Compression + Simple RAG | 不必要な処理を排除 |
| 大規模文書基盤 | Hierarchical Index + Fusion + Reranker | スケーラブルな検索 |
⚠️ 選定時の注意点
- 常に Simple RAG から始める — 複雑なアーキテクチャから始めるのはアンチパターン
- Reranker は最もROIが高い — 1つだけ追加するならReranker
- 各手法は組み合わせ可能 — 排他的ではなく補完的に利用する
- 評価なしに最適化なし — RAGAS等の評価フレームワークを必ず導入する
- 本番では Hybrid Search(Fusion)がほぼ必須 — Pure Semantic Searchだけでは不十分
まとめ
RAGは単なる「検索 + 貼り付け」のパターンではなく、カスタマイズ可能で進化するシステムアーキテクチャ です。
文書処理 → 検索戦略 → 後処理・最適化
│ │ │
▼ ▼ ▼
各レイヤーを独立に最適化・組み合わせ可能
3つの核心原則を覚えておきましょう:
- 🎯 Ingestionが品質の50%を決める — 分割戦略の選定は最重要
- 🔍 検索が失敗の73%の原因 — Reranker + Hybrid Searchは必須投資
- 🔄 RAGは進化するシステム — Feedback Loop と評価で継続的に改善
本記事で紹介した17種類の手法は、すべてを一度に導入するものではありません。自社のユースケース・データ特性・コスト制約 に合わせて、段階的に積み上げていくことが成功の鍵です。