0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

【社内RAG構築】「ハルシネーション」を殺すためのデータ前処理とアーキテクチャ (応用編)

0
Last updated at Posted at 2026-01-26

はじめに

シリーズ第1回、第2回では、個人やチームレベルでのデータ整理術を解説しました。最終回となる今回は、視座を上げ、企業全体のナレッジをAI化する エンタープライズRAG(Retrieval-Augmented Generation) のアーキテクチャについて論じます。

企業の知識資産の80%から90%は非構造化データですが、その中でもRAGの天敵が存在します。単にPDFをベクトルDBに突っ込むだけでは、使い物にならないばかりか、セキュリティ事故を招きます。

1. 「表データ」と「PDF」という強敵

RAGシステムにおいて最も難易度が高く、かつ失敗しやすいのが「表(Table)」の処理です。一般的なOCRやテキスト抽出ツールでPDFの表を読み込むと、セル構造が失われ、数値と項目名の対応関係が崩壊してしまいます。

対策:インテリジェント・ドキュメント・プロセッシング(IDP)

これに対処するには、文書を視覚的に解析し、構造化データに変換するパイプラインが必要です。

  • HTML/Markdown変換: 表データを検出し、HTMLの<table>タグやMarkdownの表形式に変換して保持します。
  • VLMの活用: GPT-4oなどのマルチモーダルモデルを活用し、表の画像を直接視覚的に解釈させ、MarkdownやJSONとして出力させる手法も有効です。
  • 要約埋め込み(Summary Embedding): 巨大な表の場合、LLMを用いて「この表は何について書かれているか」という要約を生成し、その要約を検索用のベクトルとしてインデックスします。

2. ハイブリッド検索の実装

ベクトル検索は意味的な類似性を捉えるのが得意ですが、特定の型番や人名などの完全一致検索には弱い場合があります。一方、キーワード検索は用語の一致には強いですが、文脈を捉えられません。

これら両方の長所を組み合わせたハイブリッド検索の実装が標準となりつつあります。

  1. ベクトル検索: 意味的類似度で検索
  2. キーワード検索(BM25など): 単語の一致度で検索
  3. RRF(Reciprocal Rank Fusion): 両者のスコアを統合(リランク)

これにより、ユーザーの曖昧な質問にも、ピンポイントな型番検索にも対応できる堅牢な検索システムが構築できます。

3. セキュリティとRBAC(ロールベースアクセス制御)

「AIに聞けば、平社員が人事評価を見れてしまう」

これは絶対に避けなければなりません。RAGにおいて最も重要なのがメタデータフィルタリングによるRBACです。

物理的なフィルタリング

データの取り込み時に、各ドキュメントに対して閲覧可能なユーザーグループ(例:group:hr)をメタデータとして付与します。

{
  "content": "役員報酬規定...",
  "metadata": {
    "access_level": "executive",
    "department": "hr"
  }
}

検索時、ユーザーの属性に基づいてフィルタ条件を強制的に適用することで、権限のないデータは検索候補から物理的に除外されます。これはプロンプトで指示するよりも遥かに確実な手法です。

4. 評価と継続的改善(RAG Triad)

RAGは作って終わりではありません。回答品質を定量的に評価し、改善するループが必要です。評価にはRAG Triadと呼ばれる指標が有効です。

  1. Context Relevance(コンテキスト関連性): 検索されたドキュメントは質問に関連しているか?
  2. Groundedness(忠実性): 回答は検索結果に基づいているか、ハルシネーションを含んでいないか?
  3. Answer Relevance(回答関連性): 最終的な回答はユーザーの質問意図を満たしているか?

ユーザーからのフィードバック(Good/Badボタン)をログとして蓄積し、この「人間による評価」をデータ整備プロセスに還流させることが重要です。

おわりに:データは現代の「原石」

全3回にわたり、AI時代におけるデータ管理・整備について解説してきました。

LLMのモデル自体はコモディティ化しますが、自社のビジネスプロセスやノウハウが詰まった「整備された社内データ」は、他社が決して模倣できない独自の競争優位性です。

フォルダ整理やファイル命名といった地味な作業は、実は最強のAI戦略の第一歩なのです。ぜひ今日から、あなたのディレクトリに「Archive」フォルダを作ることから始めてみてください。


Reference: 本記事は、AIのためのデータ整備に関する技術資料を基に構成しています。

作成日: 2026-01-23

0
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?