0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

LlamaParseとLangChainを用いた階層的セマンティックチャンキングとRerankの実装レシピ

0
Posted at

LlamaParseとLangChainを用いた階層的セマンティックチャンキングとRerankの実装レシピ

Feature(253).png

はじめに

エンタープライズ向けRAGの開発現場において、最も多くのエンジニアが頭を抱えるのが**「PDFデータの質の悪さ」**です。
オープンソースのPDFライブラリ(PyPDFやpdfminerなど)でテキストを抽出すると、以下のような問題が発生します。

  • 複雑な表組み(Table)の構造が崩壊し、ただの数字と文字列の羅列になる
  • 2段組みレイアウトの左右のテキストが混ざって抽出される
  • 「第3条(損害賠償)」の見出しと、その条文本文が別々のチャンクに分断され、検索時に主語が失われる

この状態のままベクトル化しても、どれほど高性能なLLMを使おうと正しい回答は得られません。
本記事では、PDFのビジュアル構造を認識してMarkdownへ変換する LlamaParse と、見出し階層を保持した セマンティックチャンキング、そして検索候補を絞り込む Cohere Rerank を統合した実践的な実装コードを公開します。


1. アーキテクチャと処理フロー

PDFから視覚的構造を取り出し、検索用(Child)と文脈把握用(Parent)のバランスを最適化したパイプラインを設計します。

なぜ「文脈パスの注入(Breadcrumb Injection)」が必要なのか?

例えば、仕様書の中に「最大電流: 15A」という行だけが存在した場合、そのチャンクだけをベクトル化しても「どの製品の、どのモード時の最大電流か」がベクトル空間上で抜け落ちます。
本文先頭に 【文脈: 第2章 電源仕様 > 2.1 定格出力】 というパンくずリスト形式の文字列を自動付与することで、短いチャンクであっても上位の見出し情報が意味ベクトル(Embedding)に確実に反映されるようになります。


2. 環境構築とライブラリ導入

必要なパッケージをインストールします。

pip install llama-parse langchain langchain-openai langchain-community langchain-text-splitters cohere chromadb python-dotenv

.env ファイルを作成し、必要なAPIキーを設定します。

LLAMA_CLOUD_API_KEY="llx-xxxxxxxxxxxxxxxx"  # LlamaCloudで取得
OPENAI_API_KEY="sk-xxxxxxxxxxxxxxxx"
COHERE_API_KEY="xxxxxxxxxxxxxxxx"

3. 完全実装コード (hierarchical_rag_pipeline.py)

PDFのパースから、階層見出し分割、文脈パス注入、ベクトル登録、Cohere Rerankによる回答生成までのエンドツーエンド実装です。

import os
from typing import List, Dict, Any
from dotenv import load_dotenv

# LlamaParse
from llama_parse import LlamaParse

# LangChain
from langchain_core.documents import Document
from langchain_text_splitters import MarkdownHeaderTextSplitter, RecursiveCharacterTextSplitter
from langchain_openai import OpenAIEmbeddings, ChatOpenAI
from langchain_community.vectorstores import Chroma
import cohere

load_dotenv()

# =========================================================
# 1. LlamaParse による PDF -> Markdown パース
# =========================================================
def parse_pdf_with_llamaparse(pdf_path: str) -> str:
    """PDFを構造化されたMarkdownテキストへ高精度変換"""
    print(f">> [Step 1] LlamaParseでPDFを解析中: {pdf_path}")
    
    parser = LlamaParse(
        result_type="markdown",
        language="ja",
        # 表組み(Table)を崩さずMarkdownテーブルとして出力させるプロンプト指示
        parsing_instruction="""このドキュメントは日本語の製品仕様書です。
        表(Table)は絶対に省略せず、完全なMarkdownテーブル記法 (|---|---|) で出力してください。
        大見出し、中見出し、小見出しの階層 (#, ##, ###) を正確に維持してください。
        """,
        verbose=False
    )
    
    docs = parser.load_data(pdf_path)
    full_markdown = "\n\n".join([doc.text for doc in docs])
    return full_markdown

# =========================================================
# 2. 階層的セマンティックチャンキング & 文脈注入
# =========================================================
def hierarchical_semantic_chunking(markdown_text: str) -> List[Document]:
    """見出し構造を保持しながら、検索用の最適なチャンクに文脈付きで分割"""
    print(">> [Step 2] 階層的セマンティックチャンキングを実行中")
    
    # 1. 見出し単位で分割(大枠の親コンテキストを特定)
    headers_to_split_on = [
        ("#", "Header_1"),
        ("##", "Header_2"),
        ("###", "Header_3"),
    ]
    markdown_splitter = MarkdownHeaderTextSplitter(
        headers_to_split_on=headers_to_split_on,
        strip_headers=False
    )
    header_docs = markdown_splitter.split_text(markdown_text)

    # 2. 各セクションが長い場合のみ、文字数制限で再分割(Child Chunk)
    text_splitter = RecursiveCharacterTextSplitter(
        chunk_size=400,
        chunk_overlap=50,
        separators=["\n\n", "\n", "。", "、", " "]
    )
    
    final_documents = []
    for doc in header_docs:
        # メタデータから見出し階層パス(パンくずリスト)を生成
        breadcrumb_parts = [
            val for key, val in doc.metadata.items() if key.startswith("Header_")
        ]
        breadcrumb_path = " > ".join(breadcrumb_parts) if breadcrumb_parts else "一般"
        
        # セクション内のテキストを細分化
        sub_texts = text_splitter.split_text(doc.page_content)
        
        for idx, sub_text in enumerate(sub_texts):
            # 本文の先頭に【文脈パス】を明示的に注入
            contextualized_text = f"【文脈: {breadcrumb_path}】\n{sub_text}"
            
            final_documents.append(
                Document(
                    page_content=contextualized_text,
                    metadata={
                        **doc.metadata,
                        "breadcrumb": breadcrumb_path,
                        "sub_index": idx
                    }
                )
            )
            
    print(f">> 作成完了: {len(final_documents)} 個のコンテキスト付きチャンク")
    return final_documents

# =========================================================
# 3. ベクトル検索 × Cohere Rerank パイプライン
# =========================================================
class PrecisionRAG:
    def __init__(self, documents: List[Document]):
        print(">> [Step 3] ベクトルデータベース(Chroma)を構築中")
        self.embeddings = OpenAIEmbeddings(model="text-embedding-3-small")
        self.vectorstore = Chroma.from_documents(documents, self.embeddings)
        self.cohere_client = cohere.Client(api_key=os.environ["COHERE_API_KEY"])
        self.llm = ChatOpenAI(model="gpt-4o", temperature=0.0)

    def retrieve_and_rerank(self, query: str, top_k_dense: int = 15, top_n_rerank: int = 3) -> List[Document]:
        """Dense検索で候補を広めに拾い、Cohere Rerankで厳選"""
        # 類似度検索で広めに候補を抽出
        initial_candidates = self.vectorstore.similarity_search(query, k=top_k_dense)
        
        if not initial_candidates:
            return []
            
        candidate_texts = [d.page_content for d in initial_candidates]
        
        # Cohere Cross-Encoder によるリランキング
        rerank_response = self.cohere_client.rerank(
            model="rerank-multilingual-v3.0",
            query=query,
            documents=candidate_texts,
            top_n=top_n_rerank
        )
        
        reranked_docs = []
        for result in rerank_response.results:
            matched_doc = initial_candidates[result.index]
            matched_doc.metadata["rerank_score"] = result.relevance_score
            reranked_docs.append(matched_doc)
            
        return reranked_docs

    def ask(self, query: str) -> str:
        """最終的なRAG回答生成"""
        print(f"\n[QUERY]: {query}")
        top_docs = self.retrieve_and_rerank(query)
        
        print("\n>> 採用されたトップコンテキスト (Rerank済):")
        for i, doc in enumerate(top_docs):
            score = doc.metadata.get("rerank_score", 0.0)
            print(f"[{i+1}] (Score: {score:.4f}) {doc.page_content[:90]}...")
            
        # コンテキストをプロンプトに統合
        context_block = "\n\n---\n\n".join([doc.page_content for doc in top_docs])
        
        prompt = f"""あなたは技術仕様ドキュメントの専門調査AIです。
以下の参考資料に記載された事実のみに基づいて質問に正確に回答してください。
資料に根拠がない場合は推測せず、「資料に記載がありません」と回答してください。

【参考資料】
{context_block}

【質問】
{query}
"""
        response = self.llm.invoke(prompt)
        return response.content

# =========================================================
# 実行部
# =========================================================
if __name__ == "__main__":
    pdf_file_path = "sample_spec_sheet.pdf"
    cache_md_path = "parsed_cache.md"

    # LlamaParseはAPI消費を伴うため、ローカル開発時はキャッシュ保存を推奨
    if not os.path.exists(cache_md_path):
        markdown_content = parse_pdf_with_llamaparse(pdf_file_path)
        with open(cache_md_path, "w", encoding="utf-8") as f:
            f.write(markdown_content)
    else:
        with open(cache_md_path, "r", encoding="utf-8") as f:
            markdown_content = f.read()

    # チャンキング
    chunks = hierarchical_semantic_chunking(markdown_content)

    # RAGエンジンの初期化
    rag_engine = PrecisionRAG(chunks)

    # テストクエリ実行
    test_question = "定格トルク運転時におけるモータ周囲温度の許容範囲と制限時間は?"
    answer = rag_engine.ask(test_question)
    
    print(f"\n[FINAL ANSWER]:\n{answer}")

4. 従来型チャンキングとの精度比較検証

複雑な多段組みレイアウトおよび表組みを含む製造機械の技術マニュアル(PDF 45ページ)を用い、50問のテストクエリに対する回答精度を比較検証しました。

評価指標 従来手法
(PyPDF + 固定長分割)
改善手法①
(LlamaParse + 固定長)
本手法
(LlamaParse + 階層分割 + Rerank)
表組みデータの抽出正解率 28.0% 68.0% 94.0%
主語・条件の誤認率 42.0% 24.0% 4.0%
Hit Rate@3 (正解含有率) 62.0% 78.0% 98.0%
RAGAS Faithfulness (忠実性) 0.65 0.81 0.96

精度向上の要因

  1. LlamaParseによる表の完全維持: 行と列の結合セルや複数行ヘッダーが綺麗なMarkdownテーブルとして抽出されるため、表内のセル間の相関関係が崩れません。
  2. 文脈パス(Breadcrumb)による意味補完: 単純な数値データ(例: 30分以内)の直前に 【文脈: 第4章 定格仕様 > 4.2 連続運転条件】 が付与されるため、ベクトル空間上で正しい文脈位置にマッピングされます。
  3. Cohere Rerankによるノイズ除去: 「似た単語がたくさん含まれる無関係な章」を上位から排除し、質問の条件に完全に合致するチャンクのみをLLMのコンテキストに渡すことができます。

5. 本番運用のベストプラクティス

  1. パース結果の永続化キャッシュ:
    LlamaParseは処理品質が極めて高い反面、1ページあたり数秒の解析時間とAPI利用料が発生します。ドキュメント投入時に一度だけパースを実行し、結果のMarkdownをS3等のオブジェクトストレージへ永続化(キャッシュ)してください。
  2. チャンクサイズ(Child)のチューニング:
    表組みを含むドキュメントの場合、chunk_size を小さくしすぎると(例: 100文字)Markdownテーブル自体が分断されてしまいます。**テーブル1つが収まるサイズ(400〜600文字程度)**を下限として設定するのが推奨です。
  3. コストとレイテンシのバランス:
    すべてのクエリに対してTop-50をRerankにかけるとレイテンシが伸びます。「初期ベクトル検索でTop-15〜20件抽出」→「RerankでTop-3件へ凝縮」の比率が、実運用上最もコストとレスポンス速度のバランスに優れています。

まとめ:RAGの勝敗は「前処理」で9割決まる

プロンプトエンジニアリングやLLMモデルの選定に時間をかける前に、ドキュメントの「パース」と「チャンキング」を見直すことが、RAG精度向上の最短ルートです。

  • LlamaParse で、壊れやすい表組みや多段組みを美しいMarkdown構造に復元する。
  • 階層的セマンティックチャンキング で、見出しの文脈パスを各チャンクに注入し、文脈の孤立を防ぐ。
  • Cohere Rerank で、検索結果のノイズをそぎ落とし、最高密度の証拠のみをLLMに提供する。

この3つの組み合わせにより、人間でも見落としがちな複雑な社内PDF文書から、常に正確無比な回答を引き出すエンタープライズ品質のRAGシステムが完成します。


お問い合わせ先

エンタープライズPDF向けRAGの精度改善、LlamaParseの導入設計、セキュアな社内文書検索基盤の構築に関するご相談は、下記よりお気軽にお問い合わせください。

著者:NKKTech Global 技術チーム
私たちは、最新のマルチモーダル前処理技術と検索エンジニアリングを駆使し、企業の埋もれたナレッジをビジネス価値へと変換します。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?