RAGをはじめるならここから（仕組みを図解、超入門）

はじめに

最近、RAG（Retrieval-Augmented Generation）という言葉を耳にすることが増えました。しかし、その具体的な意味や仕組みについてはよくわからない方も多いのではないでしょうか。そんな方々に向けて、RAGの基本をわかりやすく解説します。

筆者のレベル

• RAGという言葉に触れたことはあるが、その背後にある仕組みには詳しくなかった。
• RAGについてもっと深く学び、実際の応用に役立てたいと考えている。

RAGの仕組み

RAGの仕組みをざっくりと図にすると、このような流れになります。ここで注目すべきは、全体が大きく二つのパートに分かれている点です。

• データの準備と埋め込みを行うパート（Augmented）
• データを検索し、回答を生成するパート（Retrieval ＋ Generation）

この二つのプロセスが連携することで、RAGは高精度な応答を実現しています。

RAGのプロセスを詳しく見ていきましょう

RAGのプロセスは以下のステップから構成されています：

①分割

入力データは、情報の検索や処理を容易にするためにチャンク（小さな単位）に分割します。

• チャンク化により、検索の精度が向上します。例えば、大量のテキストデータを数百文字程度の文単位や、意味的に関連のある情報単位で分割することで、検索効率を高め、モデルが必要な情報を迅速に取得できるようにします。このプロセスは、特に情報量が多い場合に効果を発揮し、必要なデータを瞬時に取り出すことが可能になります。

②埋め込み

分割したデータは、埋め込みモデルを用いてベクトル化し、ベクトルストアに格納します。

• 埋め込みは、テキストデータを数値のベクトルに変換するプロセスです。これにより、異なるデータ間の類似性を計算できるようになります。一般的に使用される埋め込み手法には、BERTやSentence-BERTなどがあり、これらは文脈を考慮したベクトル表現を生成します。埋め込み技術により、モデルは言語の意味を深く理解し、より関連性の高い情報を引き出すことができます。

(1)検索

質問が入力されると、ベクトルストアから関連するチャンクを検索します。

• 検索プロセスでは、質問の埋め込みベクトルを生成し、ベクトルストア内のチャンクと比較して、最も関連性の高いものを特定します。この際、コサイン類似度やユークリッド距離などの距離計算手法が用いられ、効率的にデータを取得するための手段が提供されます。これにより、ユーザーの質問に対して最も適切な情報を迅速に見つけ出すことが可能になります。

(2)検索結果、スコア

検索結果に対してスコアを付与し、どのチャンクが最も関連性が高いかを評価します。

• 検索結果のスコアリングは、関連度に基づいて順位を付けるプロセスです。このスコアは、情報の関連性や重要度を示します。例えば、スコアが高いチャンクは、質問に対してより直接的な回答を提供できる可能性が高まります。この評価プロセスによって、最も価値のある情報がユーザーに提示されます。

(3)回答生成

最終的に、関連する情報を基に 大規模言語モデル（LLM） が最終的な回答を生成します。

• LLMは、検索結果から得られた情報を統合し、自然な言語で応答を作成します。このプロセスでは、質問の文脈を考慮し、流暢で意味のある回答を生成します。

RAGの範囲を確認しましょう

RAGは、その名の通り「Retrieval」「Augmented」「Generation」の三つの主要なコンポーネントから成り立っています。それぞれの範囲を理解することは、RAGの効果的な活用に欠かせません。これらのプロセスがどのように連携し、最終的な応答を生成するのかを把握することで、より高精度で柔軟な情報処理を実現できます。

Retrievalの範囲

Retrievalは、関連する情報を外部のデータベースや知識ベースから引き出すプロセスです。

• 範囲:
  • 検索クエリに基づく情報の取得
  • 大量のデータから特定のチャンクを迅速に特定する能力
  • 検索手法（例：k-NN、TF-IDF）や埋め込み技術を使用すること

Augmentedの範囲

Augmentedは、生成される応答を向上させるために外部情報を統合するプロセスを指します。

• 範囲:
  • 取得した情報を基にLLMが生成する回答の精度を高めること
  • ユーザーの質問や意図に応じた情報のカスタマイズ
  • 更新された情報を利用して、常に最新の応答を提供すること

Generationの範囲

Generationは、言語モデルが自然言語のテキストを生成するプロセスです。

• 範囲:
  • 入力された情報やコンテキストに基づく自然な文章の作成
  • 異なるスタイルやトーンの応答を生成する能力
  • 複雑な質問に対する詳細な回答を生成すること

RAGの利点

• 高精度な回答: RAGは、外部情報を活用することで、モデルが持つ知識だけに依存せず、より正確な回答を提供します。
• 柔軟性: 新しいデータを容易に追加できるため、最新の情報を反映した応答が可能です。

まとめ

本記事では、RAGの基本的な仕組みについて解説しました。これはあくまで基本的なフレームワークであり、さまざまな工夫や最適化を施すことで、さらに回答精度を向上させることが可能です。今後は、RAGに関する学習範囲を広げ、より深くこの技術について探求していきたいと考えています。