0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 1 year has passed since last update.

[翻訳] LangChainにおけるドキュメントに対するQ&AのPythonガイド

Last updated at Posted at 2023-05-28

Question Answering over Docs — 🦜🔗 LangChain 0.0.181の翻訳です。

本書は抄訳であり内容の正確性を保証するものではありません。正確な内容に関しては原文を参照ください。

コンセプトガイド

このコンテキストにおけるQ&Aとは、皆様のドキュメントデータに対するQ&Aを指します。他のタイプのデータに対するQ&Aに関しては、SQL database Question AnsweringInteracting with APIsのようなドキュメントをご覧ください。大量のドキュメントに対するQ&Aにおいては、多くのケースでデータに対するインデックスを作成したいと思うことでしょう。これは、入力された質問に最も適したドキュメントにスマートにアクセスするために活用でき、すべてのドキュメントをLLMに渡すことを避けることができます(時間とお金の節約になります)。

これに対するより詳細なイントロダクションについては、こちらのノートブックを見ていただければと思うのですが、関連するステップのクイックスタートは:

あなたのドキュメントのロード

from langchain.document_loaders import TextLoader
loader = TextLoader('../state_of_the_union.txt')

ドキュメントロードをどのようにスタートするのかに関してはこちらを参照ください。

インデックスの作成

from langchain.indexes import VectorstoreIndexCreator
index = VectorstoreIndexCreator().from_loaders([loader])

現時点でベストで最も人気のあるインデックスは、VectorStoreインデックスです。

インデックスの検索

query = "What did the president say about Ketanji Brown Jackson"
index.query(query)

あるいは、関連するソースも取得するためにquery_with_sourcesを使います。

query = "What did the president say about Ketanji Brown Jackson"
index.query_with_sources(query)

繰り返しになりますが、これらの高レベルのインタフェースは、内部で起きている数多くのことを隠蔽しているので、より低レベルのウォークスルーに関してはこちらのノートブックをご覧下さい。

ドキュメントのQ&A

Q&Aには、複数のドキュメントの取得、これらに関する質問が含まれます。LLMのレスポンスには、ドキュメントのコンテンツに基づいたあなたの質問に対する回答が含まれます。

Q&Aチェーンを活用する際の推奨方法は:

from langchain.chains.question_answering import load_qa_chain
chain = load_qa_chain(llm, chain_type="stuff")
chain.run(input_documents=docs, question=query)

以下のリソースがあります:

  • Question Answering Notebook: このタスクをどのように達成するのかをウォークスルーするノートブックです。
  • VectorDB Question Answering Notebook: ベクトルデータベースに対してどのようにQ&Aを行うのかをウォークスルーするノートブックです。これは、大量のドキュメントがあり、これら全てをLLMに渡したくはなく、最初にエンベディングに対していくつかのセマンティックな検索を行いたい際には、多くの場合において有益です。

ソースの追加

言語モデルの回答のレスポンスに加えて、ソース(どのドキュメントが渡されたのか)を引用するような派生型があります。ソースを伴うQ&Aのチェーンを使い始める推奨方法は:

from langchain.chains.qa_with_sources import load_qa_with_sources_chain
chain = load_qa_with_sources_chain(llm, chain_type="stuff")
chain({"input_documents": docs, "question": query}, return_only_outputs=True)

以下のリソースがあります:

  • QA With Sources Notebook: このタスクをどのように達成するのかをウォークスルーするノートブックです。
  • VectorDB QA With Sources Notebook: ベクトルデータベースに対してどのようにソースを伴うQ&Aを行うのかをウォークスルーするノートブックです。これは、大量のドキュメントがあり、これら全てをLLMに渡したくはなく、最初にエンベディングに対していくつかのセマンティックな検索を行いたい際には、多くの場合において有益です。

その他の関連リソース

その他の関連リソースには以下が含まれます:

  • Utilities for working with Documents: このタスクに有用であると証明されたいくつかのユーティリティをどのように活用するのかに関するガイドです。これには、(長いドキュメントを分割する)Text Splitters、Embeddings & Vectorstores (上述のVector DBのサンプルで有用です)が含まれます。
  • CombineDocuments Chains: この他アスクを達成するために使用する固有のチェーンタイプのコンセプトの概要です。

エンドツーエンドのサンプル

エンドツーエンドでこれを行うサンプルに関しては、以下のリソースをご覧ください:

0
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?