ローカルAI構築記 ③ Qwen2.5とFAISSでReAct Agentをスクラッチ実装してみる
ローカルLLM Advent Calendar 2026 11月18日(18日目)に投稿しました。
この記事でわかること
- ReAct Agent の基本的な仕組み
- Qwen2.5 と FAISS を使ったスクラッチ実装
- Thought → Action → Observation → Answer の流れ
- RAGからReActへ発展させる方法
目次
- はじめに
- ReAct Agentとは
- 前回作成したRAGを再利用する
- Thoughtを実装する
- Observationを実装する
- Decisionを実装する
- Answerを生成する
- ReActループを実装する
- 動かしてみる
- まとめ
1.はじめに
前々回の記事では、RTX 5060 Laptop GPU環境でQwen2.5-7B GGUFをllama-cpp-pythonとCUDAを用いてローカル実行できるようにしました。
- Windows11 + RTX5060でQwen2.5-7Bをllama.cpp CUDA推論するまで ~ Visual Studio 2026問題の解決方法 ~
https://qiita.com/ahaya/items/520b366b03738910fb1f
そして前回はQwen2.5とFAISSを利用して、自分のQiita記事を検索するRAGを作りました。
- ローカルAI構築記 ②Qwen2.5とFAISSで自分のQiita記事を検索するローカルRAGを作ってみた
-https://qiita.com/ahaya/items/ea30c18e2554da23a2da
RAGだけでも質問応答はできますが、
- 何を検索するべきか考える
- 検索結果を見て追加調査する
- 複数の検索結果を比較して回答を作る
といったAgentらしい動作はできません。 そこで今回は、Qwen2.5 と FAISS を利用して、ReAct (Reason + Act) Agent をスクラッチ実装してみます。
参考文献:
- ReAct: Synergizing Reasoning and Acting in Language Models
https://arxiv.org/abs/2210.03629
完成したAgentは、
Question
↓
Thought
↓
Search
↓
Observation
↓
Decision
↓
Answer
と動作します。
この記事では LangChain などのエージェントフレームワークは利用せず、Thought、Observation、Decision を自分で実装しながら ReAct Agent の内部構造を理解していきます。
2. ReAct Agentとは
RAGとどのように異なるのか、ReAct論文で提案されている Thought、Action、Observation の流れを見ながら、今回実装するAgentの仕組みを整理してみます。
RAGとReActの違いを整理すると次のようになります。
表1 RAGとの相違
| 項目 | RAG | ReAct Agent |
|---|---|---|
| 検索回数 | 1回 | 複数回 |
| 思考(Thought) | なし | あり |
| 検索キーワード | ユーザー質問を利用 | LLMが生成 |
| 検索後の行動 | そのまま回答 | 回答または追加検索 |
| 情報収集 | 単発 | 段階的 |
| 用途 | 情報検索 | 調査・問題解決 |
RAGの処理フローはつぎのように非常にシンプルです。
Question
↓
Search
↓
Context
↓
Answer
一方、ReAct Agent は検索結果を観察しながら次の行動を決定します。
Question
↓
Thought
↓
Search
↓
Observation
↓
Decision
┌──┴──┐
↓ ↓
Answer Search
つまり、RAGが「検索して回答する」仕組みであるのに対し、ReAct Agentは「考えて、行動し、その結果を見て再び考える」仕組みと言えます。
今回実装するReAct Agentの処理フローを図1に示します。
図1. 今回実装するスクラッチ版ReAct Agent
3. 前回作成したRAGを再利用する
今回のReAct Agentはゼロから構築するわけではありません。
前回の記事で作成したRAGの資産をそのまま利用します。
具体的には、
- Qwen2.5-7B-Instruct GGUF
- FAISSインデックス
- Qiita記事チャンク
- Embeddingモデル
を再利用します。
前回のRAGでは、
Question
↓
FAISS Search
↓
Context
↓
Answer
という単純な流れで回答を生成していました。
今回のReAct Agentでは、この検索機能を Action として利用し、その検索結果を Observation として扱います。
つまり前回作成したRAGの検索部分をAgentのツールとして組み込むイメージになります。
図2. 前回作成したRAGをActionとして再利用する
4. Thoughtを実装する
ReAct Agentの最初のステップは Thought です。
RAGではユーザーの質問をそのまま検索に利用していましたが、ReAct AgentではまずLLMに「何を調べるべきか」を考えさせます。
Question
↓
Thought
今回はQwen2.5を利用して検索キーワードを生成します。
def think(question):
response = llm.create_chat_completion(
...
)
return response["choices"][0]["message"]["content"]
例えば、
Decision Transformerと交通流予測モデルとの違いは?
という質問に対して、
Decision Transformer
---
交通流予測モデル
のような検索キーワードを生成します。
このように、回答の前に「何を調べるか」を考えることがReAct Agentの特徴です。
次は、このThoughtを利用してObservationを取得します。
5. Observationを実装する
Thoughtで検索キーワードを生成できたので、次は実際に検索を行い Observation を取得します。
ReActでは検索結果を Observation と呼びます。
Question
↓
Thought
↓
Search
↓
Observation
今回は前回作成したFAISSインデックスを利用します。
queries = [
q.strip()
for q in thought.split("---")
]
contexts = []
for q in queries:
query_vec = embed_model.encode(
[f"query: {q}"],
convert_to_numpy=True
).astype(np.float32)
D, I = index.search(query_vec, k=3)
for idx in I[0]:
contexts.append(
chunks[idx]["text"][:300]
)
new_observation = "\n\n".join(contexts)
例えば、
Decision Transformer
---
交通流予測モデル
というThoughtが生成された場合、それぞれの記事を検索し、その結果をObservationとして蓄積します。
次章では、Observationを読んで回答するか追加検索するかを判断するDecisionを実装します。
6. Decisionを実装する
Observationを取得できたので、次は回答可能かどうかを判定します。
RAGでは検索結果をそのまま回答生成へ利用しますが、ReActでは一度立ち止まり、
- 回答可能
- 情報不足
を判断します。
Observation
↓
Decision
↓
ANSWER or SEARCH
今回はQwen2.5にObservationを読ませ、ANSWERまたはSEARCHを返すように実装します。
def next_action(question, observation):
...
例えば情報が十分なら
ANSWER
が返され、
情報が不足している場合は
SEARCH
が返されます。
これによりAgentは検索結果を見ながら行動を決定できるようになります。
7. Answerを生成する
Decisionで ANSWER が返された場合、Observationを根拠として最終回答を生成します。
Question
↓
Thought
↓
Search
↓
Observation
↓
Decision
↓
Answer ← 今回実装
今回は、Observationのみを利用して回答するようにQwen2.5へ指示します。
def generate_answer(
question,
observation):
response = llm.create_chat_completion(
messages=[
{
"role": "system",
"content": """
Observationのみを根拠に回答してください。
推測は禁止です。
"""
},
{
"role": "user",
"content": f"""
質問:
{question}
Observation:
{observation}
"""
}
]
)
return response["choices"][0]["message"]["content"]
例えば、
Decision Transformer
---
交通流予測モデル
に関するObservationが取得できていれば、
Decision Transformerは強化学習問題を扱うのに対し、
交通流予測モデルは将来の交通流予測を目的としています。
のような回答を生成できます。
これで ReAct Agent を構成する
- Thought
- Observation
- Decision
- Answer
の各要素が揃いました。
次章では、これらを組み合わせて ReAct ループ全体を実装します。
8. ReActループを実装する
ここまでで、
- Thought
- Observation
- Decision
- Answer
の各機能を実装できました。
最後にこれらをループとして接続し、ReAct Agentとして動作させます。
Question
↓
Thought
↓
Observation
↓
Decision
↓
┌─────────────┐
│ ANSWER │→ Answer
│ SEARCH │→ Thoughtへ戻る
└─────────────┘
実装したループは次のようになります。
while True:
question = input("質問> ")
observation = ""
for step in range(MAX_LOOP):
if step == 0:
thought = think(question)
else:
thought = action
# Observation取得
...
# Decision
decision = next_action(
question,
observation
)
if decision == "ANSWER":
answer = generate_answer(
question,
observation
)
print(answer)
break
elif decision == "SEARCH":
action = generate_search_query(
question,
observation
)
ReAct論文では、
Thought
↓
Action
↓
Observation
を繰り返しながら問題を解決します。
今回の実装では、
Thought
↓
FAISS Search
↓
Observation
↓
Decision
という形で簡略化しています。
これにより、検索結果が不足している場合は追加検索を行い、十分な情報が集まった時点で回答を生成できるようになります。
次章では、実際にAgentを動かしながらその挙動を確認してみます。
9. 動かしてみる
それでは実際にReAct Agentを動かしてみます。
今回は比較質問を入力し、Thought → Observation → Decision → Answer の流れを確認します。
入力:
Decision Transformer と交通流予測モデルとの違いは?
実行結果:
===== Loop 1 =====
=== Thought ===
Decision Transformer
---
交通流予測モデル
=== Observation ===
[Decision Transformer]
Decision Transformerは強化学習問題を系列予測問題として扱うモデルです。
[交通流予測モデル]
交通流予測ではGraph EmbeddingとTransformerを利用します。
=== Decision ===
ANSWER
Thoughtでは比較対象を抽出し、それぞれ個別に検索していることが分かります。
続いてObservationを利用して最終回答を生成します。
### 共通点
- 両モデルともTransformerを利用
### 相違点
- Decision Transformerは強化学習問題を扱う
- 交通流予測モデルは交通流の将来変動を予測する
### 入力
- Decision Transformer
- State
- Action
- RTG
- 交通流予測モデル
- 交通流データ
### 出力
- Decision Transformer
- 次の行動
- 交通流予測モデル
- 将来の交通流
このように、Agentはまず検索計画を立て、必要な情報を収集したあとに回答を生成します。
今回の実装では1回目のObservationで十分な情報が取得できたため、そのままANSWERへ進みました。
一方、情報が不足している場合は、
Decision
↓
SEARCH
↓
追加検索
↓
Observation
↓
Decision
というループを繰り返します。
これにより、RAGよりも段階的に情報収集を行いながら回答できるAgentを実現できます。
10. まとめ
今回は、Qwen2.5とFAISSを利用してReAct Agentをスクラッチ実装してみました。
前回作成したRAGの検索機能をそのまま再利用し、
Thought
↓
Search
↓
Observation
↓
Decision
↓
Answer
というReActループを構築することで、検索結果を見ながら追加調査や回答生成を行えるようになりました。
また、比較質問に対しては複数の検索キーワードを生成し、それぞれの検索結果をObservationとして収集した上で回答を生成できることも確認できました。
今回の実装は簡易的なものですが、LangChainなどのフレームワークを利用する前に、ReAct Agentが内部でどのように動作しているのかを理解する良い練習になりました。
次回は、このスクラッチ実装をベースにLangChain Agentへ移植し、Tool Callingを利用した実装を試してみたいと思います。
関連記事
- ローカルAI構築記 ④前回作ったReAct Agentと比較しながらLangChainの中身を理解する
https://qiita.com/ahaya/items/4432425af222ccf415f8