0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

検索・回答プロファイルの「Approved FAQ(類似問)」を試す:担当者の「いつもの答え」を RAG に教える

0
Posted at

初めに

社内の問い合わせに RAG で答えていると、こんな場面によく出会います。

「パスワードはいつまで使える?」
→ 手順書のどこにも書いていないので、AI は「回答できません」と返す
→ ヘルプデスクの担当者は、毎回同じ答え(90 日です)を返している
→ 答えは担当者の頭とメールの履歴にあって、資料には無い

「複合機を自分の PC で使えるようにしたい」
→ 手順書は半年前のまま(コントロールパネルから手で追加)
→ でも今月から、専用のアプリで追加する手順に変わった
→ AI は資料のとおり、古い手順を答える

どちらも、担当者が確かめた「この質問にはこう答える」という答えがあれば済む話です。

Production Ready RAG の検索・回答プロファイルには、この確かめた答えを登録する 「Approved FAQ(類似問)」 という機能があります。この記事では、合成のテスト文書と FAQ で、FAQ があるとき・ないときで回答がどう変わるか、どんな言い方なら当たり、どんなときに当たらないかを実際の画面で確かめます。

この記事のテスト文書・FAQ・会社名・部署名・内線番号は、すべて記事のために作った架空のものです。2026 年 10 月 22 日時点の機能で確かめています。

先に結論

先に結論を書くと、Approved FAQ はこういうものです。

項目 内容
何を書くか 質問と、担当者が確かめた回答の組(QUESTION / ANSWER)
どこに置くか 検索・回答プロファイルの「プロファイルの知識 › Approved FAQ(類似問)」(プロファイルごと)
どう登録するか 画面で 1 件ずつ追加 / Excel 取込(QUESTION・ANSWER の列)/ フィードバックの画面から 「Approved FAQ に登録」
いつ使われるか 質問に近い FAQ(類似問)があるとき、回答の前に提示して利用者に選ばせる。自動では使わない
選ぶと何が変わるか 資料を検索せず、選んだ FAQ の承認済みの回答だけをもとに答える(チャットは LLM が質問に合わせて整える。RAG 検索は原文をそのまま表示)
近さの測り方 文字の一致と、埋め込み(Cohere Embed)の意味の近さの高いほう。チャットは 一致度 75% 以上で、1 位から 10 ポイント以内の候補を最大 3 件

処理の流れはこうです(チャットの場合)。

テスト用のデータ

ナレッジベースと検索・回答プロファイル

ナレッジベース「Qiita検証_FAQ」に文書を 1 件入れ、同じナレッジベースを検索する検索・回答プロファイルを 2 つ作りました。

プロファイル Approved FAQ
Qiita検証_FAQあり 7 件(Excel で 5 件、画面で 1 件、フィードバックから 1 件)
Qiita検証_FAQなし なし(比較用)

01_profile_list.png

テスト文書と FAQ

文書は「ヘルプデスク 手続きガイド(サンプル)」(PDF・3 頁)です。

頁 内容
p.2 1. 共有フォルダの利用申請 / 2. 複合機をパソコンに追加する(コントロールパネルから手で追加)
p.3 3. 会議室のモニターに画面を映す / 4. 問い合わせ先

FAQ は Excel で 5 件用意しました。わざと、資料に無い答えと、資料より新しい手順を混ぜています。

QUESTION ANSWER(要約) 資料との関係
共有フォルダのアクセス権を申請したい 「フォルダ権限申請」から。所属長の承認の翌営業日 資料と同じ
新しい複合機をパソコンに追加するには? 2026 年 10 月から「SAMPLE-PRINT」アプリで追加。手動の追加は使わない 資料より新しい
パスワードの有効期限は? 90 日。14 日前から案内 資料に無い
会議室のモニターに映らない 入力切替で HDMI 1、Windows+P で複製 資料と同じ + 連絡先
ノートパソコンを社外に持ち出したい 「機器持ち出し申請」と暗号化の確認 資料に無い

FAQ を登録する

置き場所

「ナレッジ構築 › 検索・回答プロファイル」でプロファイルを開き、下の「プロファイルの知識」の 「Approved FAQ(類似問)」 タブです。タブは回答で使われる順に並んでいて、FAQ は先頭(質問を受けて最初に見る知識)です。

02_faq_empty.png

上の 「回答の前に類似問を提示する」 が、このプロファイルで FAQ を使うかどうかのスイッチです(既定 ON)。

Excel 取込

1 行目に QUESTION と ANSWER の列を持つ Excel(.xlsx / .xls)を選ぶと、先頭 10 件をプレビューします。

03_faq_import_preview.png

取込モードは 2 つです。

取込モード 動き
追加(同じ質問はスキップ) 既にある質問は変えずに、新しい質問だけ足す
置き換え(同じ質問は上書き) 同じ質問の回答を Excel の内容で上書きする

「取込」を押すと、一覧に 5 件が入りました。

04_faq_list.png

1 件ずつなら、下の「FAQ を追加」から質問と回答を入れて「追加」です(後で使います)。

FAQ がないとき・あるとき

資料に無い答え(パスワードの有効期限)

FAQ なし:「パスワードはいつまで使える?」には、資料に記載が無いので「回答できません」と返します。正しい振る舞いですが、利用者は困ります。

05_answer_without_faq.png

FAQ あり:回答の前に 「近い承認済み FAQ(類似問)があります」 のカードが出ます。質問の文は FAQ の「パスワードの有効期限は?」と違いますが、意味の近さで一致度 83% になりました。

06_chat_faq_card.png

「この類似問で回答する」を押すと、資料を検索せずに、承認済みの回答をもとに答えます。本文の末尾に「(出典: 承認済み FAQ「パスワードの有効期限は?」)」、処理の詳細に「承認済み FAQ から回答」のバッジと、その時点の承認済みの回答の原文が残ります。

07_answer_from_faq.png

処理の経過には「回答の安全チェック」「回答の記録の保存」の 2 段と「0.1 秒未満」しか出ていません。実際には LLM が承認済みの回答をもとに文を整えていますが、その段が記録されていません。「使用したモデル」にも、この経路で使わない Rerank が出ています。Issue #3082 にしました。

資料より新しい手順(複合機の追加)

「複合機を自分のPCで使えるようにしたい」では、FAQ の「新しい複合機をパソコンに追加するには?」が 一致度 76% で出ました。

08_mfp_faq_card.png

類似問で回答すると、FAQ の新しい手順(SAMPLE-PRINT アプリ)を手順の形に整えて答えます。

09_mfp_faq_answer.png

「どれでもない」を選ぶと、ふつうに資料を検索し、手順書 p.2 の古い手順(コントロールパネル)を根拠つきで答えます。

10_mfp_skip_answer.png

同じ質問でも、利用者がどちらを選ぶかで答えが変わります。FAQ は資料より優先されるのではなく、利用者が選んだときだけ使われます。資料が古いなら、FAQ を足すだけでなく資料も直すのが本筋です。

言い方が離れると当たらない(プリンター)

「プリンターを追加したい」では、類似問のカードが出ませんでした。FAQ の質問は「複合機」で、「プリンター」とは一致度 75% に届かなかったためです。回答は資料の古い手順になりました。

11_printer_no_card.png

FAQ の 1 件には、照合に使う質問を 1 つしか書けません(Excel も画面も QUESTION の 1 列)。よく来る言い方は、別の FAQ として足すのが確実です。「FAQ を追加」で足しました。

12_faq_add_form.png

すると同じ質問で、足した FAQ が一致度 100% で出て、新しい手順で答えるようになりました。

13_printer_card.png

一致度が 100% でも、チャットは自動では使わず、必ずカードで選ばせます。

関係の無い質問

「VPN がつながらない」のように、どの FAQ とも趣旨が違う質問では、チャットはカードを出さずにふつうに資料を検索しました(チャットの下限 75%)。

RAG 検索では

RAG 検索の画面でも、検索の前に類似問を出します。「パスワードの有効期限は?」では、一致度 100% の候補が出ました。

14_search_faq_card.png

「この FAQ の回答を使う」を押すと、LLM を使わず、登録された承認済みの回答を原文のまま表示します。チャットとの違いはここです。

15_search_faq_answer.png

ただし RAG 検索は、一致度がとても低い候補でも検索を止めてカードを出します。「VPN がつながらない」では、関係の無い「会議室のモニターに映らない」が 一致度 13% で出て、「類似問を使用しない」を押すまで検索されませんでした。チャットは 75% 未満を出さないので、同じプロファイルでも画面で動きが違います。Issue #3081 にしました。

16_search_low_score_card.png

なお、MCP の rag_search は類似問を使いません(Agent などから呼んだときは、資料の検索だけで答えます)。

類似問の提示を OFF にする

「回答の前に類似問を提示する」を OFF にすると、登録した FAQ はそのままで、チャットにも RAG 検索にもカードが出なくなります。

17_toggle_off.png

OFF のまま「パスワードはいつまで使える?」を送ると、FAQ なしのプロファイルと同じく「回答できません」になりました。FAQ を一時的に止めたいときに使えます。

18_answer_toggle_off.png

よい回答を FAQ に育てる

「改善・運用 › フィードバック」の画面で、評価の付いた回答を選ぶと 「Approved FAQ に登録」 が出ます。チャットで「共有フォルダを使いたい」と聞き、資料から答えた回答に「役に立った」を付けておきました。

19_feedback_detail.png

20_feedback_dialog.png

「役に立った」回答はそのまま、それ以外は「修正した回答」を FAQ の回答として登録します。同じ質問の FAQ があれば置き換えます。

「そのまま」なので、AI が書いた言い回しの揺れも FAQ に入ります。今回の回答には「異動日までに前部署のフォルダ権限が外れ」とあり、資料の「異動の日に外れる」と少し違っていました。登録の前に、内容を担当者が読んで確かめるのがおすすめです(必要なら「修正した回答」を書いてから登録します)。

試した結果のまとめ

質問 FAQ なし FAQ あり
パスワードはいつまで使える? 回答できない カード(83%)→ 90 日(FAQ から)
複合機を自分のPCで使えるようにしたい 資料の古い手順 カード(76%)→ 新しい手順 / どれでもない → 資料の古い手順
プリンターを追加したい 資料の古い手順 カード無し(75% 未満)→ 古い手順。FAQ を足すと 100% で新しい手順
VPN がつながらない 資料から チャットはカード無し。RAG 検索は 13% でもカード
(提示を OFF) — カード無し → 資料だけで答える

FAQ を書くときのコツ

  1. 担当者が毎回同じ答えを返している質問から登録する。 資料に無い答え・資料より新しい答えほど効きます。
  2. QUESTION は利用者の言い方で書く。 照合は質問の文どうしで行います。担当者の言葉(「複合機」)と利用者の言葉(「プリンター」)が違うなら、両方の FAQ を登録します。
  3. ANSWER は単独で読める文にする。 選んだ後は資料を検索せず、その回答だけで答えます。連絡先・条件・期限は回答の中に書きます。
  4. 資料も直す。 FAQ は利用者が選んだときだけ使われます。「どれでもない」を選ばれると、資料の古い内容で答えます。
  5. 一括の登録・更新は Excel で。 「置き換え」なら同じ質問の回答を上書きできます。
  6. フィードバックから登録するときは、中身を読んでから。 「役に立った」回答はそのまま FAQ になります。

気になった点(作成した Issue)

Issue 内容
#3081 RAG 検索が一致度の低い承認済み FAQ でも検索を止めて類似問のカードを出す
#3082 承認済み FAQ から回答したときの処理の経過に LLM の生成の段が無く、所要時間と使用モデルが実際と合わない

まとめ

  • Approved FAQ は、担当者が確かめた「質問と回答の組」 を検索・回答プロファイルに登録する仕組み
  • 質問に近い FAQ があると、回答の前に類似問として提示し、利用者が選んだときだけ使う(自動では使わない)
  • 選ぶと 資料を検索せず、承認済みの回答だけから答える。資料に無い答え・資料より新しい手順を返せる
  • 近さは文字の一致と意味の近さの高いほう。チャットは 75% 以上の候補を最大 3 件。言い方が離れると当たらないので、よく来る言い方は FAQ を足す
  • Excel で一括登録でき、フィードバックの画面から よい回答を FAQ に育てられる

資料を直すには時間がかかりますが、ヘルプデスクの「いつもの答え」は今日すぐ登録できます。
まずは、先週いちばん多かった質問を 5 件、Excel にまとめて取り込んでみるのがおすすめです。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?