どうも山口です。
今回は、DifyのQABotにおけるアノテーション(注釈)機能について、その有効性と使い方について書いていきたいと思います。
アノテーション(注釈)がなぜ有効なのか？
QABotの目的は、ユーザーからの質問に対して適切で正確な回答を提供することです。
しかし、質問の内容は多岐にわたり、全てに完璧に対応するのは難しいですよね。
そこで、アノテーション機能の出番です。
Difyではアノテーションを付けることで、特定の質問に対する「標準の回答」を設定したり、「この質問には回答できません」とマークしたりすることができます。
それを利用して、実際に今までにアノテーションしていたものに対してベクトル検索を行い、アノテーションしていたものがあればそれを使うことができるのです。
イメージは以下です。︎（DifyのDocsから引用）
(referenced by https://docs.dify.ai/features/annotation-reply)
これにより、QABotはより正確で的確な回答を提供できるようになるんじゃないかなと思っています。
今まで正しくない回答してしまうことがLLMですが、一定アノテーションから引っ張って来れるのはハルシネーション対策としても有効です。
使い方
では使い方を解説します。
-
まずはチャットボットを開いて何か質問してみてください。
この時、アノテーションの良さを知るためには質問はLLMが知りようがないものにしてください。
私は以下のように質問しました。
質問： やまぐちは最近LLMのどんなことを勉強していますか？
もちろんLLMは知らないですね。 -
以下の画像のように「注釈を追加」をクリックしてください
そうすると注釈を追加できます。
注釈は以下のようになります
-
最後に最初の質問とそれに似た質問をしてみましょう。
いい感じにアノテーションした内容を使ってくれています。
最後に
QAbotとして使うには必須の機能になってきそうです。
Xやってるので気になる方はフォローお願いします。
https://x.com/hudebakonosoto