こんにちは、オンもオフもラクして過ごしたいFuseです。
コールセンターの仕事をしている中で、「めんどくさい」「時間がかかる」
と感じることをちょっとずつ解決していくチャレンジをしています。
仕事中に最も神経を使うのは、
「お客さまとの電話中に正しい情報をすばやく引き出すこと」！！
たとえばお客さまの「保険について質問が…」という抽象的な問い合わせから始まりいろいろとヒアリングをしながら、お電話口の方は契約者本人なのか家族なのか、どの保険会社なのか、加入済なのか検討中なのか、加入済の場合は更新が近いのか事故があったのか、補償を見直したいのか被保険者を変更したいのか…などといろいろな可能性を考えつつ資料を引っ張り出しています。
あれこれいろいろな資料を参照せずに一か所で済ませたい……！！
色々と参照したい情報はありますが、その中で今回はDifyを使い「保険商品の重要事項説明書から情報を探し出すbot」に挑戦してみました。
例えば、「「△△という状況で事故を起こしたら補償の対象になる？」という質問に対してデータベースをもとに「補償されます/されません」と根拠を添えて回答してくれると第一ステップとしてはかなり理想です↓
こんな感じの回答があらゆる分野で正確に帰ってくるとかなり助かる！PDFから情報を拾ってきてほしい
今回は「携行品プラン」「賠償責任プラン」「ケガプラン」など、いくつか商品が用意されているタイプの損害保険の重要事項説明書PDFを読みこませ、それをうまくひろってきてくれるか試しました。
うーん、早速エラーだ。
でもこれはGeminiの設定を変えたら治りそう。
3.5 Flashを2.5Flashにしてみたら…
なんか前進した感じがする！けど、ちゃんとPDFの内容を読み取れてない。
原因としてはこのあたり？
・PDF内の文字が認識されていない
→画像になってる表の情報は読み取れなかった
・ナレッジのステータスが「エラー」になっていた
→埋め込みモデルをgemini-embedding-001にした
→Gemini APIの利用上限に達していた
解決策
・Google AI Studio以外のEmbeddingモデルを使う？
→Jina AI Embeddingsに変えてみる？
よし、やってみよう。
治らない……
うーん、また後退した気がする。
エラー文を見ると……
[models] Rate Limit Error, Concurrency limit exceeded: 2/2 concurrent requests. Wait for pending requests to complete before sending new ones.
つまり？？GPTに聞いてみたら下記の回答↓
「PDFをアップロードすると、Difyは複数のチャンクを並列でEmbeddingしようとします。しかし、使っているEmbedding API側が同時実行数を2件までに制限しているため、途中で止まってしまっています。
このエラーが出るケースは例えば
PDFをアップロードした
途中で失敗したので再アップロードした
「再インデックス」を何度も押した
別のKnowledgeも処理中
このような状態だと起こりやすいです。」
原因：焦りすぎ？
そもそもの話
そしてGTPからこんなことも言われました。
「Fuseさんの最終目的は"保険の重要事項説明書を検索できる社内FAQボット"ですよね。
この用途なら、DifyよりもGoogleのNotebookLMの方が相性がかなり良いです。PDFをそのまま読み込ませて質問でき、日本語の保険約款や重要事項説明書の検索も得意です。
もし「最終的にはDifyでLINE BOTやWebチャットにしたい」という目的ならDifyを続ける価値がありますが、まずFAQの精度を確認したい段階なら、NotebookLMで内容を検証してからDifyへ移行する方が作業がスムーズです。」
ほんとに？
（NotebookLMって何？と思いながらとりあえず検索してPDFを放り込んでみた↓）
ほんとだ…………
（今回は試しに自動車保険の重要事項説明書を読みこませてみました）
Difyを勉強したかったのにNotebookLMで2分で解決してしまいちょっと困った…
方向転換
PDFから情報を拾ってくるのはNotebookLMにまかせて、
Difyでは「自分が欲しい補償から逆引きして保険プランを案内するbot」のプロトタイプを作ってみます。
「質問分類器」というものがあるのを発見したので、使ってみることに。
今回は欲しい補償に合わせて、ケガプランか携行品プランどちらかを案内してくれるような仕組みを目指しました。
動いてくれるか……？
↓
ケガの補償が欲しい場合→傷害プランを案内している！
メガネの破損に対応したい場合→携行品プランを案内している！
動いた！！
質問分類器の中身をもっと充実させれば実用に近づけそうです。
AIはすごい
今回Difyに触れるにあたって、chatGPTにエラー画面を貼り付けて原因を聞いてみたり、「○○という用途に使いたいんだけどどういう構成にすればいい？」と相談してみたりして、誰かと共同で作業できている感じが面白かったです。
また、Difyの構成にGeminiを入れ込むことによって「一字一句すべて指示しなくていい」というのが素人ながら体感できたので、もっと掘り下げて勉強していきたいな～～と思ったのでした。
ちょっと楽しくなってきたぞ～～。次回はもっとよいものを作るぞ。