はじめに
Difyが使えるようになったので
ちょっといろいろと機能を試してみよう
Chatbotで遊ぶ
ChatBot基本
いい具合のあいづちを打ってくれるなべひろくんになってもらおう
設定画面
試しに動かす
ChatGPTみたいな画面が出てきた
Start Chatで始まるようだ
やりとりをすすめてみるもあまり手ごたえがない。
プロンプトがよくなかったか。。。
それでもChatGPTみたいなインターフェースが一通りそろっているから
こんだけサクッと作れるならもうこれだけでも十分な気がする
変数を使ってみよう
「短文」を試す
手順画面に{{name}}みたいに付け加えたら、ユーザー入力フィールドに入力された内容を代入して
うまい具合にプロンプトへ組み込んでくれるようだ。
デバグ画面からどんな感じで使えるのか試せる。助かる。
「選択」を試す
「選択」ではプルダウン形式で変数を指定できる。
試しに朝食を考えさせるようにさせたらいい具合の返事が来た
他にも「段落」「数値」が選べるけど大体似たようなもんなのがわかってきたので割愛
コンテキストで何ができるかな?
コンテキストではドメイン知識を格納できるので専門的な会話ができるっぽい
試してみよう
コンテキストの 追加 をクリックして、 作成に進む クリック
3種類(テキストファイル、notion、ウェブサイト)からコンテキストに使う情報を選択できるようだ。
簡単なテキストから選ぼう
お試しなので~~…こんな感じで癖の強めな食べ物の好みを書いてみました。
で、ドラッグアンドドロップでテキストをアップロード 次へ クリック
テキストの前処理画面が出た!
自動を選ぶと作成したテキストは一塊で表された
カスタムを選択すると、行ごとで分割されて保管されるようです。
↓↓の説明をみると、この程度であればチャンクを分ける必要もないかなぁ~って思ったので「自動」を選択します
補足:チャンクって何?
最高にわかりやすい説明があったので置いときます。
この引用がわかりやすかったそのまま置いときます
チャンクの基本的な発想は大量のデータをより小さく、管理しやすいように分割しLLMに取り込むアプローチ方法になります。
感覚的に「ハリーポッターシリーズを全作品ぶっ通して見続けた後に書く感想文よりも、1作品ごとに見てから書く感想文の方が全体としてはいい出来だよね」みたいな話に近いです。
LLMの文脈ではチャンクは入力データとモデルの出力の両方に適用でき、より効率的な処理とメモリ管理が可能になります。
検索テストする
作成されたコンテキストがちゃんとHITするかテストができるっぽい。
これはいいですねぇ
キーワードは手動で足せるっぽいので試しに「パクチー」入れてみてもう一度検索テストしてみよう
編集ボタンがあるのでそれをクリックしたらキーワード追加できる
結果割愛するけど検索テストで引っかからなかった。。。
チャンク分けたら引っかかるのかな?4つに分けて再挑戦
結果変わらず、「厚切」への反応がいいのは不思議。「パクチー」は意外と反応されなかったのは気になるけど
とりあえず先へ進めよう
スタジオ画面に戻って編集を再開。
保存してなかった。。。のでコンテキストの追加やり直し。さっき追加したドキュメントを選択
できたっぽいので確認してみよう。
結果は~…パクチーは反応してくれなかったけどやっぱり厚切りには反応してくれたw
そんな感じでコンテキストに引っかかるキーワードを出して来たら回答してくれる、ってことですね。
なるほどなるほど勉強になりました。
機能の追加について
+機能の追加 をクリックすると、そのほか機能も使えるようになるっぽい。
このあたりは~~・・・また今度でいいかなって思いました。
おわりに
無理して難しい機能を考えなくてもこのChatbotの基本機能だけでも
大体やりたいことはできそうってことがわかりました。
あとは、コンテキストがどんだけ引っかかってくれるんだろうか、ってところが課題な気がしてきた。
ここが腕の見せ所だったりするのかな…?って思いました。