Difyって？
DifyはオープンソースのLLMアプリ開発プラットフォームです。 RAGエンジンを使用して、エージェントから複雑なAIワークフローまでLLMアプリを編成します。 LangChain よりも本番環境に適しています。
公式サイト
事前準備（WSL）
1.Windows PoweShellを「管理者として実行」し
wsl --installと入力してインストールする
2.インストールが完了したら、OS再起動
3.再起動するとUbuntuが自動で立ち上がり、ユーザ名とパスワードを設定
4.コマンドプロンプトを開いてwsl -l -vと入力しWSLのバージョン情報が表示されればOK
事前準備（Docker）
1.Ubuntu（WSL）にDockerをインストールする
sudo apt update
# インストールに必要なものをインストール
sudo apt install \
apt-transport-https \
ca-certificates \
curl \
gnupg \
lsb-release
# GPGキー追加
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg
# dockerのパッケージリポジトリをaptに追加
echo \
"deb [arch=amd64 signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://download.docker.com/linux/ubuntu \
$(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
# dockerEngineのインストール
sudo apt update
sudo apt install docker-ce docker-ce-cli containerd.io
# docker-composeのインストール
sudo curl -L "https://github.com/docker/compose/releases/download/1.29.2/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
sudo chmod +x /usr/local/bin/docker-compose
# docker daemonの起動
sudo service docker start
2.docker自動起動設定
WLS使用時に自動でdockerを起動するようにする
# service docker startだけパスワード無しでsudoできるようにする
sudo visudo
# User privilege specificationに以下を追記
ユーザー名 ALL=NOPASSWD: /usr/sbin/service docker start, /usr/sbin/service docker stop, /usr/sbin/service docker restart
3.docker操作権限を付与
dockerグループに対してOS操作をするユーザを追加（権限付与）する
sudo usermod -aG docker [ユーザ名]
Ubuntuを開きなおすことで設定が反映されます。
ローカルにDifyコンテナを起動する
GithubからDifyのコードをcloneしdocker composeでコンテナを起動する
git clone https://github.com/langgenius/dify.git
cd dify/docker
docker compose up -d
実行結果
8個のコンテナが起動していますね。
Difyにログインする
ローカルにDifyが起動しているので下記URLにアクセスし、サインアップする
http://localhost/install
管理者アカウントのセットアップを終えたらサインインする
サインインできました！
画面はこんな感じ。
LLMモデル設定
OpenAIで無料プランの場合はAPI Key登録時にエラーが出ました
今回はOpenAIのモデルgpt-3.5-turbo-16k-0613を使います。
事前にOpenAIでAPI Keyを取得しておきます。
右上のアカウント＞設定からモデルプロバイダーを選択し
使用するLLMモデルをセットアップします。
以下のようにモデルの右端に緑色のステータスが表示されていればOK
ワークフローを作る
「アプリを作成する」の最初から作成を選択してワークフローを作ってみます。
名前は何でもよいですが「検索くん」にしました。
自分の代わりにGoogle検索してくれるアプリです。
初期配置されている「開始」モジュールを選択して
ユーザが質問入力できるようにinput変数を登録します。
次にユーザが入力した内容を基にGoogle検索をしてくれるように「GoogleSearch」モジュールを追加します。
この時、SerpAPIキーが必要になりますのでGoogleアカウントを持っていればアカウント連携してサインアップしAPIキーを取得します。
入力変数には「開始」モジュールで登録したinputを選択し
Result typeをtextに設定します。
次に、検索結果から推論するLLMモジュールを追加
モデルは事前にモデルプロバイダーで設定したOpenAIのgpt-3.5-turbo-16k-0613を選択します。
SYSTEMプロンプトには入力変数inputとGoogle検索結果のtextを入力します。
最後に「終了」モジュールを追加
デフォルトだとJSONで結果が返ってきてしまうので、出力変数にLLM/textを設定します。
これでワークフロー（アプリの）の作成が完了です。
テスト実行
画面上部にある「▷実行」を押してテストしてみます。
FF14のディレクターである吉田氏の肩書を聞いてみました。
実行すると、ワークフローが流れて回答が出力されました。
合ってそうですｗ
アプリを公開する
今回はローカル環境なので外部公開はできませんが
画面右上の「公開する」をクリックするとブラウザアクセス用のURLが生成されます。
http://localhost/workflow/xxxxxxxx
初心者にはDPSがおすすめのようですね。
かわいい装備は白魔導士だけじゃないですが、まぁ言いたいことは分かりますｗ
最後に
サーバも要らずにアプリを簡単に作れちゃうので面白いですね。
使用するLLMモデルによって回答の精度は変わりますが、その分お金もかかるのでトレードオフです。
今回は代替検索してくれるアプリでしたが、学習データを登録してチャットボットを作ったり
いろんなことがDifyで出来るのでもっと試したいですね。