はじめに
待ってましたDify v1.0.0。Cloud版は一足早く2/27にリリースされていましたが、今日、Githubにも1.0.0がリリースされました。
v1.0.0のリリースおめでとうございます!っということで、まずはデプロイしてみました。
セットアップの細かいところは過去のverですが、以下をご参照ください。
https://qiita.com/itokazu/items/3c76581fcbf3d022bdb2
git clone -b 1.0.0 https://github.com/langgenius/dify.git
cd dify/docker
cp .env.exsample .env
vi .env
Vector Storeはoracleにしておきます!
VECTOR_STORE=oracle
起動します。
[opc@dify-genai-test01 docker]$ docker compose up -d
[+] Running 97/31
✔ sandbox Pulled 219.6s
✔ nginx Pulled 179.2s
✔ plugin_daemon Pulled 178.2s
✔ api Pulled 299.3s
✔ worker Pulled 299.3s
✔ db Pulled 186.1s
✔ redis Pulled 182.2s
✔ web Pulled 288.6s
✔ ssrf_proxy Pulled 99.4s
✔ oracle Pulled 299.4s
[+] Running 13/13
✔ Network docker_ssrf_proxy_network Created 0.1s
✔ Network docker_default Created 0.2s
✔ Volume "docker_oradata" Created 0.0s
✔ Container docker-redis-1 Started 58.0s
✔ Container docker-web-1 Started 58.3s
✔ Container docker-oracle-1 Started 59.2s
✔ Container docker-db-1 Started 59.1s
✔ Container docker-ssrf_proxy-1 Started 59.5s
✔ Container docker-plugin_daemon-1 Started 58.9s
✔ Container docker-sandbox-1 Started 59.2s
✔ Container docker-api-1 Started 62.0s
✔ Container docker-worker-1 Started 61.5s
✔ Container docker-nginx-1 Started 6.4s
初期設定
LLMにはOCIのGenerative AIサービスを使います。まずはプラグインのインストールを行います。
プラグインをインストールするからマーケットプレイスをクリックします。
OCIGenerativeAIがあるので、セットアップをクリックします。
OCI Generative AIを利用される方は、↑は少しややこしいのでこちらの記事を参照して設定いただければ幸いです。
https://qiita.com/itokazu/items/3c76581fcbf3d022bdb2#oci-gen-ai%E3%81%AE%E8%A8%AD%E5%AE%9A
チャットボットの作成
とりあえずチャットボットを作って動くことを確認したいと思います。
Llama3.1 405bを選択して、、無事に回答が得られました!
最後に
ということで簡単でしたが、Self-host版のv1.0.0のリリース記念として、手元にインストールしてOCIのGenerative AIサービスで利用してみました!