みなさんこんにちは。最近話題となっているDifyというツールについて調べてみました。

Difyとは

オープンソースの大規模言語モデル（LLM）アプリケーション開発プラットフォームで、Backend-as-a-ServiceとLLMOpsの概念が組み合わさったソフトウェアです。通常LLMの開発には複雑なコード作成が必要になりますが、技術者ではない開発者でも、本番レベルの生成AIアプリケーションをすばやく構築できるのが一番の特徴になります。

Difyを使うと何ができるの？

ノーコードでAIアプリケーションを直感的に構築
50以上の組み込みツールを使ったAIエージェントを数クリックで構築できる
GPT-4、Claude、Llama3など、アプリケーションの作成に使うことができる多様なLLMモデルをサポート
RAG(Retrieval-Augmented Generation)エンジンにより、関連情報の検索・取得と高品質な回答生成が可能
ワークフロー機能を使用し、グラフィカルな処理フローの設計が可能

サポートされる主要LLMモデルのプロバイダーとモデル

OpenAI
- gpt3.5-turbo
- gpt4
- gpt4-Turbo
- gpt4-vision
Azure OpenAI
Anthropic
- claude-opus
- claude-sonnet
- claude-haiku
Google
- gemini-1.5-pro
- gemini-pro
- gemini-pro-vision
Cohere
- command-r
- command-r-plus
Bedrock
- titan-text-g1
Hugging Face

※上記に記載がない項目についても、たくさんのモデルをサポートしています
※LLMモデルについては、更新が早いためドキュメント化はされていません
※LLMプロバイダについては下記ページを参照のこと

利用方法

Difyを使うには、以下の2つの方法があります。

クラウド版のDify Cloudを利用する方法
- セットアップ不要ですぐに使えるクラウドサービス。プランによって異なるが、ストレージ容量やチームで使うかどうかなどで、利用できるプランが変わる
セルフホスティング（ローカル環境）でDifyを利用する
- Dockerを使ってローカル環境にDifyをインストールして利用する
- DockerDesktopが動作する環境、DockerVMが2vCPU、8GBメモリを利用できる環境

※料金ページについては、下記を参照ください

※ローカル環境のスペックについては、下記のローカル環境へのセットアップの項にあるURLを参照ください

ローカル環境へのセットアップ

セットアップ環境

linuxの場合
- Docker 19.03 以降がインストールされていること
- Docker Compose 1.25.1 以降がインストールされていること
- Python 3.10 の環境が動作すること（手順ではAnacondaを利用）
- Node.js v18.x がインストールされていること
- NPM version 8.x.x がインストールされていること

※基本的には下記手順に沿って設定作業を実施しています

1. dockerタスク実行

レポジトリからファイルを取得して、dockerタスクを起動

git clone https://github.com/langgenius/dify.git

cd docker
docker compose -f docker-compose.middleware.yaml up -d

2. APIサーバの構築

Python環境の構築

anacondaでpython環境を新規作成

conda create --name dify python=3.10

※以前作成した環境に何か作業を行う場合は以下のコマンドを使用

conda activate dify

環境変数の設定

APIフォルダへ移動し、作成した秘密鍵を.envファイルに保存する

※openssl rand -base64 42の出力結果をと置き換えて次のコマンドを実行する

cd api

openssl rand -base64 42
sed -i 's/SECRET_KEY=.*/SECRET_KEY=<your_value>/' .env

Python環境の設定

依存関係のモジュールをセットアップする

pip install -r requirements.txt

APIサーバの起動

flask db upgrade
flask run --host 0.0.0.0 --port=5001 --debug

3. フロントエンドサーバの構築

npmのインストール

下記コマンドでインストールする

cd web
npm install

環境変数の設定

必要に応じて環境変数を設定します

NEXT_PUBLIC_DEPLOY_ENV
- 開発環境の場合は "DEVELOPMENT"、本番環境の場合は "PRODUCTION" に設定
NEXT_PUBLIC_EDITION
- セルフホスティングの場合は "SELF_HOSTED"、クラウドサービスを使用する場合は "CLOUD" に設定
NEXT_PUBLIC_API_PREFIX
- コンソールアプリケーションのベースURLを設定します
- APIやWebアプリのドメインがコンソールのドメインと異なる場合は、WEBサービスのコンソールベースURLを指定
- 例) http://cloud.dify.ai/console/api
NEXT_PUBLIC_PUBLIC_API_PREFIX
- WebアプリのURLを設定します。WebアプリのドメインがコンソールやAPIのドメインと異なる場合は、WEBサービスのWebアプリベースURLを指定
- 例) http://udify.app/api
NEXT_PUBLIC_SENTRY_DSN
- Sentryを使用する場合は、SentryのDSN（Data Source Name）を設定
- Sentryを使用しない場合は空のまま
NEXT_PUBLIC_SENTRY_ORG
- Sentryを使用する場合は、Sentryのオーガニゼーション名を設定
- Sentryを使用しない場合は空のまま
NEXT_PUBLIC_SENTRY_PROJECT
- Sentryを使用する場合は、Sentryのプロジェクト名を設定
- Sentryを使用しない場合は空のまま

# For production release, change this to PRODUCTION
NEXT_PUBLIC_DEPLOY_ENV=DEVELOPMENT
# The deployment edition, SELF_HOSTED or CLOUD
NEXT_PUBLIC_EDITION=SELF_HOSTED
# The base URL of console application, refers to the Console base URL of WEB service if console domain is
# different from api or web app domain.
# example: http://cloud.dify.ai/console/api
NEXT_PUBLIC_API_PREFIX=http://localhost:5001/console/api
# The URL for Web APP, refers to the Web App base URL of WEB service if web app domain is different from
# console or api domain.
# example: http://udify.app/api
NEXT_PUBLIC_PUBLIC_API_PREFIX=http://localhost:5001/api

# SENTRY
NEXT_PUBLIC_SENTRY_DSN=
NEXT_PUBLIC_SENTRY_ORG=
NEXT_PUBLIC_SENTRY_PROJECT=

フロントエンドサーバの起動

コードをビルドし、Web サービスを開始する

npm run build
npm run start

アプリケーション実行

difyにログインすると下記のような画面が表示されます。ここでオリジナルのアプリケーションを構築するか、すでに登録してあるアプリケーションを動かすこともできます。

登録済みアプリケーションは探索の画面から探すことができます。

余談な話ですが・・

レポジトリからファイルを取得して、以下のコマンドでdockerタスクを起動するだけでも動作しました。
現実的にはこちらの方がよさそうですネ。。

git clone https://github.com/langgenius/dify.git

cd docker
docker compose up -d

まとめ

軽く触ってみた感じ、色々出来そうな雰囲気があります。自分で開発するよりは、すでにアプリケーションとして登録されているものを使う方がより早く自分がやりたいことをできそうですね。次はもう少しアプリケーションを触ってみて、その内容をまとめられればと思います。