どうも、山口です。
本日Difyのv0.6.12がリリースされましたね！
今回はLangSmith連携に関して紹介したいと思います。では始めます。
新バージョンへのアップデート
docker/.env.exampleをコピーしてdocker/.envを作成してください。
これをしないとDify起動しないので気をつけてください。
今までdocker-compose.ymlに書き込んでカスタマイズしていた方はアップデートが入るたびにカスタマイズを初期化しないといけなくて面倒だったと思いますが、.envに値を切り出したおかげでその影響が受けなくなりました。
あとは今まで通りのアップデートです。
docker compose down
docker compose pull
docker compose up -d
LangSmithとの連携
まずはChatbotを作成してください。そしてChatbotの設定画面にいくと以下のような表示が出てると思います。
そしたらConfigをクリックしてください。
そしたらLangSmithかLangfuseの好きな方を選んでください。
今回私はLangSmithを選択しました。
そしたらLangSmithの設定できるので、 LangSmithで発行したAPIキーと管理したいプロジェクトを選択してください。
設定が完了すると以下のようになります。これでおわりです。
では実際に反映されてるのか試してみましょう。以下のように質問してみました。
LangSmithを見にいくと...
反映されてますね！いい感じです。
これでいろいろと評価などがしやすくなっていいですね。
Dify単体でもGood or Badはできますが、現状それは直接データベース見に行かないと集計できないのでDify→LangSmith→評価みたいなフローが評価するには一番やりやすいでしょうか。
リリースまとめ
最後に今回のリリースをまとめて終わりにします。こちらはClaude 3.5-Sonnetで作成しています。
🚀 新機能
-
LangSmithとLangfuseによるトレーシング
アプリケーションのパフォーマンスと動作を詳細に追跡できるようになりました。 -
ワークフローエディタの元に戻す/やり直し機能
ワークフローの編集がより柔軟になり、ミスを簡単に修正できるようになりました。 -
ワークフローDSLのインポートと上書き
DSLのエクスポートとインポートを通じて、間接的にバージョン管理ができるようになりました。 -
新しいアイコン
ユーザーインターフェースが新しいアイコンで刷新され、より洗練された外観になりました。 -
ワークフローステップの非表示オプション
WebApp設定でワークフローステップを非表示にする選択肢が追加されました。 -
Firecrawlツールのセルフホスティング
Firecrawlツールを自前のサーバーでホストできるようになりました。 -
チャットメッセージでのLaTeX表示
数式や科学的表記をより正確に表現できるようになりました。 -
引用と属性表示のデフォルト有効化
情報の出所をより明確に示すことができるようになりました。
🛠️ 新しいツール
-
JSONプロセスツール
JSON形式のデータを効率的に処理できるツールが追加されました。 -
Serply検索ツール
Web、求人、学術情報、ニュースの検索オプションが拡大しました。 -
Novita AI画像生成ツール
モデル検索、テキストから画像生成、タイル作成など、画像生成の機能が強化されました。
🤖 モデルサポートの拡大
- Jina新事前定義リランカー
- Bedrock Command Rモデル
- Claude-3-5-Sonnet-20240620
- Vertex AI Claude-3-5-Sonnet@20240620
- OpenRouter用の事前定義モデル
- Qwen LLM
- Spark 4.0
これらの新しいモデルのサポートにより、より多様で高度な自然言語処理タスクに対応できるようになりました。
🗄️ ベクトルデータベースとストレージの改善
- OpenSearchをベクトルデータソースとしてサポート
- Oracle23aiをベクトルデータソースとしてサポート
- Tencent COSストレージのサポート
これらの追加により、データの管理と検索の柔軟性が大幅に向上しました。
🏗️ APIサービスインフラストラクチャの改善
- Docker Composeに.envを追加し、デプロイメントフローを改善
- 設定の定義と検証にPydantic Settingsを導入
- APIのDockerfileでPoetryを依存関係ツールとしてサポート
- APIサービスのPipサポートを削除
これらの変更により、開発とデプロイメントのプロセスがよりスムーズになりました。