最近、LLM アプリケーションの開発で注目を集めているのが Dify と Langfuse の組み合わせです。
Dify は「ノーコード/ローコードで LLM アプリを構築できるプラットフォーム」、Langfuse は「LLMOpsを実現するLLMエンジニアリングプラットフォーム」であり、両者ともOSSで気軽に始めることができることが大きな特徴です。

この 2 つを連携させることで、

LLM ワークフローのブラックボックスを可視化
プロンプトのバージョン管理・改善を効率化
といった開発・運用の課題を大きく改善できます。

この記事では、これまで公開されてきた解説記事（全4本）を整理して「Dify × Langfuse 活用の全体像」をまとめました。

1. Langfuse での可視化（Dify編・前半）

Dify で構築した LLM ワークフロー（ファイルアップロード → テキスト抽出 → 翻訳 → レビュー → Markdown 変換）を Langfuse の Trace で可視化。

主なポイント
- API キーを設定するだけで簡単に Trace が取得可能
- Trace = 全体、Observations = 各処理ステップ、Generations = LLM 実行として表示
- Input/Output、トークン数、コスト、タイムラインを UI 上で確認可能
- デバッグに有効（例：document-extractor の出力チェック）

2. Langfuse での可視化（Dify編・後半）

前半に続き、RAG（Retrieval-Augmented Generation）を含むワークフローを Trace で可視化。

主なポイント
- ユーザー入力 → 知識検索 → テンプレート処理 → LLM 回答 → 出力
- Jina Reader でクロール、日本語クエリで検索、Embedding・Rerank を利用
- "Knowledge-retrieval" ステップでスコア付き参照ドキュメントを確認可能
- テンプレートや Metadata（Title など）も Trace に可視化

3. Dify のプロンプト管理を改善する Langfuse プラグイン

Langfuse のプロンプト管理（バージョン管理・変更履歴・比較）を Dify から利用できるカスタムプラグインの紹介。

主な機能
- Get Prompt：Langfuse からプロンプトを取得
- Search Prompts：条件に応じたプロンプト検索
- Update Prompt：新バージョンとして更新
  　
利点
- ワークフローからプロンプトを切り離し、管理をシンプル化
- プロンプト改善の高速なイテレーションが可能に
- GitHub で OSS 公開されており、拡張性あり

4. プラグイン v0.0.2 アップデート

「Get Prompt」ツールで変数を動的に置換できる機能を追加。

主な改善
- {{variable_name}} を JSON 形式で指定 → 自動で置換
- 出力に置換後のテキスト（processed_prompt）や元プロンプトを含める仕様に変更
  　
メリット
- プロンプトをテンプレート化して再利用性・柔軟性を向上
- 実運用でのカスタマイズ性が大幅にアップ

まとめ

Dify と Langfuse を組み合わせることで、ブラックボックスの解消（可視化）、**効率的なプロンプト管理（改善・バージョン管理）という大きなメリットが得られます。特にプラグインはOSSですぐに利用可能ですので、ぜひ試してみてください！