DifyでLLMが楽しすぎる!
遅まきながら、LLMアプリ開発プラットフォームのDifyに触れて夢中になっています。
Pythonが苦手でLangChainも未修。LLMは「必要に応じてAPI呼んだらよくない?」くらいに思っていたのですが、Difyに触れて、特にプロトタイピングには必須のプラットフォームだと痛感しました。
興奮にまかせて入門記事や、セルフホスト手順をまとめてみたので紹介します。
Difyの何が嬉しいの?
Difyにはどんなことができて、何が嬉しいのか記事にまとめました。
遠巻きに眺めるだけだった以前の自分に、「Difyはよ使え!」と諭したいポイントはこちら。
-
チャットボットメーカーじゃないの?
- 本質的にはビジュアルプログラミングができるワークフローエンジン
- n8nとかZapierとか好きでしょ?自分
-
RAGを超簡単に実現
- 興味はありつつ、ベクトルデータベースの敷居が高かった
- DifyだとWebクロールによるナレッジ構築も超簡単!
-
API連携も充実
- 自前APIもSwaggerでLLMと安定的にスキーマを共有できる
-
ログ・統計・API公開
- ゆくゆく必要だけど、実装するのは億劫な機能が最初から付いている
- ロジック作りと検証に集中できる
-
モデル比較検証も簡単
- ChatGPTで検証したけどGeminiでもいけるかな?みたいな疑問も即座に確かめられる
セルフホストする手順
Difyの有料プランは1ヶ月$59 (3アカウント)からですが、VPSなどでセルフホストすると、お安く思い切って使えます。
親切なことにLet's Encryptのcertbotも同梱されているので、少し手間をかければSSLで安全に利用できます。
何よりOSSアプリの展開や運用も楽しい!というわけで、Difyを実用的にセルフホストする手順をまとめました。
Firecrawlもセルフホストしちゃおう!
Dify自体はWebクローラーを内蔵しておらず、FiracrawlとJina Readerに対応しています。
Firecrawlも無料プランがありますが、お安く同じVPSでセルフホストして、Difyと連携させる方法をまとめました。
Difyすごいぜ
Difyに触れて、初めて「自分もAI失業ありえるな…」と感じてゾクっとしました。
そのくらいDifyの短期間での仕上がりに圧倒されてしまいました。
自分もこうして啓蒙したりと、わずかですが貢献していきたいと思います。