はじめに
OpenAIのAPIがリリースされて以降、多数のllm関連デモアプリがossとしてリリースされています。特にAzureOpenAIが公開されて以降はマイクロソフト公式のものを中心にchatgptを用いたエンタープライズ向けOSSも多数公開されてきています。
実際に使用してきた経験をもとに、ざっくりとしたわかりやすさ重視で簡単にまとめます。技術、機能的な部分に関しては詳しく言及しませんので、リンク元のgithub等を直接見ていただければと思います。
定期的に更新予定のため、いいね、ストック等していただけると励みになります！
対象者
- openaiAPI(AzureOpneAI含む)を用いたOSSについて概要を知りたい人
独自データ活用系
- 自前で用意したデータを読み込ませて独自のchatgptを構成するためのデモアプリをまとめます。（モデルの学習を行うわけではない。）
この分野に関しては今後もCognitivesearchを利用したものが主流になると思いますので、MS公式のデモアプリの動向について注視していければと思います。
【結論大本命！！！】azure-search-openai-demo
AzureOpenAIでgpt3.5turboの公開と同時に公開されたものです。詳しくはこちら。
社内データを用いたchatgptのpoc等を検討する場合、こちらのアプリを選択すればまず間違い無いんじゃないかと思います。OpenAIが利用可能なAzure環境さえあれば簡単にデプロイできます。
特徴
- Azure CognitiveSearchとgptを組み合わせて独自データを用いたchat-gpt を作成できる。
- CognitiveSearchのベクトル検索が超強力。
プレビューリリースされているベクトル検索が利用でき、データのベクトル化も簡単に行えます。
internal-document-search
AzureOpenAIリファレンスアーキテクチャの公開とともにリリースされたもの、先ほど紹介したデモアプリの日本ローカルバージョンの様なものですです。基本的な機能、UIは同じですが以下のような差異があります。
- ベクトル検索非対応
- CosmosDBを用いた履歴管理が可能
- ドキュメントが日本語でわかりやすい
いずれはこれらの差異も埋まるかもしれませんが、jp版は更新がそれほど早くないと思われますので、ベクトル検索を試したい場合は最初に紹介したアプリを利用するのが良いです。
chatgptクローン系
独自データの利用などはせず、chatgptをAPI経由でセキュアに利用するためのデモアプリをご紹介します。
chatbot-ui
- OpenAIAPI/AzureOpneAIAPIを利用して、chatgptライクなchatUIを構築できます。
AzureOpenAIAPIを利用した内部に閉じたセキュアなchatgptを構築する際の、最もシンプルな選択肢になると思います。
チャットのログはキャッシュに保存されます。 - 環境変数の設定で利用するAPIのエンドポイントを変更できるため、langchain等で作成した自前のAPIのフロントエンドとしても活用できるかもしれません。
※こちらのリポジトリは4ヶ月以上更新されていません。
azure-chatgpt
- MS本社公式より公開されているもです。
AzureAD,githubauthを用いた認証機能、CosmosDBによる履歴の管理が標準で利用でき、今後エンタープライズ向けchatgptUIのデファクトスタンダードになるのではないかと思います。
※詳しい中身について確認後追記したいと思います。
おわりに
かなりシンプルにまとめましたので、アプリの詳細についてもいずれ別記事でご紹介できればと思います。