この記事について
DataStax社が公開している生成AI活用アプリケーションを紹介します。
サンプルアプリUI
OpenAI API利用
OpenAIのAPIを使って、ユーザーの問い合わせに答えることができます。
RAG (Retrieval Augumented Generation)
それだけでは、あまり意味がありませんが、このアプリは、自分の持っているファイルの情報をOpenAIに使わせて、問い合わせを行うことができます。
いわゆるRAG (Retrieval Augumented Generation)の実装です。
このPDFファイルをアプリに登録しています。
ファイルの参考文献の情報について問い合わせてみます。
このように、適切な回答を得ることができました。
Astra DB コントロールプレーン
先ほど登録されたファイルは、アプリによってベクトル化された上で、DataStax AstraDBに登録されています。
これがAstraDBの管理画面（コントロールプレーン）です。
「Data Explorer」画面で登録されたデータを確認することができます。
ある列の「Search」ボタンを押すことで、その列のデータに類似したデータ順に並べる変えることでき、上位N件のみ表示することもできます。
LangSmith
また、このアプリケーションは、LangChainを使って開発されています。
そして、LangChainを使ったアプリケーションのライフサイクル管理プラットフォームLangSmithとも連携しています。
以下がLangSmith上のこのアプリケーションのためのプロジェクトの画面です。
アプリケーション実行に関する各種トレース情報を見ることができます。
以下のように、OpenAIへのAPIコールの内容を確認することもできます。
アプリケーション利用状況のモニタリングもできます。
ソースコード
この記事で紹介したアプリケーションのソースコードは以下で公開されています。