はじめに
みなさんプロンプトフローは使ったことがありますか？
プロンフローとはLLMのフローの構築、評価、デプロイまでを一気通貫で構築できるAzureのサービスです。
今回はプロンプトフローのサンプルを使って爆速でWikipediaを用いたチャットAPIを作っていきます。
内容
サンプルのクローン
Azure AI Studioのサイドバーからプロンプトフローを選択し、「+作成」ボタンを押します。
ギャラリーを探すから「Ask Wikipedia」を探してクローンします。
すると以下のようにフローが構築されます。
プロンプトフローでのLLMの設定
LLMを使えるようにするため、実際のリソースとの接続を行います。(添付写真では接続対象をgpt-35-turboとしています。)
実行のテスト
実行のためにランタイムを選択して起動します。ランタイムの起動には3分程度かかります。
以下入力に好きな質問を入れて、ヘッダーの実行ボタンを押します。
すると以下のような出力が得られます。
OpenAI announced GPT-4 on March 14, 2023. It was launched and made publicly available through various platforms, including the paid chatbot product ChatGPT Plus, OpenAI's API, and the free chatbot Microsoft Copilot. SOURCES:
https://en.wikipedia.org/w/index.php?search=GPT-4
ちゃんと確からしいことを言っている&URLまで表示してくれて偉いです。
出力のログは以下のようにわかりやすく吐き出されます。
経過時間や消費トークン数についても一目瞭然です。
またプロンプトフローの各フローについても出力を確認できます。
（添付写真はget_wiki_urlのフローの結果です）
デプロイ
最後にデプロイします。
ヘッダーのデプロイボタンを押し、エンドポイント名やランタイムのスペックを選択したらデプロイできます。
おわりに
上記手順で驚くべきほど簡単にWikipediaを用いたチャットAPIを公開できます！
皆さんも触ってみてください！