Are you sure you want to delete the question?

If your question is resolved, you may close it.

Leaving a resolved question undeleted may help others!

We hope you find it useful!

「chatbot-ui」でAzureOpenAIモデルを利用するには?

ご質問

chatbot-ui」(オリジナル)で、「AzureOpenAI」を使う場合は、次の設定で合っていますか?
1_[UserSettings]-[API Keys]でAzureに切り替えてAPIキーやターゲットURL等を入力した.png
※[UserSettings]-[API Keys]でAzure側に切り替えてAPIキーやターゲットURL等を入力する。

実際に試した動作

※ただし「chatbot-ui」(オリジナル)ではなく、フォークしてmiiboAPIを使えるようにした「chatbot-ui-for-miibo」での確認結果。

(1)[UserSettings]-[API Keys]でAzureに切り替えてAPIキーやターゲットURL等を入力した (2)[GPT-4o]を選択して質問すると「Model not found」エラーになってしまう (3)[GPT-3.5 Turbo]を選択して質問すると「An unexpected error occurred」エラーになってしまう (4)[miibo]を選択して質問したときは正常に回答される
(1) UserSettings - API Keys でAzureに切り替えてAPIキーやターゲットURL等を入力した (2) GPT-4o を選択して質問すると「Model not found」エラーになってしまう (3) GPT-3 5 Turbo を選択して質問すると「An unexpected error occurred」エラーになってしまう (4)miibo を選択して質問したときは正常に回答される

(経緯)

  • miiboAPI利用以外の生成AIサービスとの接続を試したく、AzureOpenAIの設定を試みていた。
  • [UserSettings]-[API Keys]で設定を終えて、画面右上で生成AIモデルを切り替えて、質問したが、次のエラーが発生してしまう。
    • (1)「Model not found」エラー
      → Azureでデプロイ済みのGPT-4oモデル選択時。
    • (2)「An unexpected error occurred」エラー
      → Azureでデプロイ済みのGPT-3.5 Turboモデル選択時。
       (ただし[UserSettings]-[API Keys]で"gpt-35-turbo-16k"を入力しておかないと「Model not found」エラーになる。)

(関連)chatbot-ui-for-miiboとしての同質問の記録

以上です。
よろしくお願いします。

0

1Answer

・・・もしや、同じような課題でしょうか?
※ただし「chatbit-ui-for-miibo」はV2.0.0ベースなのですよね。
(Qiita)Chatbot UI legacyの問題

Chatbot UIはVersion 2.0.0がリリースされていますが、
(中略)
その際、Chatbot UIはlegacy版のできるだけ新しいものを使おうと思い、Mckay Wrigley氏によって作成されたChatbot UIのlegacyブランチ(2023/04/05 1:09:19最終コミット)を用いてローカル環境でChatbot UI legacyを起動させてみたのですが、「モデルの取得中にエラーが発生しました。」というエラーとなり動作しませんでした。
 この記事ではChatbot UI 2023年04月20日版にできるだけ近いバージョンを構築して、回答が途切れる問題の対策、gpt-35-turbo-16kモデルの対応までをまとめます。

・・・・とりあえずは、環境変数(.env.local)に設定してやってみますかね。
(Qiita) Chatbot UI Ver2.0.0をPCで動かす

0Like

Your answer might help someone💌