0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

Bedrock Access Gatewayで埋め込みモデルが使えない時に確認すること

Posted at

初めに

OpenWebUIでAmazon Bedrockの埋め込みモデルを使用したときにはまった話です。
※Docker環境です。
OpenWebUI + Amazon Bedrockの接続は公式ドキュメントを参考にしてください

エラー内容

埋め込みモデルをtitan text embeddings v2に指定してナレッジベースを作成。
ナレッジベースにファイルアップロードしたらこのようなエラーが発生しました
スクリーンショット 2025-03-23 172407.png
Bedrock Access Gatewayコンテナのログにはこのように表示されていました
スクリーンショット 2025-03-23 172450.png
ナレッジベースの作成に失敗した理由はログの通りでBedrock Access Gatewayでサポートされていないモデルなのでエラーが返ってきます。

解決方法

それではサポートされているモデルはどれなんだ?と思ってソースコードを辿っていたら、サポートされているモデルIDの一覧があったのでそのモデルIDに変更したところ、ナレッジベースの作成が出来るようになりました。
抜粋↓

bedrock.py
SUPPORTED_BEDROCK_EMBEDDING_MODELS = {
    "cohere.embed-multilingual-v3": "Cohere Embed Multilingual",
    "cohere.embed-english-v3": "Cohere Embed English",
    # Disable Titan embedding.
    # "amazon.titan-embed-text-v1": "Titan Embeddings G1 - Text",
    # "amazon.titan-embed-image-v1": "Titan Multimodal Embeddings G1"
}

現時点(2025/03/23)では、Bedrock Access Gatewayで埋め込みモデルとして使用できるのはcohereの提供するモデルだけでした。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?