初めに
OpenWebUIでAmazon Bedrockの埋め込みモデルを使用したときにはまった話です。
※Docker環境です。
OpenWebUI + Amazon Bedrockの接続は公式ドキュメントを参考にしてください
エラー内容
埋め込みモデルをtitan text embeddings v2に指定してナレッジベースを作成。
ナレッジベースにファイルアップロードしたらこのようなエラーが発生しました
Bedrock Access Gatewayコンテナのログにはこのように表示されていました
ナレッジベースの作成に失敗した理由はログの通りでBedrock Access Gatewayでサポートされていないモデルなのでエラーが返ってきます。
解決方法
それではサポートされているモデルはどれなんだ?と思ってソースコードを辿っていたら、サポートされているモデルIDの一覧があったのでそのモデルIDに変更したところ、ナレッジベースの作成が出来るようになりました。
抜粋↓
bedrock.py
SUPPORTED_BEDROCK_EMBEDDING_MODELS = {
"cohere.embed-multilingual-v3": "Cohere Embed Multilingual",
"cohere.embed-english-v3": "Cohere Embed English",
# Disable Titan embedding.
# "amazon.titan-embed-text-v1": "Titan Embeddings G1 - Text",
# "amazon.titan-embed-image-v1": "Titan Multimodal Embeddings G1"
}
現時点(2025/03/23)では、Bedrock Access Gatewayで埋め込みモデルとして使用できるのはcohereの提供するモデルだけでした。