AWS re:Invent2024 が開催中です！
大変有難いことに、自分は現地参加させていただいております。
12/2・12/3と各セッションを受講して感じたことは、参加者のAWSへの熱量ハンパナイ！、です。
特に、生成AI（GenAI）関連のセッションは大盛況で、最新のAI技術への関心の高さが顕著でした。
そこで、今回は「Amazon Bedrock の回答精度が向上！」と題しまして、
自分が気になったAmazon Bedrockのアップデート情報をご紹介させていただきたいと思います！
Amazon Bedrock が Rerankerモデル（Rerank API） をサポート!
Amazon Bedrock が Rerank API を通じて再ランク付けモデルのサポートを発表しました。これにより、RAG アプリケーションの応答の関連性が向上します。再ランク付けモデルは、ユーザークエリに基づいて取得したドキュメントをランク付けし、最も関連性の高い情報を Foundation Models に提供します。
https://aws.amazon.com/jp/about-aws/whats-new/2024/12/amazon-bedrock-rerank-api-accuracy-rag-applications/
改善点の詳細 - RAG アプリケーションの精度を向上
RAGが回答を生成する際に使用する、セマンティック（意味的）検索は、
ベクトル空間で意味的に類似したユーザのクエリとソースドキュメントを管理し、より正確な応答を生成する上で重要な役割を果たしています。
ただし、ユーザークエリが複雑な場合は、ユーザーの質問に部分的にしか関連しないドキュメントが取得される可能性がありました。
Rerankerモデルは、上記の課題を解決するために、
セマンティック検索で取得したドキュメントの中から、ユーザーのクエリに最も適した情報を優先的に選び出すアルゴリズムを使用することで、生成AIの回答の質の向上に貢献してくれます。
Rerankの重要性やその仕組み、効果については下記に記載がございましたので、
さらに詳細が気になる方はご参照ください！
https://aws.amazon.com/jp/blogs/machine-learning/cohere-rerank-3-5-is-now-available-in-amazon-bedrock-through-rerank-api/
ユースケース
AWSドキュメントを参照すると、主なユースケースは下記2点で記載があります。
Amazon Bedrock Knowledge Basesでは、Rerankerモデルの有効化⇛サービスロールの権限設定、という簡単な手順で、Rerankの実装ができるようですのでお試しいただければと思います！
- クエリ、ドキュメント、および再ランキング設定を入力し、開発者がRerank APIを独立して（直接）使用
- Amazon Bedrock Knowledge Basesを使用して RAGアプリケーションを構築し、RetrieveまたはRetrieveAndGenerateオペレーションを呼び出すときにRerank APIを使用