Amazon Bedrockモデル推論の解説

##はじめに

この記事では、Amazon Bedrockを使って生成AIモデルを簡単に活用する方法を解説します。

前提知識

生成AIは、大量のデータで学習された機械学習モデル（基盤モデル）によって実現されています。

• 基盤モデル： データの種類によって様々な能力を持つモデルに分類されます。
  • 大規模言語モデル（LLM）： テキストデータを学習し、文章生成、要約、翻訳など様々なタスクをこなします。
  • 画像生成モデル： 画像データを学習し、テキストから画像を生成します。
• プロンプト： 基盤モデルへの入力テキストのことです。
• 推論： 入力から出力を算出する処理のことです。
• 推論パラメーター： 推論結果を調整するパラメーターです。例えば、テンプラーやトップP/Kは、出力のランダム性や多様性を調整します。

Amazon Bedrockによるモデル推論

Amazon Bedrockは、サーバーレスで様々な基盤モデルを提供するサービスです。アプリケーションからAPIを通じてAmazon Bedrockにアクセスして利用します。

モデル推論の実行方法

• AWSマネジメントコンソール： GUIで簡単にモデル推論を試せる「プレイグラウンド」機能があります。チャット、テキスト、イメージなど様々なタイプのプレイグラウンドが用意されています。
• API： プログラムからモデル推論を実行できます。

料金プラン

• オンデマンド： 使用した分だけ課金される最も一般的なプランです。
• バッチ推論： 大規模なジョブを処理する際に、オンデマンドの半額で利用できます。
• プロビジョンドスループット： 安定したパフォーマンスが必要な場合に、専用のリソースを確保できます。

基盤モデルの種類

• ベースモデル： AI21 Labs、Amazon、Anthropicなどから提供される、一般的な基盤モデルです。
• カスタムモデル： Amazon Bedrockで独自のデータセットを用いてカスタマイズしたモデルです。
• インポートされたモデル： Amazon Bedrock以外の環境でカスタマイズされたモデルをインポートします。

モデルアクセスの許可

Amazon Bedrockを使用するには、モデルへのアクセス許可が必要です。AWS Marketplaceから必要なモデルを選択し、エンドユーザーライセンス同意書を確認して、アクセスリクエストを行います。

モデル推論の手順

1. AWSアカウントの準備： Amazon Bedrockを使用するにはAWSアカウントが必要です。
2. モデルアクセスの許可： AWS Marketplaceからモデルへのアクセス許可を取得します。
3. マネジメントコンソールでの推論： プレイグラウンドを使って簡単にモデル推論を試すことができます。
4. API経由での推論： アプリケーションからAPIを使ってモデル推論を実行します。

まとめ
Amazon Bedrockは、サーバーレスで様々な基盤モデルを提供するサービスです。プレイグラウンドやAPIを利用することで、簡単にモデル推論を実行できます。料金プランや基盤モデルの種類、アクセス許可、モデル推論の手順など、様々な要素を理解することで、Amazon Bedrockを効果的に活用できます。

関係資料
Amazon Bedrock モデル推論 a.準備編
Amazon Bedrock モデル推論 a.準備編/PDF