背景
社内でAWS勉強会を開催すべく、ネタ探しのためにBedrockを使おうとしたら色々と躓いたので、自分への備忘録として残しておく。
モデルアクセスのリクエストができない。。。
早速使おうとしたがモデルへのアクセス権がないといわれる。
モデルアクセスにアクセスしてみてもアクセス権が付与できない。
rootアカウントでも同じ画面が表示され、有効化できないどうすればええんや。。。
助けて!AWSサポートさん!!
使用不可のところにカーソルを合わせると以下の文章が表示された。
This model is unavailable. To enable access to this model, contact support . Note that your request may be fully approved, partially approved, or denied to maintain service performance and ensure appropriate usage of Amazon Bedrock.
拒否するかもしれないけど、サポートにいったん問い合わせてねという感じの記載。とりあえずサポートセンターから問い合わせてみることに。私用のアカウントであるためベーシックプランを利用している。技術サポートは受けれないため「アカウントと請求」から以下のような形でケースを作成した。
追加情報にはBedrockでモデルを利用したい旨を記載して問い合わせを実施。
Bedrockを確認してみるとモデルをリクエストできるようになっていました。
しかし、いざClaude 3.5 Sonnetにチェックを入れてモデルアクセスをリクエストしようとすると。。。
個人用だが何かしら登録しないと進まないのでとりあえず所属している会社を登録した。
モデルアクセスをリクエストするとなんと数分でリクエストが通りアクセスが付与されました!!
早速Bedrock playgroundでClaudeを使ってみた!
左側のメニューより「プレイグラウンド>Chat/text」をクリック。
「モデルを選択」というのが出てくるのでこれをクリック。
モデルを選択してみると「3.スループット」に「オンデマンド」と「APAC Anthropic Claude 3.5 Sonnet」というのが表示されている。
「スループット」とはモデルが処理して返すことができる入力と出力の数のレートを示しており、「オンデマンド」にすると使用量に応じて課金が発生する形になり、標準的なスループットとなる。もう一つの「APAC Anthropic Claude 3.5 Sonnet」というのは「プロビジョンドスループット」にあたり、特定のユニット数を先に購入してコストが固定になる代わりに高いレベルのスループットを確保できるというものになる。
今回はお試しで利用したいので、「オンデマンド」を選択。
これによりプロンプトを入力できるようになり、無事に利用することができました!!
(Claudeさんからコメントもいただいています↓)
最後に
これでBedrock × Claudeで遊べるぞ!!
頑張って勉強会の資料を作らねば。。。