はじめに
きのう夕方頃、Amazon BedrockがGAになったとのことで早速試してみました。端的に言ってしまえばAzure OpenAI ServiceのAWS版で、ChatGPTに似たチャットモデルも利用可能です。
今回は、Bedrockの価格、利用方法、チャットモデルの簡単な性能試験を行ってみたいと思います。
お値段
SageMakerでLLMを試す場合、１日に数万～十数万円のEC2インスタンスを立てる必要があります。翌月大変なことにならないように価格の確認は重要です。
Azure OpenAIServiceと同じく1000トークン当たりの従量課金のようです。Jurassic-2 Ultraで$0.0188/1,000tokensくらいなので気軽に試せそうです。
下準備
モデルのデプロイ方法がわかりにくく、ちょっとてこずったので手順を記します。
AWSにサインインしてから、検索窓に「bedrock」と打ち込むとAmazon Bedrockの候補が表示されるので、そこをクリックするとホームに行きます。
右上の「Get Started」を押します。
すると以下の画面になるので、「Model Access」をクリックします。
「Available」となっているのが利用可能なモデルですが、このままでは使えません。右上の「Edit」を押し、試してみたいモデル（チャットボットであればJurassic-2 Ultraなどがおすすめ）をチェックし、確定します。
最初は「In progress(だったかな？)」と出ます。画面のように「Access granted」となるまで待ちましょう。5分くらいだったと思います。
チャットを試す
「Access granted」になったら、今度は左メニューから「Chat」を選びます。
プルダウンからA21 Labs→Jurassic-2 Ultraを選び、「Start new chat」ボタンを押すとチャットができるようになります。
性能チェック
早速なにか打ち込んでみましょう。Jurassic-2 Ultraは日本語が苦手ということですが、一応試してみます。
思ったより厳しいですね（センシュアルオプティマイザ層とは……）。同じ文章を英語に翻訳してから投げてみます。
こんどはしっかりした文章を生成しています。しっかり読んだわけではありませんが、だいたい合っていそうです。
GPT-4に質問したセッションも貼っておきます。
さいごに
まだ性能調査は十分に行えていませんが、動くところまで確認できたので記事を公開したいと思います。