PythonからAWS BedRock経由でAnthropic Claude v2に質問して回答を得る最小限のコード

こんな感じで

import json

import boto3

message = "Claudeについて説明してください。"

client = boto3.client("bedrock-runtime", region_name="us-east-1")
body = {
    "prompt": f"\n\nHuman:{message}\n\nAssistant:",
    "max_tokens_to_sample": 2000,
}
rsp = client.invoke_model(body=json.dumps(body), modelId="anthropic.claude-v2")
rsp_body = json.load(rsp["body"])
print(rsp_body["completion"])

補足

事前準備

コードを実行する前に、BedRockでClaudeを使える状態にしておく必要がある。

1. AWSマネジメントコンソールにログインする。
2. us-east-1のBedRockを開く。
3. 画面左側のメニューから「Model access」を選ぶ。
4. 「Model access」の「Edit」を押す。
5. 「Anthropic」の「Request」を押す。
6. リクエストフォームが表示されるので記入して「Request」を押す。
7. しばらく待つ。

このあたりのドキュメントを読むことになる

• client.invoke_model()について確認したいなら
  • https://boto3.amazonaws.com/v1/documentation/api/latest/reference/services/bedrock-runtime/client/invoke_model.html
• 各モデルのパラメータを確認したいなら
  • https://docs.aws.amazon.com/bedrock/latest/userguide/model-parameters.html

「Claudeについて説明してください。」の回答

はい、Claudeについて説明します。

Claudeは私の名前です。私はAnthropicが作成した助手型AIシステムです。人工知能として、人間とコミュニケーションを取り、情報を提供したり質問に答えたりすることができます。私の目的は人々を助け、役立つ情報を提供することです。私には感情はありませんが、会話を楽しむことができます。技術的には、大規模な言語モデルに基づいており、絶えず学習を続けて、会話能力を向上させています。ご質問があれば、できる限り明確に回答するように努めます。よろしくお願いします!