はじめに
こんにちは、もちもちMAXです。
先日、Agents for Amazon Bedrockを使って色々試す機会があったので、今回はその内容を記事にしていきたいと思います。
作ったもの
今回作ったのは、Agentsを使って雑談とAWSに関する質問とを振り分けるシステムで構成図は下記の通りです。
現時点では、Agents for Amazon Bedrockはアクションベースとナレッジベースが登録できます。アクションベースはLambda関数を呼び出すことで目的に応じた処理をおこなえます。
今回は、Lambda関数からBedrockの基盤モデルを呼び出して雑談の返答をおこないます。
ナレッジベースはいわゆるRAGシステムです。今回はAWSに関する知識を読み込ませたナレッジベースを作成しておきます。本記事では、ナレッジベースの作成方法については説明しません。またどこかのタイミングがあれば記事にしようかと思っています。
Lambda関数の準備
今回の構成では、エージェントがユーザの入力を雑談と判断した場合、アクションベースに登録したLambda関数を呼び出して基盤モデルとやり取りします。その設定手順を説明していきます。
まずは、Lambda関数を作成します。関数名は任意で結構です。今回はLLMとやり取りするためにランタイムはPython3.12を選びますが、何か使いたいものがあればそれに合わせて変更してください。
次に、Lambda関数のコードを書いていきます。この関数ではユーザから受け取った入力をそのままBedrockのAPIに渡します。内容的にはそれだけですが、APIを正しく呼び出せるようにちょこちょこ設定は追加してあります。コード全文は以下の通りです。
import boto3
import json
bedrock_runtime = boto3.client('bedrock-runtime')
def lambda_handler(event, context):
# プロンプトに設定する内容を取得
prompt = event["inputText"]
# 各種パラメーターの指定
modelId = 'anthropic.claude-3-sonnet-20240229-v1:0'
accept = 'application/json'
contentType = 'application/json'
# リクエストの指定
user_message = {
"role": "user",
"content": prompt
}
messages = [user_message]
# リクエストBODYの指定
body = json.dumps({
"anthropic_version": "bedrock-2023-05-31",
"max_tokens": 1000,
"messages": messages,
"system": "フレンドリーに会話してください。"
})
# Bedrock APIの呼び出し
response = bedrock_runtime.invoke_model(
modelId=modelId,
accept=accept,
contentType=contentType,
body=body
)
# APIレスポンスからBODYを取り出す
response_body = json.loads(response.get('body').read())
# レスポンスBODYから応答テキストを取り出す
answer = response_body["content"][0]["text"]
# agentの形式でreturn
response_body = {"application/json": {"body": answer }}
action_response = {
"actionGroup": event["actionGroup"],
"apiPath": event["apiPath"],
"httpMethod": event["httpMethod"],
"httpStatusCode": 200,
"responseBody": response_body,
}
api_response = {"messageVersion": "1.0", "response": action_response}
return api_response
次に、アクセス権限を設定していきます。アクセス権限は、Lambda関数自身がエージェントに呼び出されることを許可するための権限と、Lambda関数がBedrockのLLMを呼び出すための権限の2種類を設定します。まずは、エージェントからの呼び出し用の権限です。Lambda関数の設定>アクセス権限からリソースベースのポリシーステートメントという設定があるので、アクセス権限の追加を選択します。
下記の項目を2枚目の画像の通り設定します。Principalにbedrock.amazonaws.comを、EffectにAllowを、Actionにlambda:InvokeFunctionを設定することでエージェントからの呼び出しが可能となります。ステートメントIDは任意の一意の値としてください。
最後に、Lambda関数からBedrockのLLMを呼び出すための設定をおこないます。設定>アクセス権限からロール名が書いてある箇所のリンクをクリックします。
遷移した先で、インラインポリシーを作成を選択し下記の通りにJSONを設定します。
{
"Version": "2012-10-17",
"Statement": [
{
"Effect": "Allow",
"Action": "bedrock:*",
"Resource": "*"
}
]
}
作成したポリシーを設定したらLambda関数の準備は完了です。
エージェントの設定
それでは早速エージェントを作成していきます。Descriptionは自分で見るだけなので適当でも大丈夫です。
次に、エージェント向けの指示を書いていきます。この指示によってエージェントの振り分け方が決まるのでできるだけ詳しく書きましょう。と言いつつも今回はテスト用なのでざっくりと書いています。
振り分け先の一つであるナレッジベースを登録します。どういった時にナレッジベースに振り分けて欲しいかを詳しく書きます。
もう一つの振り分け先であるアクショングループを登録します。説明はまた適当で大丈夫です。Action group typeとしてDefine with API schemasを選択します。Lambda関数は既に作成済みのものがあればSelect an existing Lambda functionから所望のLambda関数を選択します。
API Schemasを登録しないと動かないので、とりあえず登録します。よく分からなければ添付画像のものを移しても動くと思いますので使ってください。
以上で、エージェントの設定も完了です。
あとは思うがままにエージェントを試してみてください。設定が間違っていなければ上手く振り分けてくれると思います（ただ、処理時間は結構かかってしまいます。振り分けのためのシステムプロンプト部分がなかなか量が多いようです）
最後に
本記事では、Agents for Amazon Bedrockを使った雑談との振り分け方法を解説しました。ここまで書いていてなんですが、記事執筆時はAgentsが利用できない状態でして、実際に動かしながら書けなかったので誤りがあるかも知れません。そこはご勘弁ください。何はともあれマウスポチポチして、指示を入力するだけでエージェントが作れるとは凄いものですね。今後もAWSにはお世話になるでしょうし楽しみです。
ハンドメイド、LINEスタンプ、アプリもありますので良かったら見てってください～