SFnにしれっとAgents for Bedrockが登場！
日本時間2024年1月20日(土)、AWS Step FunctionsからAgents for Amazon Bedrock系のアクションが呼び出せるようになっていました。
本件に関する公式リリース等はまだ発表されていません。
ちなみに先月、Amazon Bedrockの言語モデルの一つAnthropic Claudeの最新バージョンがAWS東京リージョンで使えるようになっていたのですが、こちらも同様にまだ公式の発表がないサイレントリリースとなっています。まだ商用利用は避けた方がよさそうです。
1/22追記：Step Functionsの英語版ドキュメントに「1/18サポート開始」としれっと記載されていました。
これってどういうアプデ？
もともとAWSが9月にリリースした生成AIサービス「Amazon Bedrock」ですが、AWS Step Functionsへの統合が11月にリリースされていました。
この後、Amazon Bedrockの新機能「Agents for Amazon Bedrock」と「Knowledge Base for Amazon Bedrock」がGAしたのですが、これらの新機能はまだStep Functionsには統合されていませんでした。これらがついにStep Functionsの「アクション」として呼び出せるようになったのが今回のサイレントアップデートのようです。
ちなみにBedrockのエージェントとナレッジベースについては、入門ハンズオン記事を先日書きましたのでよろしければ触ってみてください。
Step Functionsって何だっけ？
Step Functionsは数あるAWSサービスのなかでも「ワークフロー制御」を司る代表的なマネージドサービスです。
いわゆるジョブ管理ソフトのJP1からタスクの順序制御部分を抜き出したようなシンプルなサービスで、複数のAWSサービスを決まった順序で呼び出したり、条件分岐や繰り返しなどの制御を行ったりできます。
近年はGUIからワークフローを組めるビジュアルエディターが実装されたり、ステートマシン（いわゆるジョブのこと）がコケたときにその部分からリトライできる便利な機能も１１月に登場したりと日々進化しています。
AzureでもLLMのローコード対応が進んでいます
OpenAIで先行するMicrosoftのAzureクラウドでも、Prompt flowというローコードのLLM用ワークフロー作成機能が以前から提供されています。
この機能、コードが書けなくてもLLMアプリケーションを実装できる＆意外と柔軟性も高くてすごく便利なサービスなのですが、AWSのBedrock on Step Functions対応はこれに追随する機能拡充といえそうでうす。
実際にマネコンを覗いてみた
AWSアカウントにログインし、マネジメントコンソール上部の検索バーからStep Functionsを探します。
東京リージョンで操作してみます。SFnのコンソールが開いたら、「ステートマシンの作成」をやってみましょう。
ステートマシン（いわゆるジョブ）を白紙から作り始めるか、出来合いのテンプレートから作るかを選択できます。
ここで既にBedrock用のサンプルもありますが、これは今回のAgents系ではなく純粋に生成AIモデルを呼び出す例となっています。
Blankを選択して進むと、ワークフロー作成画面に遷移します。
画面左側の「アクション」から bedrock と検索すると、Agents for Bedrock系のAPI操作が一通り追加されていることを確認できます。これらを中央のビジュアルエディターにドラッグ＆ドロップすればステートマシンに処理として組み込むことができます。
ちなみにAgents for Bedrockを呼び出す「InvokeAgent」処理はアクションに存在しないようです。
想像ですが、AIエージェントはユーザーに対して再質問するようなインタラクティブな動きをするため、ステートレスな非同期処理には組み込みづらいといった事情があるのかも知れません。
※Knowledge Baseを呼び出す RetrieveAndGenerate アクションはあります。
まとめ
まだ公式リリース発表前なので情報待ちですが、生成AI領域はAWSにおいても日々たくさんの進化がありとてもワクワクしますね。
これを機にStep Functionsに入門してみたい方は、AWS公式のワークショップもあるので是非触ってみましょう！ 私もやります🔥
ちなみに通常のBedrock機能をStep Functionsから呼び出す方法は @moritalous さんが以下の記事で解説してくれています。こちらも是非ご覧ください。
1/22追記：早くも @cyberBOSE さんが実装を試してくれていました👇