📺 この記事は YouTube チャンネル きなこもっちーのテック深掘り の動画解説記事です。
▶️ 動画はこちら → AIエージェントの待機時間が0円に｜AWS×Claudeの選び方と400msの壁
🐹🦜 この記事に登場する2匹
- 🐹 もっちー （ハムスター）… AI はまだ勉強中。「それどういうこと？」と素朴に質問する生徒役
- 🦜 きなこ （セキセイインコ）… AI で調べものをこなす解説役。やさしく深掘りして教える先生役
この記事は2匹の掛け合いを書き起こした形式です。発言の先頭にいる絵文字＋名前が話者です。
はじめに
🐹 もっちー「AIエージェントって、動かしてる間はずっとサーバー代がかかるもんでしょ？ 止め忘れたら損するやつ。」
🦜 きなこ「実はそれ、ちょっと違うんだよね。AWSはエージェントが待ってる間のCPU料金を、ゼロにしたの。」
🐹 もっちー「え、ゼロ！？ ほんまに？ ぼーっと返事を待ってるだけの時間が、まるまるタダになるってことなん！？」
🦜 きなこ「そう。エージェントが動いてる時間って、その大半はAIの返事待ちなの。長い作業ほどそこが積み上がるんだよ。」
🐹 もっちー「待ってる時間がお金にならないって、逆に言うと今までのぼくらは何に払ってたことになるんだろ…？」
🦜 きなこ「今日はそこを深掘りするね。最後まで見ると、AWSでClaudeを動かす道の選び方が分かるようになるの。」
🦜 きなこ「料金はCPUが1時間あたり0.0895ドル、メモリは1ギガを1時間で0.00945ドル。しかも秒単位で刻まれるの。」
🐹 もっちー「つまり、実際に働いた分だけ払えばいいってことか。それ、月末の請求書がだいぶ優しくなるやつだよね。」
🦜 きなこ「ところがね、安くなったのに『速さ』では負けてるの。実測だと直接APIのほうが3、4秒も速いんだよ。」
🐹 もっちー「安いほうが遅いの？ 得したと思ったら足元すくわれてる感じで、どっち選べばいいか分からんくなってきた…」
🦜 きなこ「その矛盾が今日の入口なの。しかも同じAWSなのに、データの置き場所が正反対になる道が2つもあるんだよ。」
同じ「AWSでClaude」なのに正反対の2つ
🐹 もっちー「なあきなこ、AWSでClaudeを動かすって話やろ？ほんならデータも当然AWSの中で処理されて外には出えへんに決まっとるやん、看板にそう書いてあるやん！」
🦜 きなこ「うん、そう思うよね。私も最初は名前を見て同じように考えてたの。でもね、そこが今日いちばん引っかかるところで、勘違いしやすい落とし穴なんだよ。順番に見ていくね。」
🦜 きなこ「まず2026年5月11日、AWSがClaude Platform on AWSの一般提供を発表したの。AWSのIAM認証とMarketplaceの請求で使えるんだよ。」
🐹 もっちー「AWSって名前がついてるんだから、当然AWSの中で全部処理されて、データもそこから出ないってことだよね？…え、その間の取り方なに、もしかして違うの？」
🦜 きなこ「違うの。こっちは推論もデータ処理も、AWSのセキュリティ境界の外にあるAnthropic管理のインフラで行われるの。看板とは別の場所なんだよ。」
🐹 もっちー「えっ、じゃあ玄関にAWSって表札かかってるのに、ごはんは隣の家で作ってもらって運んでる感じ？表札を信じてた身としては、なんかもやっとするんだけど。」
🦜 きなこ「その例え、意外と近いんだよ。もうひとつのAmazon Bedrock AgentCoreはそこが真逆で、データがAWSの境界の中に留まったまま最後まで動くの。」
🦜 きなこ「AgentCoreは三つの部品でできてるの。動かすRuntime、覚えておくMemory、外のツールに繋ぐGateway。名前はあとから覚えれば大丈夫だよ。」
🐹 もっちー「つまり、同じAWSでClaudeを動かす話なのに、データの置き場所だけがきれいに真逆になってるってことか。パッと見じゃ気づけないよ、これ」
🦜 きなこ「そうなの、そこが核心なんだよ。名前は似てるのに設計思想はまるで逆なの。だから機能がどっちが多いかじゃなくて、データがどこに置かれるかの一点で選ぶことになるの。」
🐹 もっちー「なんでやねん！名前だけで選んだら中身が真逆のもん掴まされるやん、後から気づいても取り返しつかへんし、そんなん初見殺しの罠やろ！ほんま勘弁してえな。」
🦜 きなこ「この境界の外か中かって話ね、あとでセキュリティと監査の話でもう一度効いてくるから、いまは分からなくても頭の隅に置いておいてほしいの。すごく大事なところ。」
🦜 きなこ「次は課金の中身を開けるね。待機が無料って聞くと得しかない気がするけど、何をもって稼働中とみなすかの定義がベンダーごとに違って、そこで差が出るの。」
待機時間が無料になった本当の意味
🐹 もっちー「境界の外か中かで分かれるって話は分かったよ。でさ、さっきから気になって仕方ないんだけど、お金の話ってどうなってるの？ぼく、そっちの方がずっと知りたい！」
🦜 きなこ「その前に一つだけ聞かせて。エージェントが動いてる時間のうち、AIの返事やツールの結果をただじっと待ってるだけの時間って、体感でどれくらいだと思う？」
🐹 もっちー「えっ、そんなの数えたこともなかったよ。うーん、感覚だと半分くらい…？いや、さすがに待ってる方が長いなんてことはないよね？そこまでヒマしてないでしょ？」
🦜 きなこ「それが半分どころか、待ってる時間の方がずっと長いことも普通にあるの。そして今までは、その何もしてない待ち時間の分までサーバー代がきっちり動き続けてたんだよ。」
🐹 もっちー「なんでやねん！ワイが何もしてへん間も、ただ画面の前で待っとるだけで金取られとったんかい！回し車に乗ってへんのに、家賃だけきっちり取られるみたいなもんやろ！」
🦜 きなこ「そこが変わったの。AgentCore Runtime は CPU を実際に消費したサイクル分だけ、秒単位で課金する仕組みになってるんだよ。」
🦜 きなこ「メモリはセッション中のピークが基準で、I/O待機中のCPU料金はまるごとゼロなの。動いてない分はそもそも払わない、この考え方を『アクティブ消費課金』って呼ぶんだよ。」
🐹 もっちー「アクティブ消費課金…！働いた分だけ払うって、バイト代とおんなじで、めっちゃ当たり前のこと言うてるやん！むしろなんで今までそうなってへんかったんや、不思議やわ！」
🦜 きなこ「その当たり前が今までなかったの。Claude Managed Agents も同じ考え方で、実行中の状態だけ1時間0.08ドル、しかもミリ秒単位の課金なんだよ。」
🦜 きなこ「待ってる間のアイドルは無料。AWS Marketplace 経由で買うと CCU 建ての請求になって、1 CCU がちょうど0.01ドル換算なの。」
🐹 もっちー「ほんなら自前で立てとったサーバー、あれ待っとる間もずっと金食うとったんか…！誰も働いてへん、ただ突っ立っとるだけの時間の分まで律儀に払い続けとったんやで！」
🦜 きなこ「そうなの。直接APIはトークン代だけだけど、待つ間も動かし続ける土台の維持は自分持ちなの。3つの差は結局、待機時間に課金されるかどうかの一点に集まるんだよ。」
🦜 きなこ「でも安いと速いは別物なの。次は速度の中身を分解していくね。AWS側には約400ミリ秒の下限があって、これは工夫で頑張っても縮まない性質のものなの。」
400ミリ秒の壁と、それを埋めた一行の設定
🐹 もっちー「待ってる時間がタダになったのは分かったよ。でもさ、そんなに得なのに、速さでは直接APIに負けたままなんだよね。ぼく、そこがずっと引っかかってるんだけど」
🦜 きなこ「いい引っかかり方だね。答えを言うと、Bedrockの標準オンデマンド推論には約400ミリ秒っていうTTFTの下限があるの。最初の一文字が返るまでの時間だよ」
🐹 もっちー「下限…？つまり、ぼくがどんなにコードを頑張って書いても、そこから先は速くならない壁があるってことか。それはちょっと納得いかないな」
🦜 きなこ「そこが大事なところなの。これは実装が下手だから遅いんじゃなくて、構造として積み上がってる時間なんだよ。内訳を4つに割ると、はっきり見えるよ」
🦜 きなこ「まずアプリとAWSの間のネットワーク往復で50から100ミリ秒。次にCRIS、リージョンをまたぐルーティングの判断で約50ミリ秒かかるの」
🦜 きなこ「そこにオンデマンドのGPUスケジューリングが100から150ミリ秒。最後に入力トークンのプレフィル処理で約100ミリ秒。これで下限が埋まるんだよ」
🐹 もっちー「足したらほんまに400ミリ秒やん！つまり誰かがサボってるんやなくて、順番に仕事してるだけってことか。ワイ、勝手に遅延やと思ってたわ」
🦜 きなこ「その言い直し、すごく正確だよ。どれも必要な処理だから、気合いでは削れないの。逆に言うと、削れる区間はこの4つの中の一部だけってことなんだよ」
🐹 もっちー「じゃあ実測レポートで直接APIより3〜4秒遅いって言われてるのも、ずっとこのままなの？それだとぼく、選びにくいんだけど」
🦜 きなこ「そこで出てくるのがLatency-Optimized Inference。performanceConfigでlatencyをoptimizedにする一行だけの指定なの」
🐹 もっちー「たった一行かいな！さっきまで身構えてた400ミリ秒の話は何やったんや。…いや、逆に一行で効くんやったら、それはめっちゃええやん」
🦜 きなこ「ただし全モデルが速くなるわけじゃないの。US East、オハイオでClaude 3.5 HaikuやLlama 3.1みたいな対応モデルに限った話なんだよ」
🐹 もっちー「つまり、対応してるモデルとオハイオを選んだときだけ速くなって、そこを外したらこの一行は効かない、ってことか。条件つきの魔法なんだね」
🦜 きなこ「そういうこと。…でもね、本番で最後に効くのは速さでもお金でもないの。次は動かす手順だけど、リージョンを間違えると何も動かない落とし穴があるんだよ」
3つの入口 — boto3・Terraform・CDK
🐹 もっちー「正直に言うけどさ、ぼく、選択肢が三つ並んだ時点で固まるんだよ。boto3、Terraform、CDK…名前を見ただけで、どれから触ればいいのか分からなくて、もう毛繕いしたい」
🦜 きなこ「大丈夫、三つ全部を覚える話じゃないの。入口が三つあるだけで、その先で進む道は結局一本なんだよ。今の自分が何をしたいのか、それだけで入る扉は自然に決まるの」
🦜 きなこ「一つめは、とりあえず試したいだけの人。Python 3.9 以上と boto3 があれば、bedrock-runtime のクライアントを一個作る、それだけなの」
🐹 もっちー「クライアント…って、要はAWSに話しかけるための窓口をひとつ用意するってこと？ 電話する前に受話器を取って、番号を押す直前まで準備しておくみたいな感じ？」
🦜 きなこ「そう。リージョンを us-east-1 と書いて窓口を作って、あとは invoke_model を呼ぶだけ。流しながら受け取りたいなら converse_stream ね」
🐹 もっちー「なんだ、そんだけか。ぼく、身に覚えあるなあ。試す前に構えすぎて、どれが正解か悩んだまま一行も書かずに三日潰したこと、あるもん」
🦜 きなこ「二つめは、チームで同じ環境を丸ごと再現したい人。AWS Provider は 5.49 以上、aws_bedrockagent_agent を書いておくの」
🐹 もっちー「あ、それって前に聞いたIaCってやつだよね。手作業でポチポチ作らないで、設計図のファイルから環境をまるごと起こすから、誰がやっても毎回おんなじ形になる」
🦜 きなこ「そう。モデルIDを変数に分けておくと乗り換えが一行で済むし、prepare-agent は local-exec で自動実行させられるんだよ」
🦜 きなこ「三つめは、画面ごとまるごと欲しい人。公式スターターを clone して cdk deploy 一回。Reactの画面も認証基盤も約10分で建つの」
🐹 もっちー「10分！？ ほんまかいな。ワイ、AWSって半年がかりの世界やと思てたわ。昼メシ食うてる間に画面まで建つんかい。頭ん中のAWS像、いま音立てて崩れたで」
🦜 きなこ「ただ落とし穴もあるの。AgentCoreは一部リージョン限定だから先に確認。JWTは通行証、SigV4はAWS用の署名、どっちかが違うと門前払いなんだよ」
🦜 きなこ「でも動いたあとが本番なの。次が今日いちばん怖い話。最長6時間動き続けるエージェントが乗っ取られたら、気づいてもその6時間を黙って待つしかないのか、って話」
乗っ取られた自律エージェントを6時間待たずに止める
🐹 もっちー「ねえきなこ、さっき『10分で動くけど、動いたあとに本当の問題が来る』って言ってたよね。あれ、結局どういう話なの？気になって仕方ないんだけど」
🦜 きなこ「Claude Platform on AWS の自律セッションはね、人が何も入力しなくても最大6時間そのまま動き続けて、そのあと再認証が必要になるの」
🐹 もっちー「6時間！？ ワイが昼寝しとる間ずっと勝手に動いとるやん！もし途中で乗っ取られたら、その6時間はどうすんねん！」
🦜 きなこ「ここで最初の話が効いてくるの。推論がAWSの境界の外か中か——外側で動いてるなら、止めるための鍵も、AWSの外側にあるってことなんだよ」
🐹 もっちー「つまり…AWSの管理画面を開いて『はい停止』ってポチッと押したら終わり、っていう単純な話じゃないってことか…」
🦜 きなこ「そう。鍵を握ってるのはMCPの側なの。MCPの仕様にはOAuth 2.1が組み込まれていて、PKCEっていう手順が全部のクライアントに必須なんだよ」
🐹 もっちー「OAuth 2.1にPKCE…うーん、また呪文っぽいの出てきた。つまり、社内システムの合鍵をエージェントに渡さなくて済む、ってことか？」
🦜 きなこ「いい言い直しだね。前は静的なAPIキーを環境変数に埋め込んでたの。今はその場で発行される、使い捨ての通行証に変わったんだよ」
🐹 もっちー「なるほどな。でも、その通行証を持ったまま乗っ取られたらどうなるの？悪いことされ放題で、やっぱり6時間が終わるのを待つしかないの？」
🦜 きなこ「待たなくていいの。認可サーバー側でトークンを失効させると、そこから派生した分もまとめて無効になる。トークンファミリーの失効って呼ぶんだよ」
🦜 きなこ「すると次にツールを呼んだ瞬間、そのトークンが生きてるか照合されて弾かれるの。権限切れを示す401が返って、6時間を待たなくてよくなるんだよ」
🐹 もっちー「ほんまか！コンテナがまだ動いとっても、外の社内システムには手ぇ出されへんのやな。それめっちゃ安心したわ、ワイ心臓止まるかと思たで！」
🦜 きなこ「うん。土台も固いの。IAMとSCPで権限を絞れて、VPCの中だけで動かせて、操作はCloudTrailに全部残る。守りは何層もあるんだよ」
🦜 きなこ「最後に、じゃあ結局どっちを選べばいいのかを一言でまとめるね。判断軸は、今日出てきた3つのうち、たった1つだけなの」
まとめ
🦜 きなこ「じゃあ最後にまとめるね。AgentCore、直接API、自前ホスティング。この3つを選ぶ決め手は、実は速さじゃないんだよ」
🐹 もっちー「えっ、速いほうがいいんじゃないの？さっき直接APIのほうが3〜4秒も速いって言ってたよね。ぼく、速さで選ぶもんだと思ってた」
🦜 きなこ「レイテンシはLatency-Optimized Inferenceで縮められるの。ただし対応リージョンと対応モデルに限った話で、どこでも効く魔法じゃないんだよ」
🐹 もっちー「なるほど。つまり、まず境界をどっちにするか決めて、速さは設定で埋めて、お金は待ってる時間で考える。その順番ってことか。順番を逆にすると後から詰むんだね」
🦜 きなこ「そう。しかもその順番、毎月の請求額に効いてくるの。待ってる時間に課金されるかで、同じ処理でもコストが変わってくるんだよ。ここはちゃんと見ておきたいところ」
🐹 もっちー「うわ、それめっちゃ大事やん！この3つの比較表、保存しとこ。ワイ、ひまわりの種の置き場所も忘れるくらいやからな。後で見返すやつやこれ」
🦜 きなこ「ふふ、どうぞ。……実はこのMCPの認可の話、去年『セキュリティ悪夢』って言われてた頃から地続きなんだけど、それは別の動画で詳しく話すね」
🐹 もっちー「えっ、気になる言い方するね…あっ、きなこ、飼い主のタブレット、今日のリサーチで充電だいぶ減ってるけど大丈夫なの？」
🦜 きなこ「大丈夫、履歴はもう消してあるの。帰ってくる前に片付ければバレないよ。……ところで、あなたの現場はデータをAWSの中に置きたい側？」
🐹 もっちー「それとも速さ優先か。コメントで教えてほしいな。よその現場がどっちを選んでるか、ぼくすごく気になるんだ」
きなこもっちーのテック深掘り では、AI/LLM を中心としたテック全般をハムスター（🐹 もっちー）とセキセイインコ（🦜 きなこ）の掛け合いで楽しく解説しています。
▶️ 動画で観る → AIエージェントの待機時間が0円に｜AWS×Claudeの選び方と400msの壁
👍 この記事が役に立ったら LGTM・ストックしてもらえると励みになります！
📺 チャンネル登録はこちら → きなこもっちーのテック深掘り
🔗 他の解説動画も見る → きなこもっちーのテック深掘り の動画一覧