【参加レポート】JAWS-UGコンテナ支部 #30 ECSサービスチーム来日スペシャル AI時代のリアルなECS運用

個人的なメモとして書いています、前半のサービスアップデート紹介とパネルディスカッションについてまとめてみました！

サービスアップデート紹介

• 今回のセッションではアップデートの背景や「Why？」にフォーカスする
• マネージドインスタンス
  • ECSを使い始める場合はFargateからを推奨している
  • では、マネージドインスタンスをなぜリリースしたのか？
    • Fargateは多くのユースケースに最適ではあるが、十分ではなかった
    • アップデート情報を見るとFargateとの比較ができる
      • キャパシティリザーブドをFargateで提供するのは技術的に難しかったため、マネージドインスタンスで提供した
      • GPUについてもマネージドインスタンスで提供した、提供するだけでなく価格まで下げた
• マネージドデーモン
  • サイドカー管理やセキュリティ対応をアプリケーションエンジニアから切り離すことができる
• ECSネイティブデプロイメント
  • 最初はローリングデプロイメントのみサポートしていたが、B/G、カナリア、リニアを提供した
• プラットフォームエンハンス
  • 起動速度の向上、アクションログ提供によるECSのブラックボックスな部分の可視化、Service Connectなど
    • zone-aware routingは特に推したいアップデート
  • AWS基盤に障害が発生してもユーザーには通知が飛ばない、というのが一番大事な部分
    • サービスチームには通知が来ているが、ユーザーはそれに気づくことなくECSを使うことができる、のが一番大事な価値

パネルディスカッション「AI 時代のリアルな ECS 運用 〜サービスチームに直接ぶつけてみた〜」

• パネラー

  • Alexandr Moroz（Principal product manager / Serverless Containers / Amazon ECS）
  • Masaya Arai（Manager / Principal Cloud Engineer, Synspective Inc,）
  • 林 政利（アマゾン ウェブ サービス ジャパン合同会社 / コンテナスペシャリスト ソリューションアーキテクト）

• AIをどう使っているのか

  • 新井さん
    • 業務全般的にAIがないと業務が進まない状況（設計、コスト削減など）
    • AIが出してきたアプトプットは満足のいくものか？（林さん）
      • 今までも使ってきたツールや積み重ねてきた知見の上にAIがあるイメージだと思っている
      • AIは増幅器、インプットが整わないといいものはでないのでベスプラを知っている人が確認するのは重要
      • トークンも気になる、非決定的・決定的な場面で使い分けしている
    • ECSそのものの運用などに、そのようにAIを活用している？（Alexandr）
      • ドキュメント化作業は取って代わられそう
      • ECSチームとしての活用
        • チームは12のサブチームに分かれていて、全チームがAIを活用している
        • ただし、使用ステージはチームごとに異なる、AIの利用状況を可視化している
        • いちばん進んでいるチームは複数のエージェントを動かしている
          • 要件定義、レビュー、コーディング、テスティング、それぞれのエージェントを使い分けている
          • そのチームは一才コードを書いてない、チェックのみ
        • まだまだなチームはコードを手で書いている、AIはあくまでも相談役
          • Kiroにも質問する程度、という使い方
        • 両方のチームでスピード感が異なる
          • ただし、問題発生の数が少ないのは手作業でコードを書いているチーム
          • その次が、AIを徹底的に使っているチーム
          • AIを中途半端に使っているチームがいちばん問題発生の数が多い
    • ECS利用ユーザーとAIの例
      • AIコーディングツールを提供している会社では、GPUを使わずにECSを使っている
        • CPUだけで複雑な推論を実施している
      • AWS内部サービスの事例、世界最大級のクラスターが動いている
        • クラスターのオーケストレーションをハンドリングしているのがECS
      • セキュリティ業界でMythosの利用許可をもらったユーザーでも利用、Fargateによって論理的にワークロードの分離をしている

• これからAIがECSを使う時代になると思うが、サービスチームとしてどう考えているか（新井さんからAlexandrへの質問）

  • まさに最近考えていた内容、今の状態は人間がJSONなどを読むことを想定している
  • RESTで十分なのか、もっとAIが効率的に使える方法にした方がいいのではないか
    • インターネット上のドキュメントも人間が読む前提
    • AIに最適な世界はAIが作り出せると思うが、まだAIがそこまでのクリエイティビティを持っていない
  • いずれAIだけで作業が完結し、人間は何しているか分からないという時代が来ると思うが、まだ先だと思っている

• AWS MCP ServerやDevOps Agentを現場でどう使っているか、どの作業をどこまで任せているか（新井さん）

  • MCP Serverは読み取りオンリーでハーネス的に使っている、DevOps Agentは情報収集と調査においてエージェント的に使っている

• ECSはエージェントハーネスの環境をどのように支援していくのか？（Alexandr）

  • 正直、AIがここまでスピーディーに入り込んでくるとは思ってなかった
  • ECS用のMCP Serverをリリースした時はすでに古くなっていた、AWS全体のMCP Serverとして舵を切った
  • 簡単な英語でDiscriptionを書いてOSSを公開したりしている