はじめに
こんにちは、Datadog Japan で Sales Engineer をしている AoTo(@AoTo0330) です。
この投稿は Japan AWS Jr. Champions Advent Calendar 2023 3日目の記事です。
AWS re:Invent 2023 で発表された多くの内容から、Observability や APM というキーワードに関連する重要な新機能を今回はご紹介します。その名も Amazon CloudWatch Application Signals です！
AWS X-Ray: AWS 上の Application Performance Monitoring(APM)
従来
そもそも、従来の AWS 環境で APM のような手法を実装するためには、AWS X-Ray を利用する方法が挙げられていました。
AWS X-Ray は名前の通り Amazon CloudWatch の機能群には含まれておらず、AWS 独自のアプリケーションパフォーマンス測定手法として提供されています。
簡単にそのアーキテクチャを解説すると、X-Ray は X-Ray daemon を中心に、SDK によるアプリケーションコードへの実装やツールやスクリプトを用いたアプリケーションデータを収集します。その後、X-Ray API を介してバッチ形式で AWS 上の X-Ray にアップロードをするという流れです。
実は、これらのツールは Amazon CloudWatch ServiceLensという形で統合することができ、実質的には CloudWatch との連携ができる状況でした。
しかし、X-Ray 自体は前述の通り SDK をアプリケーションコードに実装し、その上で X-Ray deamon を用意する必要があり、既存環境への組み込みは難しいという課題がありました。
これに対し、2023年の8月にはアップデートが行われ、CloudWatch Agent を用いることで X-Ray と OpenTelemetry によるトレース情報を収集できるようになっていました。 1
これから
X-Ray と CloudWatch の統合の動きを見てわかる通り、AWS では CloudWatch を中心としてモニタリングとオブザーバビリティのエコシステムを築いています。
こうした流れで登場したのが、Amazon CloudWatch Application Signals です！簡単にサービスの概要をまとめると、「OpenTelemetry による自動計装を CloudWatch を介して実装する方法 2」です。
OpenTelemetry によるアプリケーションの計装は3年前の AWS Distro for OpenTelemetry(ADOT) が発表された時点から進んでいました。ADOT によるトレースのサポートは、今回のようなオブザーバビリティサービスの提供への布石だったように思います。
今後は、X-Ray と OpenTelemetry による自動計装・手動計装を組み合わせて APM を実現していく形になりそう、ということです。
解説：自動計装と手動計装
ここまでの解説で、登場した自動計装・手動計装というキーワードについて、簡単に解説をします。APM のようにアプリケーションの処理を監視するためには、アプリケーション処理にかかった時間や処理の意味をログと比較して軽量なデータとして記録する必要があります。ここで利用されるのがトレースデータです。
トレースはアプリケーションへのリクエストの開始と終了時点、そしてそのステータスや処理内容を記録します。これを記録するための手法として自動計装・手動計装が必要ということです。
トレース：アプリケーションがリクエストを処理するのにかかった時間と、このリクエストのステータスを追跡するための情報。
スパン：特定の期間における分散システムの論理的な作業単位。複数のスパンでトレースが構成される。
自動計装：リクエストの開始終了時を記録するライブラリを利用して、自動的にトレースを記録する手法。
手動計装：アプリケーションコードに明示的にリクエストの開始終了を記録するよう記載し、トレースを記録する手法。
Amazon CloudWatch Application Signals とは
ここからは、改めて Amazon CloudWatch Application Signals について解説していきます。
概要
現在は Application Signals はプレビュー版での提供となり、対応言語は Java のみです。これは、OTel による自動計装のサポート状況に依存するためですが、現在 OTel は Java の他に .NET, Node.js, Python の自動計装をサポートしており、ADOT では Python の自動計装が可能です。
そのため、今後は Python をはじめとする、様々な言語で CW App Signals を利用できるようになることが考えられます。
AWS のインフラストラクチャでは Amazon EKS, Amazon ECS, Amazon EC2 でのサポートが明言されています。
2023/12/2 時点での情報を元に記載しています。
最新の情報は AWS の公式ドキュメントと OpenTelemetry のドキュメントをご参照ください。
実装
実装方法は使用しているインフラストラクチャで変わります。
共通の前提条件としては、Application Singals を利用するためには、AWS 上で Application Signals によるサービスの検出を行う必要があります。このロールは自動的に作成されますが、Application Signals に対し X-Ray, CloudWatch, Resource Tag の参照権限を付与する形となります。
Amazon EKS
EKS では、Amazon CloudWatch Observability EKS アドオンを有効化する必要があります。これは、EKS に CloudWatch Agent を自動的に組み込み、Application Singlas や Container Insightsを利用するための機能です。
上記の2点が有効化されていると、CloudWatch コンソールからワークロードまたはネームスペースの単位でアプリケーションの自動計装を構成することができます。構成方法は、EKS に使用しているマニフェスト YAML ファイルに特定のアノテーション(annotations: instrumentation.opentelemetry.io/inject-java: "true")を追加するだけです。
Amazon ECS
ECS では、ECS タスクロールと ECS タスク実行ロールに特定の権限を付与する必要があります。ここで必要となる権限は、ECS タスクが CloudWatch や X-Ray に対して情報を記録するための書き込み権限と、コンテナが SSM や CloudWatch にアクセスする権限です。
続いて、CloudWatch Agent によるトレース・ログ情報の受け取りを有効化します。これは ECS 上の CloudWatch Agent の構成ファイル(/tmp/ecs-cwagent.json)で設定可能です。
これらの前提条件の上で、CloudWatch Agent をサイドカー形式でデプロイすること、アプリケーションコンテナに ADOT を組み込むことを ECS タスク定義に含めることで、Java アプリケーションの自動計装が実現できます。
Amazon EC2
EC2 では、ECS と同様に CloudWatch と ADOT を組み込んでいく形式となります。
EC2 インスタンスにおける の IAM ロールには ECS タスクロールと同様に、CloudWatch や X-Ray に対して情報を記録するための書き込み権限を付与する必要があります。
EC2 上の CloudWatch Agent でも構成ファイル(amazon-cloudwatch-agent.json)にトレース・ログ情報を受け取る内容を追加します。
最後に、ADOT Java 自動計装エージェントにより、アプリケーションの自動計装を行います。
コンテナ環境では意識していなかった、エージェントのダウンロード・トレースのエクスポート・エンドポイントの指定などを環境変数を使用して定義します。Java アプリケーションの起動スクリプトにこれらを指定して、アプリケーションの自動計装が完了します。
運用
これらの実装を経て、CloudWatch コンソール上でアプリケーションシグナルが参照できます。これによって今まで AWS ネイティブには監視が難しかった、アプリケーションレベルでのサービス・トポロジの監視が実現可能です。
アプリケーションサービスを監視する
CloudWatch のサービスページではサービスという単位でアプリケーションの概要が表示されます。この概要は、障害率やレイテンシーをはじめとするアプリケーションの指標を可視化できます
サービスの詳細ページを参照することで、詳細なメトリクス(処理毎のレイテンシーエラー率)や依存関係が確認できます。
アプリケーショントポロジを検査する
サービスマップによりクライアントとサービスの依存関係をマップにより確認できます。サービスマップはサービスの依存関係とともに、サービスのホストされている環境の情報を確認し、どこでなにが起きているかを把握することに役立ちます。
Application Signals と他サービスの統合
先ほどは運用の面で他サービスについて触れませんでしたが、CloudWatch の他サービスの情報や AppRegistry により運用情報を Application Signals に集積し、サービスの検出と運用状態の監視を可能とします。
SLOs
Application Signals では取得したアプリケーションメトリクスを サービスレベル指標(SLI)として定義し、これを元にサービスレベル目標(SLO)を 設定し、管理できます。
CloudWatch Synthetic Monitoring
Sysnthetic では合成モニタリング・外形監視と呼ばれる手法でサービスの健全性を外部から監視することができます。
Synthetic Canary で X-Ray によるトレースを有効化することで、サービスのリクエストと処理の情報が関連づけられ、サービスの詳細ページに表示されます。
CloudWatch RUM
RUM はリアルユーザーモニタリングと呼ばれる手法で、Web アプリケーションのパフォーマンスに関するクライアントのデータをリアルタイムに取得できます。
Synthetic と同様に RUM でも X-Ray によるトレースを有効化することで、サービスの詳細ページに表示をすることができます。
AppRegistry
AppRegistry により監視対象のアプリケーションのメタデータを追加し、アプリケーションの管理責任や組織を明確にできます。この情報と Application Signals で自動検出された AWS リソースの情報を関連づけ、サービスが実行されているコンピューティングリソースとアプリケーションのメタデータを同様に参照できるようになります。
おわりに
Amazon CloudWatch Application Signals は現在プレビュー版ですが、既にさまざまな既存の AWS サービスとの統合が提供されています。
今後は .NET, Node.js, Python などの言語へのサポート、AWS Lambda や AWS App Runner などの AWS サービスへのサポートが追加されていくことで、ますます使いやすくなっていくはずです！
AWS のようなクラウドサービスプロバイダー(CSP)が積極的にオブザーバビリティ関連ソリューションを提供することで、オブザーバビリティがより一般的になればオブザーバビリティ業界に身を置く立場としてはとても嬉しいです