AWS Distro for OpenTelemetry を使用した ECS クラスターでのシステムメトリクスの収集

AWS Distro for OpenTelemetry (ADOT) は、OpenTelemetry プロジェクトの安全で AWS がサポートするディストリビューションです。 ADOT を使用すると、複数のソースからテレメトリデータを収集し、関連付けられたメトリクス、トレース、ログを複数の監視ソリューションに送信できます。 ADOT は Amazon ECS クラスターに 2 つの異なるパターンでデプロイできます。

ADOT Collector のデプロイパターン

サイドカーパターンでは、ADOT コレクターはクラスター内の各タスク内で実行され、そのタスク内のアプリケーションコンテナからのみ収集されたテレメトリデータを処理します。このデプロイパターンは、コレクターが Amazon ECS のタスクメタデータエンドポイントからタスクメタデータを読み取り、そこからリソース使用量メトリクス（CPU、メモリ、ネットワーク、ディスクなど）を生成する必要がある場合にのみ必要です。
セントラルコレクターパターンでは、ADOT コレクターの単一インスタンスがクラスターにデプロイされ、クラスター上で実行されているすべてのタスクからのテレメトリデータを処理します。これは最も一般的に使用されるデプロイパターンです。コレクターは REPLICA または DAEMON サービススケジューラ戦略を使用してデプロイされます。

ADOT コレクターアーキテクチャにはパイプラインの概念があります。単一のコレクターに複数のパイプラインを含めることができます。各パイプラインは、メトリクス、トレース、ログという 3 種類のテレメトリデータのいずれかを処理することに専念しています。各種類のテレメトリデータに対して複数のパイプラインを設定できます。このような汎用性のあるアーキテクチャにより、単一のコレクターが、そうでなければクラスターにデプロイする必要がある複数のオブザーバビリティエージェントの役割を果たすことができます。これにより、クラスター上のオブザーバビリティエージェントのデプロイメントフットプリントが大幅に削減されます。パイプラインを構成するコレクターの主要コンポーネントは、Receiver、Processor、Exporter の 3 つのカテゴリーにグループ化されています。Extensions と呼ばれる二次的なコンポーネントもあり、これらはコレクターに追加できる機能を提供しますが、パイプラインの一部ではありません。

備考

Receivers、Processors、Exporters、Extensions の詳細な説明については、OpenTelemetry のドキュメントを参照してください。

ECS タスクメトリクス収集のための ADOT Collector のデプロイ

ECS タスクレベルでリソース使用率メトリクスを収集するには、以下のようなタスク定義を使用して、サイドカーパターンで ADOT コレクターをデプロイする必要があります。コレクターに使用されるコンテナイメージには、複数のパイプライン設定が同梱されています。要件に基づいてそれらの中から 1 つを選択し、コンテナ定義の command セクションで設定ファイルのパスを指定できます。この値を --config=/etc/ecs/container-insights/otel-task-metrics-config.yaml に設定すると、パイプライン設定が使用され、コレクターと同じタスク内で実行されている他のコンテナからリソース使用率メトリクスとトレースを収集し、Amazon CloudWatch と AWS X-Ray に送信します。具体的には、コレクターは AWS ECS Container Metrics Receiver を使用して、Amazon ECS タスクメタデータエンドポイントからタスクメタデータと Docker の統計情報を読み取り、それらから CPU、メモリ、ネットワーク、ディスクなどのリソース使用率メトリクスを生成します。

{
    "family":"AdotTask",
    "taskRoleArn":"arn:aws:iam::123456789012:role/ECS-ADOT-Task-Role",
    "executionRoleArn":"arn:aws:iam::123456789012:role/ECS-Task-Execution-Role",
    "networkMode":"awsvpc",
    "containerDefinitions":[
       {
          "name":"application-container",
          "image":"..."
       },
       {
          "name":"aws-otel-collector",
          "image":"public.ecr.aws/aws-observability/aws-otel-collector:latest",
          "cpu":512,
          "memory":1024,
          "command": [
            "--config=/etc/ecs/container-insights/otel-task-metrics-config.yaml"
          ],          
          "portMappings":[
             {
                "containerPort":2000,
                "protocol":"udp"
             }
          ],             
          "essential":true
       }
    ],
    "requiresCompatibilities":[
       "EC2"
    ],
    "cpu":"1024",
    "memory":"2048"
 }

備考

Amazon ECS クラスターにデプロイされる ADOT コレクターが使用する IAM タスクロールとタスク実行ロールの設定の詳細については、ドキュメントを参照してください。

備考

AWS ECS Container Metrics Receiver は ECS タスクメタデータエンドポイント V4 でのみ動作します。プラットフォームバージョン 1.4.0 以降を使用する Fargate 上の Amazon ECS タスク、および Amazon ECS コンテナエージェントのバージョン 1.39.0 以降を実行している Amazon EC2 上の Amazon ECS タスクでこのレシーバーを利用できます。詳細については、Amazon ECS コンテナエージェントのバージョンを参照してください。

デフォルトのパイプライン設定に示されているように、コレクターのパイプラインはまず Filter Processor を使用して、CPU、メモリ、ネットワーク、ディスク使用率に関連するメトリクスのサブセットをフィルタリングします。次に、Metrics Transform Processor を使用して、これらのメトリクスの名前を変更し、属性を更新する一連の変換を実行します。最後に、メトリクスは Amazon CloudWatch EMF Exporter を使用してパフォーマンスログイベントとして CloudWatch に送信されます。このデフォルト設定を使用すると、CloudWatch 名前空間 ECS/ContainerInsights の下で以下のリソース使用率メトリクスが収集されます。

MemoryUtilized
MemoryReserved
CpuUtilized
CpuReserved
NetworkRxBytes
NetworkTxBytes
StorageReadBytes
StorageWriteBytes

備考

これらは Amazon ECS の Container Insights によって収集されるメトリクスと同じであり、クラスターまたはアカウントレベルで Container Insights を有効にすると CloudWatch ですぐに利用できることに注意してください。したがって、CloudWatch で ECS リソース使用率メトリクスを収集するには、Container Insights を有効にすることが推奨されるアプローチです。

AWS ECS Container Metrics Receiver は、Amazon ECS タスクメタデータエンドポイントから読み取る 52 の固有のメトリクスを出力します。レシーバーによって収集されるメトリクスの完全なリストはここにドキュメント化されています。これらすべてを希望の宛先に送信したくない場合があります。ECS リソース使用率メトリクスをより明示的に制御したい場合は、カスタムパイプライン設定を作成し、選択したプロセッサー/トランスフォーマーを使用して利用可能なメトリクスをフィルタリングおよび変換し、選択したエクスポーターに基づいて宛先に送信できます。ECS タスクレベルのメトリクスを取得するためのパイプライン設定の追加の例については、ドキュメントを参照してください。

カスタムパイプライン設定を使用する場合は、以下に示すタスク定義を使用し、サイドカーパターンでコレクターをデプロイできます。ここでは、コレクターパイプラインの設定は AWS SSM パラメータストアの otel-collector-config という名前のパラメータから読み込まれます。

注記

SSM パラメータストアのパラメータ名は、AOT_CONFIG_CONTENT という名前の環境変数を使用してコレクターに公開する必要があります。

{
    "family":"AdotTask",
    "taskRoleArn":"arn:aws:iam::123456789012:role/ECS-ADOT-Task-Role",
    "executionRoleArn":"arn:aws:iam::123456789012:role/ECS-Task-Execution-Role",
    "networkMode":"awsvpc",
    "containerDefinitions":[
       {
          "name":"application-container",
          "image":"..."
       },        
       {
          "name":"aws-otel-collector",
          "image":"public.ecr.aws/aws-observability/aws-otel-collector:latest",
          "cpu":512,
          "memory":1024,
          "secrets":[
             {
                "name":"AOT_CONFIG_CONTENT",
                "valueFrom":"arn:aws:ssm:us-east-1:123456789012:parameter/otel-collector-config"
             }
          ],          
          "portMappings":[
             {
                "containerPort":2000,
                "protocol":"udp"
             }
          ],             
          "essential":true
       }
    ],
    "requiresCompatibilities":[
       "EC2"
    ],
    "cpu":"1024",
    "memory":"2048"
 }

ECS コンテナインスタンスのメトリクス収集のための ADOT Collector のデプロイ

ECS クラスターから EC2 インスタンスレベルのメトリクスを収集するために、ADOT コレクターは以下のようなタスク定義を使用してデプロイできます。デーモンサービススケジューラー戦略を使用してデプロイする必要があります。コンテナイメージにバンドルされたパイプライン設定を選択できます。コンテナ定義の command セクションの設定ファイルパスは --config=/etc/ecs/otel-instance-metrics-config.yaml に設定する必要があります。コレクターは AWS Container Insights Receiver を使用して、CPU、メモリ、ディスク、ネットワークなど、多くのリソースの EC2 インスタンスレベルのインフラストラクチャメトリクスを収集します。メトリクスは Amazon CloudWatch EMF Exporter を使用してパフォーマンスログイベントとして CloudWatch に送信されます。この設定でのコレクターの機能は、EC2 でホストされている Amazon ECS クラスターに CloudWatch エージェントをデプロイするのと同等です。

備考

EC2 インスタンスレベルのメトリクスを収集するための ADOT Collector のデプロイは、AWS Fargate で実行されている ECS クラスターではサポートされていません。

{
    "family":"AdotTask",
    "taskRoleArn":"arn:aws:iam::123456789012:role/ECS-ADOT-Task-Role",
    "executionRoleArn":"arn:aws:iam::123456789012:role/ECS-Task-Execution-Role",
    "networkMode":"awsvpc",
    "containerDefinitions":[
       {
          "name":"application-container",
          "image":"..."
       },
       {
          "name":"aws-otel-collector",
          "image":"public.ecr.aws/aws-observability/aws-otel-collector:latest",
          "cpu":512,
          "memory":1024,
          "command": [
            "--config=/etc/ecs/otel-instance-metrics-config.yaml"
          ],          
          "portMappings":[
             {
                "containerPort":2000,
                "protocol":"udp"
             }
          ],             
          "essential":true
       }
    ],
    "requiresCompatibilities":[
       "EC2"
    ],
    "cpu":"1024",
    "memory":"2048"
 }

AWS Distro for OpenTelemetry を使用した ECS クラスターでのシステムメトリクスの収集

ADOT Collector のデプロイパターン​

ECS タスクメトリクス収集のための ADOT Collector のデプロイ​

ECS コンテナインスタンスのメトリクス収集のための ADOT Collector のデプロイ​

ADOT Collector のデプロイパターン

ECS タスクメトリクス収集のための ADOT Collector のデプロイ

ECS コンテナインスタンスのメトリクス収集のための ADOT Collector のデプロイ