コンテンツにスキップ

AWS SageMaker

AWS SageMaker のエンドポイントアセット、呼び出し、レイテンシ、およびインスタンスリソースのメトリクスを収集します。エンドポイントは SageMaker 推論サービスの入り口で、バリアントはモデルのデプロイ、インスタンスタイプ、インスタンス数、トラフィック配分を定義します。

設定

Func のインストール

Guance のインテグレーション - 拡張機能 - ホステッド Func を有効にすることを推奨します。すべての前提条件が自動的にインストールされるため、そのままスクリプトのインストールに進んでください。

Func を自身でデプロイする場合は、セルフホスト Func を参照してください。

スクリプトの有効化

ヒント:要件を満たす AWS アクセスキーを事前に用意してください。簡単に設定するには、グローバル読み取り専用権限 ReadOnlyAccess を付与できます。

  1. Func コンソールにログインし、[スクリプトマーケット]をクリックして Guance スクリプトマーケットを開き、integration_aws_sagemaker を検索します。
  2. [インストール]をクリックし、AWS AK ID、AK Secret、アカウント名を入力します。
  3. [起動スクリプトをデプロイ]をクリックします。システムが Startup スクリプトセットを自動作成し、対応する起動スクリプトを設定します。
  4. 有効化すると、[管理 / 自動トリガー設定]に対応する設定が表示されます。[実行]をクリックすると、スケジュール時刻を待たずにすぐ実行できます。しばらく待ってから、タスクの実行履歴とログを確認してください。

検証

  1. [管理 / 自動トリガー設定]で対象タスクの自動トリガーが存在することを確認し、タスク履歴とログに異常がないか確認します。
  2. Guance の[インフラストラクチャ / カスタム]で、アセット情報が存在することを確認します。
  3. Guance の[メトリクス]で、対応する監視データが存在することを確認します。

メトリクス

aws_sagemaker

AWS 名前空間:AWS/SageMaker。

MetricName MetricDescribe Dimensions Unit
invocation_4xx_errors_average CloudWatch の期間内における HTTP 4xx エラーの平均比率。元の値の範囲は 0–1 です。 account_name, region_id, endpoint_name, variant_name, dimensions ratio
invocation_4xx_errors_sum CloudWatch の期間内における HTTP 4xx エラー回数。 account_name, region_id, endpoint_name, variant_name, dimensions count
invocation_5xx_errors_average CloudWatch の期間内における HTTP 5xx エラーの平均比率。元の値の範囲は 0–1 です。 account_name, region_id, endpoint_name, variant_name, dimensions ratio
invocation_5xx_errors_sum CloudWatch の期間内における HTTP 5xx エラー回数。 account_name, region_id, endpoint_name, variant_name, dimensions count
invocation_model_errors_average CloudWatch の期間内におけるモデル呼び出しエラーの平均比率。元の値の範囲は 0–1 です。 account_name, region_id, endpoint_name, variant_name, dimensions ratio
invocation_model_errors_sum CloudWatch の期間内におけるモデル呼び出しエラー回数。接続エラー、タイムアウト、異常なレスポンスを含み、HTTP エラーと重複する場合があります。 account_name, region_id, endpoint_name, variant_name, dimensions count
invocations_per_instance_sum CloudWatch の期間内における、当時のインスタンス数で正規化した呼び出し回数。現在のインスタンス数を掛けても、過去の合計呼び出し回数は復元できません。 account_name, region_id, endpoint_name, variant_name, dimensions count
invocations_sum CloudWatch の期間内における呼び出し回数。累積カウンターや QPS ではありません。 account_name, region_id, endpoint_name, variant_name, dimensions count
model_cache_hit_average 要求されたモデルがすでにメモリにあるリクエストの比率。元の値の範囲は 0–1 です。 account_name, region_id, endpoint_name, variant_name, dimensions ratio
model_downloading_time_average S3 からモデルをダウンロードする平均所要時間。 account_name, region_id, endpoint_name, variant_name, dimensions μs
model_latency_average モデルがリクエストを処理する平均所要時間。 account_name, region_id, endpoint_name, variant_name, dimensions μs
model_loading_time_average 推論コンテナがモデルをロードする平均所要時間。 account_name, region_id, endpoint_name, variant_name, dimensions μs
model_loading_wait_time_average リクエストがモデルのダウンロードまたはロードを待つ平均時間。 account_name, region_id, endpoint_name, variant_name, dimensions μs
overhead_latency_average SageMaker プラットフォームの追加処理にかかる平均時間。クライアントのネットワーク往復時間は含みません。 account_name, region_id, endpoint_name, variant_name, dimensions μs

aws_sagemaker_endpoints

AWS 名前空間:/aws/sagemaker/Endpoints。

MetricName MetricDescribe Dimensions Unit
cpuutilization_average インスタンスの全 CPU コア使用率の合計平均。マルチコアインスタンスでは 100% を超える場合があります。 account_name, region_id, endpoint_name, variant_name, dimensions percent
disk_utilization_average インスタンスのディスク領域の平均使用率。ディスク I/O 使用率ではありません。 account_name, region_id, endpoint_name, variant_name, dimensions percent
loaded_model_count_average インスタンスごとのロード済みモデル数の平均。インスタンス全体の一意なモデル総数ではありません。 account_name, region_id, endpoint_name, variant_name, dimensions count
memory_utilization_average インスタンスの平均メモリ使用率。マルチモデルキャッシュがメモリを使用するのは正常です。 account_name, region_id, endpoint_name, variant_name, dimensions percent

オブジェクト

エンドポイントオブジェクトは aws_sagemaker_endpoint に保存されます。以下は検証済みのスカラーフィールドのみを示しています。

{
  "measurement": "aws_sagemaker_endpoint",
  "tags": {
    "account_name": "pdsa-tw",
    "region_id": "ap-northeast-2",
    "endpoint_name": "guance-sagemaker-mme-20260909"
  },
  "fields": {
    "endpoint_config_name": "guance-sagemaker-mme-20260909",
    "endpoint_status": "InService",
    "last_modified_time": "2026-09-09T15:56:35.141000+08:00",
    "resource_creation_time": "2026-09-09T15:53:14.838000+08:00"
  }
}

注:tags と fields のフィールドは、今後の更新で変更される場合があります。

フィードバック

このページは役に立ちましたか?