AWS SageMaker
AWS SageMaker のエンドポイントアセット、呼び出し、レイテンシ、およびインスタンスリソースのメトリクスを収集します。エンドポイントは SageMaker 推論サービスの入り口で、バリアントはモデルのデプロイ、インスタンスタイプ、インスタンス数、トラフィック配分を定義します。
設定¶
Func のインストール¶
Guance のインテグレーション - 拡張機能 - ホステッド Func を有効にすることを推奨します。すべての前提条件が自動的にインストールされるため、そのままスクリプトのインストールに進んでください。
Func を自身でデプロイする場合は、セルフホスト Func を参照してください。
スクリプトの有効化¶
ヒント:要件を満たす AWS アクセスキーを事前に用意してください。簡単に設定するには、グローバル読み取り専用権限
ReadOnlyAccessを付与できます。
- Func コンソールにログインし、[スクリプトマーケット]をクリックして Guance スクリプトマーケットを開き、
integration_aws_sagemakerを検索します。 - [インストール]をクリックし、AWS AK ID、AK Secret、アカウント名を入力します。
- [起動スクリプトをデプロイ]をクリックします。システムが
Startupスクリプトセットを自動作成し、対応する起動スクリプトを設定します。 - 有効化すると、[管理 / 自動トリガー設定]に対応する設定が表示されます。[実行]をクリックすると、スケジュール時刻を待たずにすぐ実行できます。しばらく待ってから、タスクの実行履歴とログを確認してください。
検証¶
- [管理 / 自動トリガー設定]で対象タスクの自動トリガーが存在することを確認し、タスク履歴とログに異常がないか確認します。
- Guance の[インフラストラクチャ / カスタム]で、アセット情報が存在することを確認します。
- Guance の[メトリクス]で、対応する監視データが存在することを確認します。
メトリクス¶
aws_sagemaker¶
AWS 名前空間:AWS/SageMaker。
| MetricName | MetricDescribe | Dimensions | Unit |
|---|---|---|---|
invocation_4xx_errors_average |
CloudWatch の期間内における HTTP 4xx エラーの平均比率。元の値の範囲は 0–1 です。 | account_name, region_id, endpoint_name, variant_name, dimensions | ratio |
invocation_4xx_errors_sum |
CloudWatch の期間内における HTTP 4xx エラー回数。 | account_name, region_id, endpoint_name, variant_name, dimensions | count |
invocation_5xx_errors_average |
CloudWatch の期間内における HTTP 5xx エラーの平均比率。元の値の範囲は 0–1 です。 | account_name, region_id, endpoint_name, variant_name, dimensions | ratio |
invocation_5xx_errors_sum |
CloudWatch の期間内における HTTP 5xx エラー回数。 | account_name, region_id, endpoint_name, variant_name, dimensions | count |
invocation_model_errors_average |
CloudWatch の期間内におけるモデル呼び出しエラーの平均比率。元の値の範囲は 0–1 です。 | account_name, region_id, endpoint_name, variant_name, dimensions | ratio |
invocation_model_errors_sum |
CloudWatch の期間内におけるモデル呼び出しエラー回数。接続エラー、タイムアウト、異常なレスポンスを含み、HTTP エラーと重複する場合があります。 | account_name, region_id, endpoint_name, variant_name, dimensions | count |
invocations_per_instance_sum |
CloudWatch の期間内における、当時のインスタンス数で正規化した呼び出し回数。現在のインスタンス数を掛けても、過去の合計呼び出し回数は復元できません。 | account_name, region_id, endpoint_name, variant_name, dimensions | count |
invocations_sum |
CloudWatch の期間内における呼び出し回数。累積カウンターや QPS ではありません。 | account_name, region_id, endpoint_name, variant_name, dimensions | count |
model_cache_hit_average |
要求されたモデルがすでにメモリにあるリクエストの比率。元の値の範囲は 0–1 です。 | account_name, region_id, endpoint_name, variant_name, dimensions | ratio |
model_downloading_time_average |
S3 からモデルをダウンロードする平均所要時間。 | account_name, region_id, endpoint_name, variant_name, dimensions | μs |
model_latency_average |
モデルがリクエストを処理する平均所要時間。 | account_name, region_id, endpoint_name, variant_name, dimensions | μs |
model_loading_time_average |
推論コンテナがモデルをロードする平均所要時間。 | account_name, region_id, endpoint_name, variant_name, dimensions | μs |
model_loading_wait_time_average |
リクエストがモデルのダウンロードまたはロードを待つ平均時間。 | account_name, region_id, endpoint_name, variant_name, dimensions | μs |
overhead_latency_average |
SageMaker プラットフォームの追加処理にかかる平均時間。クライアントのネットワーク往復時間は含みません。 | account_name, region_id, endpoint_name, variant_name, dimensions | μs |
aws_sagemaker_endpoints¶
AWS 名前空間:/aws/sagemaker/Endpoints。
| MetricName | MetricDescribe | Dimensions | Unit |
|---|---|---|---|
cpuutilization_average |
インスタンスの全 CPU コア使用率の合計平均。マルチコアインスタンスでは 100% を超える場合があります。 | account_name, region_id, endpoint_name, variant_name, dimensions | percent |
disk_utilization_average |
インスタンスのディスク領域の平均使用率。ディスク I/O 使用率ではありません。 | account_name, region_id, endpoint_name, variant_name, dimensions | percent |
loaded_model_count_average |
インスタンスごとのロード済みモデル数の平均。インスタンス全体の一意なモデル総数ではありません。 | account_name, region_id, endpoint_name, variant_name, dimensions | count |
memory_utilization_average |
インスタンスの平均メモリ使用率。マルチモデルキャッシュがメモリを使用するのは正常です。 | account_name, region_id, endpoint_name, variant_name, dimensions | percent |
オブジェクト¶
エンドポイントオブジェクトは aws_sagemaker_endpoint に保存されます。以下は検証済みのスカラーフィールドのみを示しています。
{
"measurement": "aws_sagemaker_endpoint",
"tags": {
"account_name": "pdsa-tw",
"region_id": "ap-northeast-2",
"endpoint_name": "guance-sagemaker-mme-20260909"
},
"fields": {
"endpoint_config_name": "guance-sagemaker-mme-20260909",
"endpoint_status": "InService",
"last_modified_time": "2026-09-09T15:56:35.141000+08:00",
"resource_creation_time": "2026-09-09T15:53:14.838000+08:00"
}
}
注:tags と fields のフィールドは、今後の更新で変更される場合があります。