AWS SageMaker
采集 AWS SageMaker 的端点资产、调用、时延及实例资源指标。端点是 SageMaker 推理服务入口;变体定义模型部署、实例规格、实例数量及流量分配。
配置¶
安装 Func¶
推荐开通 观测云集成 - 扩展 - 托管版 Func: 一切前置条件都自动安装好, 请继续脚本安装
如果自行部署 Func 参考自行部署 Func
开通脚本¶
提示:请提前准备好符合要求的 AWS AK(简单起见,可直接授予全局只读权限
ReadOnlyAccess)
- 登陆 Func 控制台,点击【脚本市场】,进入观测云脚本市场,搜索
integration_aws_sagemaker - 点击【安装】后,输入相应的参数:AWS AK ID、AK Secret 及账户名
- 点击【部署启动脚本】,系统会自动创建
Startup脚本集,并自动配置相应的启动脚本 - 开启后可以在「管理 / 自动触发配置」里看到对应的自动触发配置。点击【执行】,即可立即执行一次,无需等待定期时间。稍等片刻,可以查看执行任务记录以及对应日志
验证¶
- 在「管理 / 自动触发配置」确认对应的任务是否已存在对应的自动触发配置,同时可以查看对应任务记录及日志检查是否有异常
- 在观测云,「基础设施 / 自定义」中查看是否存在资产信息
- 在观测云,「指标」查看是否有对应监控数据
指标¶
aws_sagemaker¶
AWS 命名空间:AWS/SageMaker。
| MetricName | MetricDescribe | Dimensions | Unit |
|---|---|---|---|
invocation_4xx_errors_average |
HTTP 4xx错误的 CloudWatch 周期平均比例,原值范围 0–1。 | account_name, region_id, endpoint_name, variant_name, dimensions | ratio |
invocation_4xx_errors_sum |
CloudWatch 周期内 HTTP 4xx 错误次数。 | account_name, region_id, endpoint_name, variant_name, dimensions | count |
invocation_5xx_errors_average |
HTTP 5xx错误的 CloudWatch 周期平均比例,原值范围 0–1。 | account_name, region_id, endpoint_name, variant_name, dimensions | ratio |
invocation_5xx_errors_sum |
CloudWatch 周期内 HTTP 5xx 错误次数。 | account_name, region_id, endpoint_name, variant_name, dimensions | count |
invocation_model_errors_average |
模型调用错误的 CloudWatch 周期平均比例,原值范围 0–1。 | account_name, region_id, endpoint_name, variant_name, dimensions | ratio |
invocation_model_errors_sum |
CloudWatch 周期内模型调用错误次数,含连接、超时和异常响应;可能与 HTTP 错误重叠。 | account_name, region_id, endpoint_name, variant_name, dimensions | count |
invocations_per_instance_sum |
CloudWatch 周期内按当时实例数归一化的调用数,不能乘当前实例数还原历史总调用量。 | account_name, region_id, endpoint_name, variant_name, dimensions | count |
invocations_sum |
CloudWatch 周期内调用次数,不是累计计数器或 QPS。 | account_name, region_id, endpoint_name, variant_name, dimensions | count |
model_cache_hit_average |
请求的模型已在内存中的比例,原值范围 0–1。 | account_name, region_id, endpoint_name, variant_name, dimensions | ratio |
model_downloading_time_average |
从 S3 下载模型的平均耗时。 | account_name, region_id, endpoint_name, variant_name, dimensions | μs |
model_latency_average |
模型处理请求的平均耗时。 | account_name, region_id, endpoint_name, variant_name, dimensions | μs |
model_loading_time_average |
推理容器加载模型的平均耗时。 | account_name, region_id, endpoint_name, variant_name, dimensions | μs |
model_loading_wait_time_average |
请求等待模型下载或加载的平均耗时。 | account_name, region_id, endpoint_name, variant_name, dimensions | μs |
overhead_latency_average |
SageMaker 平台额外处理的平均耗时,不含客户端网络往返耗时。 | account_name, region_id, endpoint_name, variant_name, dimensions | μs |
aws_sagemaker_endpoints¶
AWS 命名空间:/aws/sagemaker/Endpoints。
| MetricName | MetricDescribe | Dimensions | Unit |
|---|---|---|---|
cpuutilization_average |
实例各 CPU 核利用率之和的平均值,多核实例可超过 100%。 | account_name, region_id, endpoint_name, variant_name, dimensions | percent |
disk_utilization_average |
实例磁盘空间平均利用率,不是磁盘 I/O 利用率。 | account_name, region_id, endpoint_name, variant_name, dimensions | percent |
loaded_model_count_average |
平均每实例已加载模型数,不是跨实例唯一模型总数。 | account_name, region_id, endpoint_name, variant_name, dimensions | count |
memory_utilization_average |
实例内存平均利用率;多模型缓存可能正常占用内存。 | account_name, region_id, endpoint_name, variant_name, dimensions | percent |
对象¶
端点对象位于 aws_sagemaker_endpoint。以下仅展示已验证的标量字段:
{
"measurement": "aws_sagemaker_endpoint",
"tags": {
"account_name": "pdsa-tw",
"region_id": "ap-northeast-2",
"endpoint_name": "guance-sagemaker-mme-20260909"
},
"fields": {
"endpoint_config_name": "guance-sagemaker-mme-20260909",
"endpoint_status": "InService",
"last_modified_time": "2026-09-09T15:56:35.141000+08:00",
"resource_creation_time": "2026-09-09T15:53:14.838000+08:00"
}
}
注意:tags、fields 中的字段可能会随后续更新有所变动。