跳转至

AWS SageMaker

采集 AWS SageMaker 的端点资产、调用、时延及实例资源指标。端点是 SageMaker 推理服务入口;变体定义模型部署、实例规格、实例数量及流量分配。

配置

安装 Func

推荐开通 观测云集成 - 扩展 - 托管版 Func: 一切前置条件都自动安装好, 请继续脚本安装

如果自行部署 Func 参考自行部署 Func

开通脚本

提示:请提前准备好符合要求的 AWS AK(简单起见,可直接授予全局只读权限ReadOnlyAccess)

  1. 登陆 Func 控制台,点击【脚本市场】,进入观测云脚本市场,搜索 integration_aws_sagemaker
  2. 点击【安装】后,输入相应的参数:AWS AK ID、AK Secret 及账户名
  3. 点击【部署启动脚本】,系统会自动创建 Startup 脚本集,并自动配置相应的启动脚本
  4. 开启后可以在「管理 / 自动触发配置」里看到对应的自动触发配置。点击【执行】,即可立即执行一次,无需等待定期时间。稍等片刻,可以查看执行任务记录以及对应日志

验证

  1. 在「管理 / 自动触发配置」确认对应的任务是否已存在对应的自动触发配置,同时可以查看对应任务记录及日志检查是否有异常
  2. 在观测云,「基础设施 / 自定义」中查看是否存在资产信息
  3. 在观测云,「指标」查看是否有对应监控数据

指标

aws_sagemaker

AWS 命名空间:AWS/SageMaker。

MetricName MetricDescribe Dimensions Unit
invocation_4xx_errors_average HTTP 4xx错误的 CloudWatch 周期平均比例,原值范围 0–1。 account_name, region_id, endpoint_name, variant_name, dimensions ratio
invocation_4xx_errors_sum CloudWatch 周期内 HTTP 4xx 错误次数。 account_name, region_id, endpoint_name, variant_name, dimensions count
invocation_5xx_errors_average HTTP 5xx错误的 CloudWatch 周期平均比例,原值范围 0–1。 account_name, region_id, endpoint_name, variant_name, dimensions ratio
invocation_5xx_errors_sum CloudWatch 周期内 HTTP 5xx 错误次数。 account_name, region_id, endpoint_name, variant_name, dimensions count
invocation_model_errors_average 模型调用错误的 CloudWatch 周期平均比例,原值范围 0–1。 account_name, region_id, endpoint_name, variant_name, dimensions ratio
invocation_model_errors_sum CloudWatch 周期内模型调用错误次数,含连接、超时和异常响应;可能与 HTTP 错误重叠。 account_name, region_id, endpoint_name, variant_name, dimensions count
invocations_per_instance_sum CloudWatch 周期内按当时实例数归一化的调用数,不能乘当前实例数还原历史总调用量。 account_name, region_id, endpoint_name, variant_name, dimensions count
invocations_sum CloudWatch 周期内调用次数,不是累计计数器或 QPS。 account_name, region_id, endpoint_name, variant_name, dimensions count
model_cache_hit_average 请求的模型已在内存中的比例,原值范围 0–1。 account_name, region_id, endpoint_name, variant_name, dimensions ratio
model_downloading_time_average 从 S3 下载模型的平均耗时。 account_name, region_id, endpoint_name, variant_name, dimensions μs
model_latency_average 模型处理请求的平均耗时。 account_name, region_id, endpoint_name, variant_name, dimensions μs
model_loading_time_average 推理容器加载模型的平均耗时。 account_name, region_id, endpoint_name, variant_name, dimensions μs
model_loading_wait_time_average 请求等待模型下载或加载的平均耗时。 account_name, region_id, endpoint_name, variant_name, dimensions μs
overhead_latency_average SageMaker 平台额外处理的平均耗时,不含客户端网络往返耗时。 account_name, region_id, endpoint_name, variant_name, dimensions μs

aws_sagemaker_endpoints

AWS 命名空间:/aws/sagemaker/Endpoints。

MetricName MetricDescribe Dimensions Unit
cpuutilization_average 实例各 CPU 核利用率之和的平均值,多核实例可超过 100%。 account_name, region_id, endpoint_name, variant_name, dimensions percent
disk_utilization_average 实例磁盘空间平均利用率,不是磁盘 I/O 利用率。 account_name, region_id, endpoint_name, variant_name, dimensions percent
loaded_model_count_average 平均每实例已加载模型数,不是跨实例唯一模型总数。 account_name, region_id, endpoint_name, variant_name, dimensions count
memory_utilization_average 实例内存平均利用率;多模型缓存可能正常占用内存。 account_name, region_id, endpoint_name, variant_name, dimensions percent

对象

端点对象位于 aws_sagemaker_endpoint。以下仅展示已验证的标量字段:

{
  "measurement": "aws_sagemaker_endpoint",
  "tags": {
    "account_name": "pdsa-tw",
    "region_id": "ap-northeast-2",
    "endpoint_name": "guance-sagemaker-mme-20260909"
  },
  "fields": {
    "endpoint_config_name": "guance-sagemaker-mme-20260909",
    "endpoint_status": "InService",
    "last_modified_time": "2026-09-09T15:56:35.141000+08:00",
    "resource_creation_time": "2026-09-09T15:53:14.838000+08:00"
  }
}

注意:tags、fields 中的字段可能会随后续更新有所变动。

文档评价

文档内容是否对您有帮助?