跳转至

OpenRouter

通过 OpenRouter Broadcast 将模型调用数据上报至 观测云,查看 Token 用量、费用、响应时间及失败调用。

配置

前置条件

具备 观测云 工作空间的 LLM 应用创建权限,以及 OpenRouter 的 Observability 配置权限。

创建 LLM 应用

进入 观测云 Agent 监测 → LLM,新建应用,集成类型选择 Langfuse,名称填写 OpenRouter。记录接入页提供的服务地址、应用 ID 和 Client Token。

配置 Broadcast

将应用 ID 与 Client Token 用冒号连接后进行 Base64 编码:

printf '%s' '<应用 ID>:<Client Token>' | base64 | tr -d '\r\n'

进入 OpenRouter Settings → Observability,开启 Enable Broadcast,添加 OpenTelemetry Collector 类型的目标,填写以下配置。

配置项 配置值
Endpoint <服务地址>/api/public/otel/v1/traces
Headers Authorization: Basic <上一步的编码结果>x-langfuse-public-key: <应用 ID>
采样率 完整统计用量时设置为 100%
API Key 筛选 选择需要采集的 API Key;全局采集选择 Global
数据选项 开启费用与请求上下文相关选项;需要输入输出正文时关闭 Privacy Mode

点击 Test Connection,通过后保存。

验证

发起一次 OpenRouter 模型调用,在对应 LLM 应用中确认出现调用记录,再导入配套视图和监控器。

指标

MetricName MetricDescribe Dimensions Unit
input_tokens 输入 Token 数 model_name, status token
output_tokens 输出 Token 数 model_name, status token
total_tokens 总 Token 数 model_name, status token
duration 模型调用耗时 model_name, status μs
model_name 模型名称 model_name, status -
status 调用状态 model_name, status -
trace_id 调用 Trace ID model_name, status -
trace.metadata.openrouter_generation.request_id OpenRouter 请求 ID model_name, status -
trace.metadata.openrouter_generation.is_byok BYOK 标记 model_name, status -
trace.metadata.openrouter_generation.byok_usage_inference BYOK 上游推理费用 model_name, status USD
gen_ai.usage.total_cost OpenRouter 调用费用 model_name, status USD
trace.metadata.openrouter.provider_name 实际供应商名称 model_name, status -
trace.metadata.provider_responses 供应商响应元数据 model_name, status -

文档评价

文档内容是否对您有帮助?