OpenRouter
OpenRouter Broadcast を使用してモデル呼び出しデータを Guance に送信し、Token 使用量、コスト、応答時間、失敗した呼び出しを確認します。
設定¶
前提条件¶
Guance ワークスペースで LLM アプリケーションを作成する権限と、OpenRouter で Observability を設定する権限が必要です。
LLM アプリケーションの作成¶
Guance で Agent モニタリング → LLM を開き、新しいアプリケーションを作成します。インテグレーションタイプに Langfuse を選択し、名前に OpenRouter と入力します。接続ページに表示されるサービスアドレス、アプリケーション ID、Client Token を記録します。
Broadcast の設定¶
アプリケーション ID と Client Token をコロンで連結し、Base64 でエンコードします。
OpenRouter で Settings → Observability を開き、Enable Broadcast を有効にします。OpenTelemetry Collector タイプの送信先を追加し、次の項目を設定します。
| 設定項目 | 設定値 |
|---|---|
| Endpoint | <サービスアドレス>/api/public/otel/v1/traces |
| Headers | Authorization: Basic <前の手順のエンコード結果>、x-langfuse-public-key: <アプリケーション ID> |
| サンプリング率 | 使用量を完全に集計する場合は 100% に設定 |
| API Key フィルター | 収集対象の API Key を選択。すべてを収集する場合は Global を選択 |
| データオプション | コストとリクエストコンテキストのオプションを有効化。入出力本文が必要な場合は Privacy Mode を無効化 |
Test Connection をクリックし、テスト成功後に保存します。
検証¶
OpenRouter でモデルを一度呼び出し、対応する LLM アプリケーションに呼び出し記録が表示されることを確認してから、付属のダッシュボードとモニターをインポートします。
メトリクス¶
| MetricName | MetricDescribe | Dimensions | Unit |
|---|---|---|---|
input_tokens |
入力 Token 数 | model_name, status | token |
output_tokens |
出力 Token 数 | model_name, status | token |
total_tokens |
合計 Token 数 | model_name, status | token |
duration |
モデル呼び出し時間 | model_name, status | μs |
model_name |
モデル名 | model_name, status | - |
status |
呼び出しステータス | model_name, status | - |
trace_id |
呼び出し Trace ID | model_name, status | - |
trace.metadata.openrouter_generation.request_id |
OpenRouter リクエスト ID | model_name, status | - |
trace.metadata.openrouter_generation.is_byok |
BYOK フラグ | model_name, status | - |
trace.metadata.openrouter_generation.byok_usage_inference |
BYOK アップストリーム推論コスト | model_name, status | USD |
gen_ai.usage.total_cost |
OpenRouter 呼び出しコスト | model_name, status | USD |
trace.metadata.openrouter.provider_name |
実際のプロバイダー名 | model_name, status | - |
trace.metadata.provider_responses |
プロバイダー応答メタデータ | model_name, status | - |