LLM モニタリングアプリケーションの作成¶
- Agent モニタリング > アプリケーション一覧 に移動します。
- 「アプリケーションを作成」をクリックします。
- LLM モニタリングアプリケーション タブを選択します。
連携タイプ¶
アプリケーション作成ページに移動すると、現在はデフォルトで Langfuse 連携 をサポートしています:
連携設定¶
ここでは次の 3 種類をサポートしています:
Python 連携¶
1. 依存関係のインストール¶
2. クライアントの初期化¶
3. 接続の検証¶
langfuse.auth_check() を使用して、接続が成功したかどうかを検証できます。アプリケーションのレイテンシーが増加するため、本番環境での使用は推奨されません。
from langfuse import Langfuse
# 初期化(パラメータで指定)
langfuse = Langfuse(
public_key="app_id",
secret_key="llm_d9f06c320a9***6e9807",
host="https://llm-openway.guance.com"
)
# 接続の検証。このメソッドは同期呼び出しのため、本番環境では推奨されません。設定の検証専用です
if langfuse.auth_check():
print("Langfuse client is authenticated and ready!")
接続に失敗した場合は、次のエラーが発生する可能性があります:
langfuse.api.resources.commons.errors.unauthorized_error.UnauthorizedError: status_code: 401, body: {}
このエラーが発生した場合、通常は App ID または Client Token が正しくないことを示しています。パラメータ設定を確認してください。
詳細情報とエンドツーエンドの例については、Python を参照してください。
JS/TS 連携¶
注意
ここの設定は Langfuse JS/TS SDK v4 にのみ適用されます。v3 バージョンは現在サポートされていません。
1. 依存関係のインストール¶
詳細なパッケージ情報 を参照してください。
2. 認証情報の登録¶
アプリケーション環境に以下の環境変数を設定します。プロジェクトのルートディレクトリに .env ファイルがあり、dotenv などのパッケージで変数を読み込めることを確認してください。
LANGFUSE_SECRET_KEY="llm_122f6b85d0c7454fa0f9*****d360"
LANGFUSE_PUBLIC_KEY="pk-lf-..."
LANGFUSE_BASE_URL="https://llm-openway.guance.com"
3. OpenTelemetry の初期化¶
Langfuse SDK のトレースは OpenTelemetry を基盤としているため、OpenTelemetry SDK をセットアップする必要があります。LangfuseSpanProcessor はトレースを Langfuse に送信するための主要コンポーネントです。
import { NodeSDK } from "@opentelemetry/sdk-node";
import { LangfuseSpanProcessor } from "@langfuse/otel";
const sdk = new NodeSDK({
spanProcessors: [new LangfuseSpanProcessor()],
});
sdk.start();
Ollama の連携例 を参照してください。
詳細情報とエンドツーエンドの例については、JS/TS を参照してください。
その他の連携¶
DeepSeek、Ollama、LangChain、Dify など、他のモデル/フレームワークとの連携が必要な場合は、Langfuse 公式の完全なドキュメント を参照して設定してください。
LangChain OpenTelemetry 連携¶
OpenTelemetry 経由での LangChain アプリケーションとの連携をサポートしています。連携が完了すると、LLM アプリケーションモニタリングで呼び出しトレース、入力、出力、Token 消費量などの情報を確認できます。
システムは OpenTelemetry の gen_ai 関連属性を解析し、次の情報を表示します:
- Input:モデル呼び出しの入力内容。
- Output:モデルが返す出力内容。
- Token:入力、出力、および合計 Token 消費量。
- モデル、サービス、呼び出しステータスなどの関連情報。
Note
ページの表示内容は、報告データに対応する gen_ai 属性が含まれているかどうかによって異なります。報告されていないフィールドは表示されず、他のトレースデータのクエリには影響しません。
コード内の変数の入力¶
ページ右側で以下の情報を入力します:
| フィールド | 説明 |
|---|---|
| アプリケーション名 | カスタムアプリケーション名 |
| アプリケーション ID | 公開キーです。英語、数字、アンダースコアのみサポートし、トレース、ログ、メトリクスで現在のアプリケーションに帰属させるために使用します |
| サービスアドレス | Dataway ゲートウェイアドレスを入力します |
| Client Token | アプリケーション作成後に自動生成されます。ユーザーデバイスからデータを送信するために使用します |
Client Token とは?
アプリケーションを作成すると、システムが Client Token を自動生成します。このトークンはユーザーデバイスからデータを送信するために使用されます。
詳細については、Client Token 管理 を参照してください。
情報に間違いがなければ、作成 をクリックして、LLM モニタリングアプリケーションの連携を完了します。