コンテンツにスキップ

LLM モニタリングアプリケーションの作成


  1. Agent モニタリング > アプリケーション一覧 に移動します。
  2. 「アプリケーションを作成」をクリックします。
  3. LLM モニタリングアプリケーション タブを選択します。

連携タイプ

アプリケーション作成ページに移動すると、現在はデフォルトで Langfuse 連携 をサポートしています:

連携設定

ここでは次の 3 種類をサポートしています:

Python 連携

JS/TS 連携

その他のモデル/フレームワーク連携

Python 連携

1. 依存関係のインストール

pip install langfuse

2. クライアントの初期化

アプリケーション環境に以下の環境変数を設定します:

LANGFUSE_PUBLIC_KEY="app_id"
LANGFUSE_SECRET_KEY="llm_bb0f30d.....66eec"
LANGFUSE_HOST="https://llm-openway.guance.com"

コード内で初期化します:

from langfuse import Langfuse
langfuse = Langfuse()

コード内で設定パラメータを直接渡します:

from langfuse import Langfuse
langfuse = Langfuse(
  public_key="app_id",
  secret_key="llm_bb0f30d.....66eec",
  host="https://llm-openway.guance.com"
)

3. 接続の検証

langfuse.auth_check() を使用して、接続が成功したかどうかを検証できます。アプリケーションのレイテンシーが増加するため、本番環境での使用は推奨されません。

from langfuse import Langfuse
# 初期化(パラメータで指定)
langfuse = Langfuse(
    public_key="app_id",
    secret_key="llm_d9f06c320a9***6e9807",
    host="https://llm-openway.guance.com"
)
# 接続の検証。このメソッドは同期呼び出しのため、本番環境では推奨されません。設定の検証専用です
if langfuse.auth_check():
    print("Langfuse client is authenticated and ready!")

接続に失敗した場合は、次のエラーが発生する可能性があります:

langfuse.api.resources.commons.errors.unauthorized_error.UnauthorizedError: status_code: 401, body: {}

このエラーが発生した場合、通常は App ID または Client Token が正しくないことを示しています。パラメータ設定を確認してください。

詳細情報とエンドツーエンドの例については、Python を参照してください。

JS/TS 連携

注意

ここの設定は Langfuse JS/TS SDK v4 にのみ適用されます。v3 バージョンは現在サポートされていません。

1. 依存関係のインストール

npm install @langfuse/tracing @langfuse/otel @opentelemetry/sdk-node

詳細なパッケージ情報 を参照してください。

2. 認証情報の登録

アプリケーション環境に以下の環境変数を設定します。プロジェクトのルートディレクトリに .env ファイルがあり、dotenv などのパッケージで変数を読み込めることを確認してください。

LANGFUSE_SECRET_KEY="llm_122f6b85d0c7454fa0f9*****d360"
LANGFUSE_PUBLIC_KEY="pk-lf-..."
LANGFUSE_BASE_URL="https://llm-openway.guance.com"

3. OpenTelemetry の初期化

Langfuse SDK のトレースは OpenTelemetry を基盤としているため、OpenTelemetry SDK をセットアップする必要があります。LangfuseSpanProcessor はトレースを Langfuse に送信するための主要コンポーネントです。

import { NodeSDK } from "@opentelemetry/sdk-node";
import { LangfuseSpanProcessor } from "@langfuse/otel";
const sdk = new NodeSDK({
  spanProcessors: [new LangfuseSpanProcessor()],
});
sdk.start();

Ollama の連携例 を参照してください。

詳細情報とエンドツーエンドの例については、JS/TS を参照してください。

その他の連携

DeepSeek、Ollama、LangChain、Dify など、他のモデル/フレームワークとの連携が必要な場合は、Langfuse 公式の完全なドキュメント を参照して設定してください。

LangChain OpenTelemetry 連携

OpenTelemetry 経由での LangChain アプリケーションとの連携をサポートしています。連携が完了すると、LLM アプリケーションモニタリングで呼び出しトレース、入力、出力、Token 消費量などの情報を確認できます。

システムは OpenTelemetry の gen_ai 関連属性を解析し、次の情報を表示します:

  • Input:モデル呼び出しの入力内容。
  • Output:モデルが返す出力内容。
  • Token:入力、出力、および合計 Token 消費量。
  • モデル、サービス、呼び出しステータスなどの関連情報。
Note

ページの表示内容は、報告データに対応する gen_ai 属性が含まれているかどうかによって異なります。報告されていないフィールドは表示されず、他のトレースデータのクエリには影響しません。

コード内の変数の入力

ページ右側で以下の情報を入力します:

フィールド 説明
アプリケーション名 カスタムアプリケーション名
アプリケーション ID 公開キーです。英語、数字、アンダースコアのみサポートし、トレース、ログ、メトリクスで現在のアプリケーションに帰属させるために使用します
サービスアドレス Dataway ゲートウェイアドレスを入力します
Client Token アプリケーション作成後に自動生成されます。ユーザーデバイスからデータを送信するために使用します
Client Token とは?

アプリケーションを作成すると、システムが Client Token を自動生成します。このトークンはユーザーデバイスからデータを送信するために使用されます。

詳細については、Client Token 管理 を参照してください。

情報に間違いがなければ、作成 をクリックして、LLM モニタリングアプリケーションの連携を完了します。

フィードバック

このページは役に立ちましたか?