LLM モニタリングアプリケーションを作成¶

1. Agent モニタリング > アプリケーションリスト にアクセスします。
2. アプリケーションを作成 をクリックします。
3. LLM モニタリングアプリケーション タブを選択します。

連携タイプ¶

アプリケーション作成ページに移動すると、現在デフォルトで Langfuse との連携 がサポートされています。

接続設定¶

ここでは以下の3種類の方法がサポートされています。

Python で接続

JS/TS で接続

その他のモデル/フレームワークで接続

Python で接続¶

1. 依存関係のインストール¶

pip install langfuse

2. クライアントの初期化¶

LANGFUSE_PUBLIC_KEY="app_id"
LANGFUSE_SECRET_KEY="llm_bb0f30d.....66eec"
LANGFUSE_HOST="https://llm-openway.guance.com"

from langfuse import Langfuse
langfuse = Langfuse()

from langfuse import Langfuse
langfuse = Langfuse(
  public_key="app_id",
  secret_key="llm_bb0f30d.....66eec",
  host="https://llm-openway.guance.com"
)

3. 接続の確認¶

langfuse.auth_check() を使用して、正常に接続できたかどうかを確認できます。このメソッドはアプリケーションのレイテンシを増加させるため、本番環境での使用は推奨されません。

from langfuse import Langfuse
# 初期化（パラメータで直接構築）
langfuse = Langfuse(
    public_key="app_id",
    secret_key="llm_d9f06c320a9***6e9807",
    host="https://llm-openway.guance.com"
)
# 接続を確認します。これは同期呼び出しであり、本番環境では推奨されません。このメソッドは設定の確認のみに使用します。
if langfuse.auth_check():
    print("Langfuse client is authenticated and ready!")

接続に失敗した場合、以下のようなエラーが発生する可能性があります。

langfuse.api.resources.commons.errors.unauthorized_error.UnauthorizedError: status_code: 401, body: {}

このエラーは通常、App ID または Client Token が正しくないことを示します。パラメータの設定を確認してください。

詳細な情報やエンドツーエンドの例については、Python を参照してください。

JS/TS で接続¶

1. 依存関係のインストール¶

npm install @langfuse/tracing @langfuse/otel @opentelemetry/sdk-node

その他のパッケージ情報 を参照してください。

2. 認証情報の登録¶

アプリケーション環境に以下の環境変数を設定します。プロジェクトのルートディレクトリに .env ファイルと、dotenv のような変数を読み込むためのパッケージがあることを確認してください。

LANGFUSE_SECRET_KEY="llm_122f6b85d0c7454fa0f9*****d360"
LANGFUSE_PUBLIC_KEY="pk-lf-..."
LANGFUSE_BASE_URL="https://llm-openway.guance.com",

3. OpenTelemetry の初期化¶

Langfuse SDK のトレーシングは OpenTelemetry 上に構築されているため、OpenTelemetry SDK をセットアップする必要があります。LangfuseSpanProcessor は Langfuse にトレースを送信するための重要なコンポーネントです。

import { NodeSDK } from "@opentelemetry/sdk-node";
import { LangfuseSpanProcessor } from "@langfuse/otel";
const sdk = new NodeSDK({
  spanProcessors: [new LangfuseSpanProcessor()],
});
sdk.start();

Ollama の連携例 を参照してください。

詳細な情報やエンドツーエンドの例については、JS/TS を参照してください。

その他の接続¶

DeepSeek、Ollama、LangChain、Dify など、その他のモデル/フレームワークとの連携が必要な場合は、Langfuse 公式の完全なドキュメント を参照して設定してください。

コード内の変数を入力する¶

ページ右側の以下の情報を入力します。

情報が正しいことを確認したら、作成 をクリックして、LLM モニタリングアプリケーションの接続を完了します。