新しい LLM モニタリングアプリケーションを作成¶
- Agent 監視 > アプリケーション一覧 に移動します。
- 「アプリケーションを作成」をクリックします。
- LLM モニタリングアプリケーション タブを選択します。
統合タイプ¶
アプリケーション作成ページで、現在デフォルトで Langfuse の統合 をサポートしています。
接続設定¶
ここでは次の 3 つの方法をサポートしています。
Python の接続¶
1. 依存関係のインストール¶
2. クライアントの初期化¶
3. 接続の確認¶
langfuse.auth_check() を使用して接続が成功したかどうかを確認できます。本番環境ではアプリケーションのレイテンシが増加するため、使用しないことをお勧めします。
from langfuse import Langfuse
# 初期化(パラメータで直接指定)
langfuse = Langfuse(
public_key="app_id",
secret_key="llm_d9f06c320a9***6e9807",
host="https://llm-openway.guance.com"
)
# 接続を確認します。これは同期呼び出しであり、本番環境では推奨しません。このメソッドは設定の確認のみに使用します。
if langfuse.auth_check():
print("Langfuse client is authenticated and ready!")
接続に失敗した場合、次のエラーが発生する可能性があります。
langfuse.api.resources.commons.errors.unauthorized_error.UnauthorizedError: status_code: 401, body: {}
このエラーは通常、App ID または Client Token が正しくないことを示します。パラメータの設定を確認してください。
詳細な情報とエンドツーエンドの例については、Python を参照してください。
JS/TS の接続¶
注意
この設定は Langfuse JS/TS SDK v4 にのみ適用されます。v3 はサポートされていません。
1. 依存関係のインストール¶
詳細なパッケージ情報については、こちら をクリックしてください。
2. 認証情報の登録¶
アプリケーション環境に次の環境変数を設定します。プロジェクトのルートディレクトリに .env ファイルと、dotenv のような変数を読み込むパッケージがあることを確認してください。
LANGFUSE_SECRET_KEY="llm_122f6b85d0c7454fa0f9*****d360"
LANGFUSE_PUBLIC_KEY="pk-lf-..."
LANGFUSE_BASE_URL="https://llm-openway.guance.com",
3. OpenTelemetry の初期化¶
Langfuse SDK のトレースは OpenTelemetry 上に構築されているため、OpenTelemetry SDK を設定する必要があります。LangfuseSpanProcessor はトレースを Langfuse に送信するための重要なコンポーネントです。
import { NodeSDK } from "@opentelemetry/sdk-node";
import { LangfuseSpanProcessor } from "@langfuse/otel";
const sdk = new NodeSDK({
spanProcessors: [new LangfuseSpanProcessor()],
});
sdk.start();
クリックして Ollama の統合例 を表示します。
詳細な情報とエンドツーエンドの例については、JS/TS を参照してください。
その他の接続¶
DeepSeek、Ollama、LangChain、Dify などの他のモデルやフレームワークとの統合が必要な場合は、Langfuse 公式ドキュメント を参照して設定してください。
LangChain OpenTelemetry 接続¶
OpenTelemetry を介して LangChain アプリケーションを接続できます。接続が完了すると、LLM モニタリングアプリケーションで呼び出しトレース、入力、出力、トークン消費量などを確認できます。
システムは OpenTelemetry の gen_ai 関連属性を解析し、次の情報を表示します。
- Input: モデル呼び出しの入力内容
- Output: モデルから返された出力内容
- Token: 入力、出力、および合計トークン消費量
- モデル、サービス、呼び出しステータスなどの関連情報
Note
ページの表示内容は、報告されたデータに該当する gen_ai 属性が含まれているかどうかに依存します。報告されていないフィールドは表示されませんが、他のトレースデータのクエリには影響しません。
コード内の変数を入力する¶
ページ右側に次の情報を入力します。
| フィールド | 説明 |
|---|---|
| アプリケーション名 | カスタムアプリケーション名 |
| アプリケーション ID | 公開鍵。英数字とアンダースコアのみ使用可能。トレース、ログ、メトリクスで現在のアプリケーションを識別するために使用します。 |
| サービスアドレス | Dataway ゲートウェイアドレスを入力します。 |
| Client Token | アプリケーション作成時に自動生成されます。ユーザーデバイスからデータを送信するために使用します。 |
Client Token とは?
アプリケーションを作成すると、システムが自動的に Client Token を生成します。このトークンはユーザーデバイスからデータを送信するために使用されます。
詳細については、Client Token 管理 を参照してください。
情報が正しいことを確認したら、「作成」をクリックして、LLM モニタリングアプリケーションの接続を完了します。