跳转至

新建 LLM 监测应用


  1. 进入 Agent 监测 > 应用列表
  2. 点击“新建应用”;
  3. 选择 LLM 监测应用 Tab。

集成类型

进入新建应用页,目前默认支持接入 Langfuse

接入配置

此处支持三类:

接入 Python

接入 JS/TS

接入其他模型/框架

接入 Python

1. 安装依赖

pip install langfuse

2. 初始化客户端

在您的应用环境中设置以下环境变量:

LANGFUSE_PUBLIC_KEY="app_id"
LANGFUSE_SECRET_KEY="llm_bb0f30d.....66eec"
LANGFUSE_HOST="https://llm-openway.guance.com"

在代码中初始化:

from langfuse import Langfuse
langfuse = Langfuse()

直接在代码中传递配置参数:

from langfuse import Langfuse
langfuse = Langfuse(
  public_key="app_id",
  secret_key="llm_bb0f30d.....66eec",
  host="https://llm-openway.guance.com"
)

3. 验证连接

您可以使用 langfuse.auth_check() 验证是否接入成功。不建议在生产中使用它,因为这会增加应用程序的延迟。

from langfuse import Langfuse
# 初始化(通过参数构造)
langfuse = Langfuse(
    public_key="app_id",
    secret_key="llm_d9f06c320a9***6e9807",
    host="https://llm-openway.guance.com"
)
# 验证连接,这是一个同步调用,生产环境不建议使用,此方法仅用于验证配置
if langfuse.auth_check():
    print("Langfuse client is authenticated and ready!")

如果接入失败,您可能会遇到以下错误:

langfuse.api.resources.commons.errors.unauthorized_error.UnauthorizedError: status_code: 401, body: {}

出现此错误通常表示 App ID 或 Client Token 不正确,请检查您的参数配置。

有关更多详细信息和端到端示例,可参考 Python

接入 JS/TS

注意

此处配置仅适用于 Langfuse JS/TS SDK v4,暂不支持 v3 版本。

1. 安装依赖

npm install @langfuse/tracing @langfuse/otel @opentelemetry/sdk-node

点击查看更多软件包信息

2. 注册凭证

在您的应用环境中设置以下环境变量。确保您的项目根目录中有一个 .env 文件和一个像 dotenv 这样的软件包来加载变量。

LANGFUSE_SECRET_KEY="llm_122f6b85d0c7454fa0f9*****d360"
LANGFUSE_PUBLIC_KEY="pk-lf-..."
LANGFUSE_BASE_URL="https://llm-openway.guance.com",

3. 初始化 OpenTelemetry

Langfuse SDK 的跟踪建立在 OpenTelemetry 之上,因此您需要设置 OpenTelemetry SDK。LangfuseSpanProcessor 是向 Langfuse 发送跟踪的关键组件。

import { NodeSDK } from "@opentelemetry/sdk-node";
import { LangfuseSpanProcessor } from "@langfuse/otel";
const sdk = new NodeSDK({
  spanProcessors: [new LangfuseSpanProcessor()],
});
sdk.start();

点击查看 Ollama 的接入示例

有关更多详细信息和端到端示例,可参考 JS/TS

接入其他

若您需要接入其他模型/框架的集成,例如:DeepSeek、Ollama、LangChain、Dify 等,可参考 Langfuse 官方完整文档进行配置

填写代码中的变量

在页面右侧填写以下信息:

字段 说明
应用名称 自定义应用名称
应用 ID 公钥,仅支持英文、数字、下划线,用于在链路、日志、指标中归属当前应用
服务地址 填写 Dataway 网关地址
Client Token 应用创建后自动生成,用于从用户设备中发送数据
什么是 Client Token?

创建应用后,系统会为您自动生成一个 Client Token,此令牌用于从用户设备中发送数据。

更多详情,可参考 Client Token 管理

确认信息无误后,点击创建,完成 LLM 监测应用接入。

文档评价

文档内容是否对您有帮助? ×