新建 LLM 监测应用¶
- 进入 Agent 监测 > 应用列表;
- 点击“新建应用”;
- 选择 LLM 监测应用 Tab。
集成类型¶
进入新建应用页,目前默认支持接入 Langfuse:
接入配置¶
此处支持三类:
接入 Python¶
1. 安装依赖¶
2. 初始化客户端¶
3. 验证连接¶
您可以使用 langfuse.auth_check() 验证是否接入成功。不建议在生产中使用它,因为这会增加应用程序的延迟。
from langfuse import Langfuse
# 初始化(通过参数构造)
langfuse = Langfuse(
public_key="app_id",
secret_key="llm_d9f06c320a9***6e9807",
host="https://llm-openway.guance.com"
)
# 验证连接,这是一个同步调用,生产环境不建议使用,此方法仅用于验证配置
if langfuse.auth_check():
print("Langfuse client is authenticated and ready!")
如果接入失败,您可能会遇到以下错误:
langfuse.api.resources.commons.errors.unauthorized_error.UnauthorizedError: status_code: 401, body: {}
出现此错误通常表示 App ID 或 Client Token 不正确,请检查您的参数配置。
有关更多详细信息和端到端示例,可参考 Python。
接入 JS/TS¶
注意
此处配置仅适用于 Langfuse JS/TS SDK v4,暂不支持 v3 版本。
1. 安装依赖¶
点击查看更多软件包信息。
2. 注册凭证¶
在您的应用环境中设置以下环境变量。确保您的项目根目录中有一个 .env 文件和一个像 dotenv 这样的软件包来加载变量。
LANGFUSE_SECRET_KEY="llm_122f6b85d0c7454fa0f9*****d360"
LANGFUSE_PUBLIC_KEY="pk-lf-..."
LANGFUSE_BASE_URL="https://llm-openway.guance.com",
3. 初始化 OpenTelemetry¶
Langfuse SDK 的跟踪建立在 OpenTelemetry 之上,因此您需要设置 OpenTelemetry SDK。LangfuseSpanProcessor 是向 Langfuse 发送跟踪的关键组件。
import { NodeSDK } from "@opentelemetry/sdk-node";
import { LangfuseSpanProcessor } from "@langfuse/otel";
const sdk = new NodeSDK({
spanProcessors: [new LangfuseSpanProcessor()],
});
sdk.start();
点击查看 Ollama 的接入示例。
有关更多详细信息和端到端示例,可参考 JS/TS。
接入其他¶
若您需要接入其他模型/框架的集成,例如:DeepSeek、Ollama、LangChain、Dify 等,可参考 Langfuse 官方完整文档进行配置。
填写代码中的变量¶
在页面右侧填写以下信息:
| 字段 | 说明 |
|---|---|
| 应用名称 | 自定义应用名称 |
| 应用 ID | 公钥,仅支持英文、数字、下划线,用于在链路、日志、指标中归属当前应用 |
| 服务地址 | 填写 Dataway 网关地址 |
| Client Token | 应用创建后自动生成,用于从用户设备中发送数据 |
确认信息无误后,点击创建,完成 LLM 监测应用接入。