跳转至

LangChain

使用 DDTrace 从 LangChain Python 库请求中获取成本估计、提示和完成采样、错误跟踪、性能指标等。

配置

安装 DDTrace

pip install ddtrace>=1.17

DataKit 配置

  • 开启 DDTrace 采集器

DDTrace 采集器用于采集链路信息,进入到 DataKit 安装目录下,执行conf.d/ddtrace/,复制ddtrace.conf.sample 并重命名为 ddtrace.conf

  • 开启 StatsD 采集器

StatsD 采集器用于采集指标信息,默认端口为8125

  • 重启 DataKit
systemctl restart datakit

运行应用

DD_SERVICE="my-langchain" DD_ENV="dev" DD_AGENT_HOST="localhost" DD_AGENT_PORT="9529" ddtrace-run python <your-app>.py

如需开启 debug,则启动时添加参数--debug

DD_SERVICE="my-langchain" DD_ENV="dev" DD_AGENT_HOST="localhost" DD_AGENT_PORT="9529" ddtrace-run --debug python <your-app>.py

指标

langchain

Metrics Units Description
request_duration nanoseconds 请求持续时间分布。
request_error errors 请求异常数。
tokens_completion tokens/request 完成响应时使用的令牌数。
tokens_prompt tokens/request 在请求提示中使用的令牌数。
tokens_total tokens/request 请求和响应中使用的令牌总数。
tokens_total_cost dollars 基于代币使用情况的估计成本(美元)。

文档评价

文档内容是否对您有帮助? ×