콘텐츠로 이동

LangChain

DDTrace를 사용해 LangChain Python 라이브러리 요청에서 비용 추정, 프롬프트 및 완료 샘플링, 오류 추적, 성능 지표 등을 수집합니다.

구성

DDTrace 설치

pip install ddtrace>=1.17

DataKit 설정

  • DDTrace 수집기 활성화

DDTrace 수집기는 트레이스 정보를 수집하는 데 사용됩니다. DataKit 설치 디렉터리로 이동한 뒤 conf.d/samples/에서 ddtrace.conf.sample을 복사해 ddtrace.conf로 이름을 변경합니다.

  • StatsD 수집기 활성화

StatsD 수집기는 지표 정보를 수집하는 데 사용되며, 기본 포트는 8125입니다.

  • DataKit 재시작
systemctl restart datakit

애플리케이션 실행

DD_SERVICE="my-langchain" DD_ENV="dev" DD_AGENT_HOST="localhost" DD_AGENT_PORT="9529" ddtrace-run python <your-app>.py

디버그를 활성화하려면 시작할 때 --debug 인자를 추가합니다.

DD_SERVICE="my-langchain" DD_ENV="dev" DD_AGENT_HOST="localhost" DD_AGENT_PORT="9529" ddtrace-run --debug python <your-app>.py

지표

langchain

Metrics Units Description
request_duration nanoseconds 요청 지속 시간 분포.
request_error errors 요청 예외 수.
tokens_completion tokens/request 완료 응답 시 사용된 토큰 수.
tokens_prompt tokens/request 요청 프롬프트에 사용된 토큰 수.
tokens_total tokens/request 요청과 응답에 사용된 총 토큰 수.
tokens_total_cost dollars 토큰 사용량을 기반으로 한 추정 비용(미국 달러).

문서 평가

이 페이지가 도움이 되었나요?