LangChain¶
DDTrace를 사용해 LangChain Python 라이브러리 요청에서 비용 추정, 프롬프트 및 완료 샘플링, 오류 추적, 성능 지표 등을 수집합니다.
구성¶
DDTrace 설치¶
pip install ddtrace>=1.17
DataKit 설정¶
- DDTrace 수집기 활성화
DDTrace 수집기는 트레이스 정보를 수집하는 데 사용됩니다. DataKit 설치 디렉터리로 이동한 뒤 conf.d/samples/에서 ddtrace.conf.sample을 복사해 ddtrace.conf로 이름을 변경합니다.
- StatsD 수집기 활성화
StatsD 수집기는 지표 정보를 수집하는 데 사용되며, 기본 포트는 8125입니다.
- DataKit 재시작
애플리케이션 실행¶
DD_SERVICE="my-langchain" DD_ENV="dev" DD_AGENT_HOST="localhost" DD_AGENT_PORT="9529" ddtrace-run python <your-app>.py
디버그를 활성화하려면 시작할 때 --debug 인자를 추가합니다.
DD_SERVICE="my-langchain" DD_ENV="dev" DD_AGENT_HOST="localhost" DD_AGENT_PORT="9529" ddtrace-run --debug python <your-app>.py
지표¶
langchain¶
| Metrics | Units | Description |
|---|---|---|
| request_duration | nanoseconds | 요청 지속 시간 분포. |
| request_error | errors | 요청 예외 수. |
| tokens_completion | tokens/request | 완료 응답 시 사용된 토큰 수. |
| tokens_prompt | tokens/request | 요청 프롬프트에 사용된 토큰 수. |
| tokens_total | tokens/request | 요청과 응답에 사용된 총 토큰 수. |
| tokens_total_cost | dollars | 토큰 사용량을 기반으로 한 추정 비용(미국 달러). |