LangChain¶
DDTrace を使用して、LangChain Python ライブラリからのリクエストに対するコスト見積もり、プロンプトと完了のサンプリング、エラー追跡、パフォーマンス指標などを取得します。
設定¶
DDTrace をインストール¶
pip install ddtrace>=1.17
DataKit の設定¶
- DDTrace コレクタを有効にする
DDTrace コレクタはトレース情報の収集に使用されます。DataKit のインストールディレクトリに入り、conf.d/samples/ を実行して、ddtrace.conf.sample をコピーし、ddtrace.conf に名前を変更します。
- StatsD コレクタを有効にする
StatsD コレクタはメトリクス情報の収集に使用され、デフォルトのポートは 8125 です。
- DataKit を再起動する
アプリケーションを実行する¶
DD_SERVICE="my-langchain" DD_ENV="dev" DD_AGENT_HOST="localhost" DD_AGENT_PORT="9529" ddtrace-run python <your-app>.py
debug を有効にするには、起動時に --debug パラメータを追加します
DD_SERVICE="my-langchain" DD_ENV="dev" DD_AGENT_HOST="localhost" DD_AGENT_PORT="9529" ddtrace-run --debug python <your-app>.py
メトリクス¶
langchain¶
| メトリクス | 単位 | 説明 |
|---|---|---|
| request_duration | nanoseconds | リクエスト継続時間の分布。 |
| request_error | errors | リクエストの例外数。 |
| tokens_completion | tokens/request | 完了応答で使用されたトークン数。 |
| tokens_prompt | tokens/request | リクエストのプロンプトで使用されたトークン数。 |
| tokens_total | tokens/request | リクエストと応答で使用されたトークンの合計数。 |
| tokens_total_cost | dollars | トークン使用量に基づく推定コスト（米ドル）。 |