OpenAI¶
OpenAI의 표시 지표에는 총 요청 수, 응답 시간, 요청 수, 요청 오류 수, 그리고 소모된 총 토큰 수가 포함됩니다.
설정{#config}¶
Func 설치¶
권장: Guance 통합 - 확장 - 관리형 Func: 모든 사전 조건이 자동으로 설치됩니다. 계속해서 스크립트를 설치하세요
직접 배포한 Func는 직접 배포한 Func를 참고하세요
DataKit 설치¶
DataKit 데이터 수집기를 설치합니다. Guance 공간에서, 통합 -- Datakit을 클릭하고 설치 명령을 복사해 Datakit을 설치하세요
참고: DataKit 설치 후, 다음 설정을 수정하세요:
- root 사용자로 로그인한 뒤 DataKit 설정을 엽니다:
vim /usr/local/datakit/conf.d/datakit.conf http_listen = "localhost:9529"을http_listen = "0.0.0.0:9529"로 수정합니다- DataKit 서비스를 재시작합니다:
datakit service -R
자세한 정보는 다음을 참고하세요:
설치 스크립트¶
해당 수집 스크립트를 설치합니다: 「Guance 통합(ChatGpt 모니터링)」(ID:integration_chatgpt_monitor)
클릭한 후, 해당 매개변수의 값을 입력하세요: OpenAI key.
[통합] - ‘권한 링크’ - ‘새로 만들기’를 클릭해 해당 함수의 권한 링크를 생성하세요. 생성한 뒤 권한 링크 목록에서 이 함수를 찾을 수 있습니다. 이 함수 오른쪽의 “예시”를 클릭하고 ‘POST 간소화 형식 (Json)‘을 선택하면 링크를 얻을 수 있습니다. 해당 링크를 코드의 'url' 위치에 입력하세요.
검증¶
- 「관리 / 자동 트리거 설정」에서 해당 작업에 대응하는 자동 트리거 설정이 존재하는지 확인하고, 동시에 작업 기록 및 로그를 확인해 이상 여부를 점검합니다
- Guance의 「지표」에서 대응하는 모니터링 데이터가 있는지 확인합니다
지표¶
| Metric | Description | Type | Unit |
|---|---|---|---|
| question | 요청 총수 | float | count |
| response_time | 응답 시간 | float | s |
| create_time | 요청 수 | float | count |
| res_status | 요청 오류 수 | float | count |
| total_tokens | 소모된 총 토큰 수 | float | count |