콘텐츠로 이동

OpenAI

OpenAI의 표시 지표에는 총 요청 수, 응답 시간, 요청 수, 요청 오류 수, 그리고 소모된 총 토큰 수가 포함됩니다.

설정{#config}

Func 설치

권장: Guance 통합 - 확장 - 관리형 Func: 모든 사전 조건이 자동으로 설치됩니다. 계속해서 스크립트를 설치하세요

직접 배포한 Func는 직접 배포한 Func를 참고하세요

DataKit 설치

DataKit 데이터 수집기를 설치합니다. Guance 공간에서, 통합 -- Datakit을 클릭하고 설치 명령을 복사해 Datakit을 설치하세요

참고: DataKit 설치 후, 다음 설정을 수정하세요:

  • root 사용자로 로그인한 뒤 DataKit 설정을 엽니다: vim /usr/local/datakit/conf.d/datakit.conf
  • http_listen = "localhost:9529"http_listen = "0.0.0.0:9529"로 수정합니다
  • DataKit 서비스를 재시작합니다: datakit service -R

자세한 정보는 다음을 참고하세요:

설치 스크립트

해당 수집 스크립트를 설치합니다: 「Guance 통합(ChatGpt 모니터링)」(ID:integration_chatgpt_monitor)

클릭한 후, 해당 매개변수의 값을 입력하세요: OpenAI key.

[통합] - ‘권한 링크’ - ‘새로 만들기’를 클릭해 해당 함수의 권한 링크를 생성하세요. 생성한 뒤 권한 링크 목록에서 이 함수를 찾을 수 있습니다. 이 함수 오른쪽의 “예시”를 클릭하고 ‘POST 간소화 형식 (Json)‘을 선택하면 링크를 얻을 수 있습니다. 해당 링크를 코드의 'url' 위치에 입력하세요.

검증

  1. 「관리 / 자동 트리거 설정」에서 해당 작업에 대응하는 자동 트리거 설정이 존재하는지 확인하고, 동시에 작업 기록 및 로그를 확인해 이상 여부를 점검합니다
  2. Guance의 「지표」에서 대응하는 모니터링 데이터가 있는지 확인합니다

지표

Metric Description Type Unit
question 요청 총수 float count
response_time 응답 시간 float s
create_time 요청 수 float count
res_status 요청 오류 수 float count
total_tokens 소모된 총 토큰 수 float count

문서 평가

이 페이지가 도움이 되었나요?