AWS Bedrock
AWS Bedrock 모니터링 데이터 수집.
설정¶
Func 설치¶
Guance의 통합 - 확장에서 관리형 Func를 활성화하는 것을 권장합니다. 모든 사전 요구 사항이 자동으로 설치됩니다. 이후 스크립트 설치를 진행하세요.
Func를 직접 배포하려면 자체 호스팅 Func를 참조하세요.
스크립트 활성화¶
팁: 요구 사항에 맞는 AWS 액세스 키를 미리 준비하세요. 간편하게 설정하려면 전역 읽기 전용 권한인
ReadOnlyAccess를 부여할 수 있습니다.
관리형 Func에서 스크립트 활성화¶
- Guance 콘솔에 로그인합니다.
- 통합 메뉴에서 클라우드 계정 관리를 선택합니다.
- 클라우드 계정 추가를 클릭하고 AWS를 선택한 후 필요한 정보를 입력합니다. 이미 계정을 설정했다면 이 단계를 건너뜁니다.
- 테스트를 클릭합니다. 성공하면 저장을 클릭하고, 실패하면 설정 정보를 확인한 후 다시 테스트합니다.
- 클라우드 계정 관리 목록에서 추가된 계정을 클릭하여 상세 페이지로 이동합니다.
- 클라우드 계정 상세 페이지에서 통합을 클릭합니다.
미설치목록에서AWS Bedrock를 찾아 설치를 클릭하고 대화 상자에서 설치를 완료합니다.
스크립트 수동 활성화¶
- Func 콘솔에 로그인한 후 스크립트 마켓을 클릭하여 Guance 스크립트 마켓으로 이동하고 다음을 검색합니다:
integration_aws_cloudwatch - 설치를 클릭한 후 AWS AK ID, AK Secret 및 계정 이름을 입력합니다.
- 시작 스크립트 배포를 클릭합니다. 시스템이
Startup스크립트 세트를 자동 생성하고 시작 스크립트를 설정합니다.collector_configs의regions를 실제 리전으로 설정하고targets를AWS/Bedrock의 메트릭 구성으로 변경합니다. 이후 게시하고 자동 트리거를 활성화합니다. - 활성화 후 관리 / 자동 트리거 설정에서 해당 설정을 확인할 수 있습니다. 실행을 클릭하면 다음 예약 시간까지 기다리지 않고 즉시 실행합니다. 잠시 후 작업 실행 기록과 로그를 확인합니다.
확인¶
- 관리 / 자동 트리거 설정에서 해당 작업의 자동 트리거가 있는지 확인합니다. 작업 기록과 로그에서 오류 여부를 확인합니다.
- Guance의 메트릭에서 해당 모니터링 데이터를 확인합니다.
메트릭¶
AWS 클라우드 모니터링을 설정하면 아래 메트릭이 기본으로 수집됩니다. 설정을 변경하여 더 많은 메트릭을 수집할 수 있습니다. 메트릭 세트: aws_bedrock. AWS Bedrock 메트릭 세부 정보
| MetricName | MetricDescribe | Dimensions | Unit |
|---|---|---|---|
input_token_count_sum |
총 입력 토큰 수 | region_id, model_id, context_window | count |
invocation_latency_average |
요청 전송부터 마지막 토큰 수신까지의 평균 지연 시간 | region_id, model_id, context_window | ms |
invocation_server_errors_sum |
AWS 서버 오류가 발생한 호출 수 | region_id, model_id | count |
invocation_throttles_sum |
제한된 호출 수 | region_id, model_id | count |
invocations_sum |
처리가 수락된 요청 수 | region_id, model_id, context_window | count |
output_token_count_sum |
총 출력 토큰 수 | region_id, model_id, context_window | count |