콘텐츠로 이동

AWS Bedrock

AWS Bedrock 모니터링 데이터 수집.

설정

Func 설치

Guance의 통합 - 확장에서 관리형 Func를 활성화하는 것을 권장합니다. 모든 사전 요구 사항이 자동으로 설치됩니다. 이후 스크립트 설치를 진행하세요.

Func를 직접 배포하려면 자체 호스팅 Func를 참조하세요.

스크립트 활성화

팁: 요구 사항에 맞는 AWS 액세스 키를 미리 준비하세요. 간편하게 설정하려면 전역 읽기 전용 권한인 ReadOnlyAccess를 부여할 수 있습니다.

관리형 Func에서 스크립트 활성화

  1. Guance 콘솔에 로그인합니다.
  2. 통합 메뉴에서 클라우드 계정 관리를 선택합니다.
  3. 클라우드 계정 추가를 클릭하고 AWS를 선택한 후 필요한 정보를 입력합니다. 이미 계정을 설정했다면 이 단계를 건너뜁니다.
  4. 테스트를 클릭합니다. 성공하면 저장을 클릭하고, 실패하면 설정 정보를 확인한 후 다시 테스트합니다.
  5. 클라우드 계정 관리 목록에서 추가된 계정을 클릭하여 상세 페이지로 이동합니다.
  6. 클라우드 계정 상세 페이지에서 통합을 클릭합니다. 미설치 목록에서 AWS Bedrock를 찾아 설치를 클릭하고 대화 상자에서 설치를 완료합니다.

스크립트 수동 활성화

  1. Func 콘솔에 로그인한 후 스크립트 마켓을 클릭하여 Guance 스크립트 마켓으로 이동하고 다음을 검색합니다: integration_aws_cloudwatch
  2. 설치를 클릭한 후 AWS AK ID, AK Secret 및 계정 이름을 입력합니다.
  3. 시작 스크립트 배포를 클릭합니다. 시스템이 Startup 스크립트 세트를 자동 생성하고 시작 스크립트를 설정합니다. collector_configs의 regions를 실제 리전으로 설정하고 targets를 AWS/Bedrock의 메트릭 구성으로 변경합니다. 이후 게시하고 자동 트리거를 활성화합니다.
  4. 활성화 후 관리 / 자동 트리거 설정에서 해당 설정을 확인할 수 있습니다. 실행을 클릭하면 다음 예약 시간까지 기다리지 않고 즉시 실행합니다. 잠시 후 작업 실행 기록과 로그를 확인합니다.

확인

  1. 관리 / 자동 트리거 설정에서 해당 작업의 자동 트리거가 있는지 확인합니다. 작업 기록과 로그에서 오류 여부를 확인합니다.
  2. Guance의 메트릭에서 해당 모니터링 데이터를 확인합니다.

메트릭

AWS 클라우드 모니터링을 설정하면 아래 메트릭이 기본으로 수집됩니다. 설정을 변경하여 더 많은 메트릭을 수집할 수 있습니다. 메트릭 세트: aws_bedrock. AWS Bedrock 메트릭 세부 정보

MetricName MetricDescribe Dimensions Unit
input_token_count_sum 총 입력 토큰 수 region_id, model_id, context_window count
invocation_latency_average 요청 전송부터 마지막 토큰 수신까지의 평균 지연 시간 region_id, model_id, context_window ms
invocation_server_errors_sum AWS 서버 오류가 발생한 호출 수 region_id, model_id count
invocation_throttles_sum 제한된 호출 수 region_id, model_id count
invocations_sum 처리가 수락된 요청 수 region_id, model_id, context_window count
output_token_count_sum 총 출력 토큰 수 region_id, model_id, context_window count

문서 평가

이 페이지가 도움이 되었나요?