コンテンツにスキップ

AWS Bedrock

AWS Bedrock の監視データを収集。

設定

Func のインストール

Guance の「インテグレーション - 拡張」からマネージド版 Func を有効にすることをお勧めします。前提条件はすべて自動でインストールされます。その後、スクリプトのインストールに進んでください。

Func を自分でデプロイする場合は、セルフホスト版 Func を参照してください。

スクリプトの有効化

ヒント:要件を満たす AWS アクセスキーを事前に用意してください。簡単に設定するには、グローバルな読み取り専用権限 ReadOnlyAccess を付与できます。

マネージド版でのスクリプトの有効化

  1. Guance のコンソールにログインします。
  2. 「インテグレーション」メニューを開き、「クラウドアカウント管理」を選択します。
  3. 「クラウドアカウントを追加」をクリックし、「AWS」を選択して必要な情報を入力します。すでに設定済みの場合は、この手順を省略します。
  4. 「テスト」をクリックします。成功したら「保存」をクリックします。失敗した場合は、設定を確認して再度テストします。
  5. 「クラウドアカウント管理」の一覧で追加済みのアカウントを探し、クリックして詳細ページを開きます。
  6. クラウドアカウントの詳細ページで「インテグレーション」をクリックします。未インストール の一覧から AWS Bedrock を探して「インストール」をクリックし、表示された画面でインストールします。

スクリプトの手動有効化

  1. Func コンソールにログインし、「スクリプトマーケット」をクリックして Guance のスクリプトマーケットを開き、次を検索します: integration_aws_cloudwatch
  2. 「インストール」をクリックし、AWS AK ID、AK Secret、アカウント名を入力します。
  3. 「起動スクリプトをデプロイ」をクリックします。Startup スクリプトセットが自動作成され、起動スクリプトが設定されます。collector_configs の regions を実際のリージョンに設定し、targets を AWS/Bedrock のメトリクス設定に変更します。その後、公開して自動トリガーを有効にします。
  4. 有効にすると、「管理 / 自動トリガー設定」で対応する設定を確認できます。「実行」をクリックすると、次の定期実行を待たずに実行できます。しばらく待ってから、タスクの実行履歴とログを確認します。

確認

  1. 「管理 / 自動トリガー設定」で、対象タスクの自動トリガーが存在することを確認します。タスク履歴とログで異常がないか確認します。
  2. Guance の「メトリクス」で、対応する監視データを確認します。

メトリクス

AWS のクラウド監視を設定すると、以下のメトリクスがデフォルトで収集されます。設定を変更して、さらに多くのメトリクスを収集できます。メトリクスセット: aws_bedrock。AWS Bedrock メトリクスの詳細

MetricName MetricDescribe Dimensions Unit
input_token_count_sum 入力トークンの総数 region_id, model_id, context_window count
invocation_latency_average リクエスト送信から最後のトークンを受信するまでの平均レイテンシ region_id, model_id, context_window ms
invocation_server_errors_sum AWS サーバーエラーが発生した呼び出し回数 region_id, model_id count
invocation_throttles_sum スロットリングされた呼び出し回数 region_id, model_id count
invocations_sum 処理のために受け付けられたリクエスト数 region_id, model_id, context_window count
output_token_count_sum 出力トークンの総数 region_id, model_id, context_window count

フィードバック

このページは役に立ちましたか?