AWS Bedrock
AWS Bedrock の監視データを収集。
設定¶
Func のインストール¶
Guance の「インテグレーション - 拡張」からマネージド版 Func を有効にすることをお勧めします。前提条件はすべて自動でインストールされます。その後、スクリプトのインストールに進んでください。
Func を自分でデプロイする場合は、セルフホスト版 Func を参照してください。
スクリプトの有効化¶
ヒント:要件を満たす AWS アクセスキーを事前に用意してください。簡単に設定するには、グローバルな読み取り専用権限
ReadOnlyAccessを付与できます。
マネージド版でのスクリプトの有効化¶
- Guance のコンソールにログインします。
- 「インテグレーション」メニューを開き、「クラウドアカウント管理」を選択します。
- 「クラウドアカウントを追加」をクリックし、「AWS」を選択して必要な情報を入力します。すでに設定済みの場合は、この手順を省略します。
- 「テスト」をクリックします。成功したら「保存」をクリックします。失敗した場合は、設定を確認して再度テストします。
- 「クラウドアカウント管理」の一覧で追加済みのアカウントを探し、クリックして詳細ページを開きます。
- クラウドアカウントの詳細ページで「インテグレーション」をクリックします。
未インストールの一覧からAWS Bedrockを探して「インストール」をクリックし、表示された画面でインストールします。
スクリプトの手動有効化¶
- Func コンソールにログインし、「スクリプトマーケット」をクリックして Guance のスクリプトマーケットを開き、次を検索します:
integration_aws_cloudwatch - 「インストール」をクリックし、AWS AK ID、AK Secret、アカウント名を入力します。
- 「起動スクリプトをデプロイ」をクリックします。
Startupスクリプトセットが自動作成され、起動スクリプトが設定されます。collector_configsのregionsを実際のリージョンに設定し、targetsをAWS/Bedrockのメトリクス設定に変更します。その後、公開して自動トリガーを有効にします。 - 有効にすると、「管理 / 自動トリガー設定」で対応する設定を確認できます。「実行」をクリックすると、次の定期実行を待たずに実行できます。しばらく待ってから、タスクの実行履歴とログを確認します。
確認¶
- 「管理 / 自動トリガー設定」で、対象タスクの自動トリガーが存在することを確認します。タスク履歴とログで異常がないか確認します。
- Guance の「メトリクス」で、対応する監視データを確認します。
メトリクス¶
AWS のクラウド監視を設定すると、以下のメトリクスがデフォルトで収集されます。設定を変更して、さらに多くのメトリクスを収集できます。メトリクスセット: aws_bedrock。AWS Bedrock メトリクスの詳細
| MetricName | MetricDescribe | Dimensions | Unit |
|---|---|---|---|
input_token_count_sum |
入力トークンの総数 | region_id, model_id, context_window | count |
invocation_latency_average |
リクエスト送信から最後のトークンを受信するまでの平均レイテンシ | region_id, model_id, context_window | ms |
invocation_server_errors_sum |
AWS サーバーエラーが発生した呼び出し回数 | region_id, model_id | count |
invocation_throttles_sum |
スロットリングされた呼び出し回数 | region_id, model_id | count |
invocations_sum |
処理のために受け付けられたリクエスト数 | region_id, model_id, context_window | count |
output_token_count_sum |
出力トークンの総数 | region_id, model_id, context_window | count |