メインコンテンツまでスキップ

Prometheus との統合

Prometheus は、設定されたターゲットから指定された間隔でメトリクスを収集し、ルール式を評価し、結果を表示し、特定の条件に基づいてアラートをトリガーできる監視システムです。

Zilliz Cloud を Prometheus と統合すると、Zilliz Cloud デプロイメントに関連するメトリクスを収集して監視できます。

Prometheus 統合では Serving クラスター のメトリクスのみをエクスポートします。On-Demand Compute データベースのメトリクスはエクスポートされません。

Prometheus が Zilliz Cloud メトリクスをスクレイプするよう設定する​

Prometheus で Zilliz Cloud クラスターを監視するには、次の手順に従ってください:

1

Prometheus サーバー上の Prometheus.yml 設定ファイルにアクセスします。詳細については、Configuration を参照してください。

2

次のスニペットを Prometheus.yml ファイルの scrape_configs セクションに追加します。プレースホルダーを適切な値に置き換えてください:

  • {{apiKey}}:クラスターメトリクスにアクセスするための Zilliz Cloud API キーです。

  • {{clusterId}}:監視する Zilliz Cloud クラスターの ID です。

yaml
scrape_configs:
- job_name: {{clusterId}}
scheme: https
metrics_path: /v2/clusters/{{clusterId}}/metrics/export
scrape_interval: 60s
scrape_timeout: 30s
authorization:
type: Bearer
credentials: {{apiKey}}

static_configs:
- targets: ["YOUR-PROMETHEUS-TARGET"]
Notes

クラスターに含めることができるコレクションは 10,000 個以下である必要があります。この制限を超えるクラスターでは、メトリクスのエクスポートが不完全になったり、品質が低下したりする可能性があります。

パラメーター説明
job_nameスクレイプされたメトリクスに割り当てられる人間が判読できるラベル。
schemeZilliz Cloud エンドポイントからメトリクスをスクレイプするために使用されるプロトコルスキームで、https に設定します。
metrics_pathメトリクスデータを提供するターゲットサービス上のパス。
scrape_intervalターゲットをスクレイプする頻度です。サポートされる最小値は 60s です。これより小さい値はエンドポイントで受け入れられません。
authorization.typeZilliz Cloud メトリクスにアクセスするために使用される認証タイプです。値は Bearer に設定します。
authorization.credentialsZilliz Cloud メトリクスエンドポイントへのアクセス認可に使用される API キー。
static_configs.targetsPrometheus がスクレイプする静的ターゲットです。これは、リクエストに応じて Zilliz Cloud が設定します。詳細については、Zilliz Technical Support.. までお問い合わせください。
3

Prometheus.yml ファイルへの変更を保存します。

詳細については、Prometheus 公式ドキュメント を参照してください。

スクレイプされたメトリクスの例​

以下は、Zilliz Cloud の /metrics/export エンドポイントから Prometheus がスクレイプしたメトリクスの例です。コレクション単位のメトリクスには collection_name および db_name ラベルが含まれ、クラスター専用のメトリクスは変更されません。

yaml
# HELP zilliz_entities Total number of entities stored
# TYPE zilliz_entities gauge
zilliz_entities{cluster_id="in01-xxx", collection_name="prod_embedding", db_name="default"} 5000000
zilliz_entities{cluster_id="in01-xxx", collection_name="user_profile", db_name="default"} 120000
# HELP zilliz_loaded_entities Number of entities loaded in memory
# TYPE zilliz_loaded_entities gauge
zilliz_loaded_entities{cluster_id="in01-xxx", collection_name="prod_embedding", db_name="default"} 3000000
zilliz_loaded_entities{cluster_id="in01-xxx", collection_name="user_profile", db_name="default"} 80000

# HELP zilliz_requests_total Total number of requests processed
# TYPE zilliz_requests_total counter
zilliz_requests_total{cluster_id="in01-xxx", request_type="search", status="success", collection_name="prod_embedding", db_name="default"} 30000
zilliz_requests_total{cluster_id="in01-xxx", request_type="search", status="success", collection_name="user_profile", db_name="default"} 12850
# HELP zilliz_request_duration_seconds_bucket Latency distribution of requests
# TYPE zilliz_request_duration_seconds_bucket histogram
zilliz_request_duration_seconds_bucket{cluster_id="in01-xxx", request_type="search", le="0.1", collection_name="prod_embedding", db_name="default"} 28000
zilliz_request_duration_seconds_bucket{cluster_id="in01-xxx", request_type="search", le="0.1", collection_name="user_profile", db_name="default"} 10000
# HELP zilliz_request_vectors_total Total number of vectors in requests
# TYPE zilliz_request_vectors_total counter
zilliz_request_vectors_total{cluster_id="in01-xxx", request_type="search", collection_name="prod_embedding", db_name="default"} 50000
zilliz_request_vectors_total{cluster_id="in01-xxx", request_type="insert", collection_name="prod_embedding", db_name="default"} 10000

# --- Cluster-only metrics ---
# HELP zilliz_cluster_capacity Cluster capacity ratio
# TYPE zilliz_cluster_capacity gauge
zilliz_cluster_capacity 0.88
# HELP zilliz_cluster_computation Cluster computation ratio
# TYPE zilliz_cluster_computation gauge
zilliz_cluster_computation 0.1
# HELP zilliz_storage_bytes Cluster storage usage
# TYPE zilliz_storage_bytes gauge
zilliz_storage_bytes 8.9342782E7

Zilliz Cloud メトリクスのラベル​

Zilliz Cloud が公開するメトリクスには、次の識別子がラベルとして付与されます。

ラベル名説明値
cluster_idメトリクスの取得元となる Zilliz Cloud クラスターの ID。-
org_idZilliz Cloud クラスターを所有する組織の ID。-
project_idクラスターが属する組織内のプロジェクトの ID。-
collection_nameコレクションの名前。リクエストメトリクス(zilliz_requests_total、zilliz_request_vectors_total、zilliz_request_duration_seconds_bucket)およびデータメトリクス(zilliz_entities、zilliz_loaded_entities)を含む、すべてのコレクション単位メトリクスに付与されます。-
db_nameコレクションが属するデータベースの名前。collection_name と同様に、すべてのコレクション単位メトリクスに付与されます。このラベルを使用して、異なるデータベース間で同じ名前のコレクションを区別します。デフォルトは default
request_typeデータに対して実行された操作の種類。insert, upsert, delete, bulk_insert, flush, search, query
statusデータ操作の結果。success, fail

利用可能なメトリクス​

次の表は、Zilliz Cloud で利用可能なメトリクスと、そのタイプ、説明、および関連するラベルを示しています。コレクション単位のメトリクスは collection_name および db_name ラベルとともに返され、コレクションごとに個別の時系列が生成されます。クラスター専用のメトリクスは、クラスターごとに単一の系列として返されます。

メトリクス名タイプ説明ラベル
zilliz_cluster_computationGauge現在のコンピューティング容量の使用率。cluster_id, org_id, project_id
zilliz_cluster_capacityGauge現在のストレージ容量の使用率。cluster_id, org_id, project_id
zilliz_storage_bytesGauge使用されているストレージ領域の合計。cluster_id, org_id, project_id
zilliz_cluster_write_capacityGauge現在の書き込みスループット。cluster_id, org_id, project_id
zilliz_requests_totalCounter処理されたリクエストの合計数。cluster_id, org_id, project_id, request_type, status, collection_name, db_name
zilliz_request_vectors_totalCounterすべてのリクエストで操作されたベクトルの合計数。cluster_id, org_id, project_id, request_type, collection_name, db_name
zilliz_request_duration_seconds_bucketHistogram処理されたリクエストのレイテンシ分布。cluster_id, org_id, project_id, request_type, collection_name, db_name
zilliz_slow_queries_totalCounterレイテンシしきい値を超えたクエリの数。cluster_id, org_id, project_id
zilliz_entitiesGauge保存されているエンティティの合計数。cluster_id, org_id, project_id, collection_name, db_name
zilliz_loaded_entitiesGauge現在メモリにロードされているエンティティの数。cluster_id, org_id, project_id, collection_name, db_name
zilliz_collectionsGaugeコレクションの合計数。cluster_id, org_id, project_id
zilliz_unloaded_collectionsGaugeアンロードされているコレクションの数。cluster_id, org_id, project_id

Prometheus クエリの例​

Prometheus を使用して Zilliz Cloud メトリクスを分析するために使用できるクエリの例を次に示します。

  • insert QPS を計算する

    plaintext
    rate(zilliz_requests_total{cluster_id='in01-xxxxx',request_type='insert'}[$__rate_interval])
  • insert VPS を計算する

    plaintext
    rate(zilliz_request_vectors_total{cluster_id='in01-xxxxx',request_type='insert'}[$__rate_interval])
  • insert の 70 パーセンタイル レイテンシを計算する

    plaintext
    histogram_quantile(
    0.70,
    sum(
    rate(zilliz_request_duration_seconds_bucket{cluster_id='in01-xxxxx',request_type='insert'}[$__rate_interval])
    ) by (le)
    )
  • insert リクエストの失敗率を計算する

    plaintext
    rate(zilliz_requests_total{cluster_id=?,status!='success'}[$__rate_interval])
    /
    rate(zilliz_requests_total{cluster_id=?}[$__rate_interval])
  • 1 分あたりの低速クエリの数を計算する

    plaintext
    sum(increase(zilliz_slow_queries_total{cluster_id=?}[1m]))
  • 5 分あたりの低速クエリの数を計算する

    plaintext
    sum(increase(zilliz_slow_queries_total{cluster_id=?}[5m]))