メインコンテンツまでスキップ
バージョン: User Guides (BYOC)

一貫性レベル

分散型ベクトルデータベースとして、Zilliz Cloud は複数の一貫性レベルを提供し、読み取りおよび書き込み操作中に各ノードまたはレプリカが同じデータにアクセスできるようにします。現在サポートされている一貫性レベルには、Strong(強い一貫性)、Bounded(限定的古さ許容)、Eventually(結果整合性)、Session(セッション一貫性)があり、デフォルトで使用される一貫性レベルは Bounded です。

概要

Zilliz Cloud はストレージとコンピューティングを分離したシステムです。このシステムにおいて、データNode はデータの永続化を担当し、最終的に MinIO/S3 などの分散オブジェクトストレージにデータを保存します。一方、QueryNode は Search などの計算タスクを処理します。これらのタスクでは、バッチデータストリーミングデータの両方を処理します。簡単に言うと、バッチデータとはすでにオブジェクトストレージに保存されたデータであり、ストリーミングデータとはまだオブジェクトストレージに保存されていないデータを指します。ネットワーク遅延のため、QueryNode は最新のストリーミングデータを保持していないことがよくあります。追加の保護措置がなければ、ストリーミングデータに対して直接 Search を実行すると、多くの未コミットデータが失われ、検索結果の精度に影響を与える可能性があります。

UlOJwpWuKhj5LAbGSp9cwMFznEb

上図のように、QueryNode は Search リクエストを受け取った後、ストリーミングデータとバッチデータの両方を同時に受信できます。しかしネットワーク遅延のため、QueryNode が取得するストリーミングデータは不完全な場合があります。

この問題に対処するため、Zilliz Cloud はデータキュー内の各レコードにタイムスタンプを付与し、継続的に同期タイムスタンプ(syncTs)をデータキューに挿入します。QueryNode が同期タイムスタンプ(syncTs)を受信すると、それを ServiceTime として設定します。つまり、QueryNode はその ServiceTime より前のすべてのデータを参照可能になります。この ServiceTime を基に、Zilliz Cloud はユーザーの異なる一貫性および可用性要件を満たすために保証タイムスタンプ(GuaranteeTs)を提供できます。ユーザーは Search リクエスト内で GuaranteeTs を指定することで、QueryNode に指定時刻以前のデータを検索範囲に含めるよう指示できます。

Owddb7D3Fo8zyFxJgWWcZCxanIf

上図のように、GuaranteeTs が ServiceTime より小さい場合、指定時刻以前のすべてのデータがディスクに完全に書き込まれていることを意味し、QueryNode は直ちに Search 操作を実行できます。一方、GuaranteeTs が ServiceTime より大きい場合、QueryNode は ServiceTime が GuaranteeTs を超えるまで待機し、その後で Search 操作を実行できます。

ユーザーは、クエリ精度とクエリレイテンシの間でトレードオフを行う必要があります。一貫性要件が高く、クエリレイテンシに敏感でない場合は、GuaranteeTs を可能な限り大きな値に設定できます。一方、検索結果を迅速に受け取りたい場合やクエリ精度に対する許容度が高い場合は、GuaranteeTs をより小さな値に設定できます。

Y9YabwvmjoWMXhxt9kRc8Atmnid

Zilliz Cloud は、異なる GuaranteeTs を持つ以下の4種類の一貫性レベルを提供します。

  • Strong

    最新のタイムスタンプを GuaranteeTs として使用し、QueryNode は ServiceTime が GuaranteeTs に到達するまで待機してから Search リクエストを実行します。

  • Eventual

    GuaranteeTs を 1 のような極めて小さな値に設定し、一貫性チェックを回避することで、QueryNode はバッチデータに対して直ちに Search リクエストを実行できます。

  • Bounded Staleness

    GuaranteeTs を最新タイムスタンプよりも前の時点に設定し、QueryNode が一定のデータ損失を許容しながら検索を実行できるようにします。

  • Session

    クライアントがデータを挿入した最新の時点を GuaranteeTs として使用し、QueryNode がそのクライアントによって挿入されたすべてのデータに対して検索を実行できるようにします。

Zilliz Cloud はデフォルトで Bounded Staleness を一貫性レベルとして使用します。GuaranteeTs が明示されない場合、最新の ServiceTime が GuaranteeTs として使用されます。

一貫性レベルの設定

コレクション作成時や Search・Query 実行時に、異なる一貫性レベルを設定できます。Search や Query で一貫性レベルが指定されない場合、コレクション作成時に指定された一貫性レベルが適用されます。

コレクション作成時の一貫性レベル設定

コレクション作成時に、そのコレクション内で実行される Search や Query の一貫性レベルを設定できます。以下のコード例では、一貫性レベルを Bounded に設定しています。

client.create_collection(
collection_name="my_collection",
schema=schema,
consistency_level="Bounded",
)

consistency_level パラメータの可能な値は、StrongBoundedEventually、および Session です。

特定の検索に対して常に一貫性レベルを変更できます。次のコード例では、一貫性レベルを Bounded に設定し直しています。この変更は現在の検索リクエストにのみ適用されます。

res = client.search(
collection_name="my_collection",
data=[query_vector],
limit=3,
search_params={"metric_type": "IP"}
consistency_level="Bounded",
# highlight-next
)

このパラメータはハイブリッド検索および検索イテレータでも利用可能です。consistency_level パラメータに指定可能な値は、StrongBoundedEventually、および Session です。

クエリでの一貫性レベルの設定

特定の検索に対していつでも一貫性レベルを変更できます。以下のコード例では、一貫性レベルを Eventually に設定しています。この設定は現在のクエリリクエストにのみ適用されます。

res = client.query(
collection_name="my_collection",
filter="color like \"red%\"",
output_fields=["vector", "color"],
limit=3
consistency_level="Bounded",
# highlight-next
)

このパラメータはクエリイテレータでも利用可能です。consistency_level パラメータの取り得る値は、StrongBoundedEventually、および Session です。