メインコンテンツまでスキップ

インデックス構築レベルの調整

Zilliz Cloud では、build_level というパラメータが導入されており、ユーザーは対象 collection に対してストレージ容量と検索リコール率のバランスを調整できます。使用頻度が低い collection や、より多くのストレージ容量が必要な collection では、わずかなリコール率の低下と引き換えに大幅なストレージ容量の増加を得ることができ、その逆も可能です。このガイドでは、利用可能なオプションと、それらを使用して collection のインデックスを構築する方法について説明します。

📘注意

この機能は現在 PUBLIC REVIEW 中であり、以下の条件を満たす Dedicated cluster にのみ適用されます。

  • cluster が Performance-optimized、Capacity-optimized、Tiered-storage タイプであること

  • cluster が Milvus v2.6.x と互換性があること

この機能を試すために cluster をアップグレードできます。さらに明確化が必要な点に遭遇した場合は、お問い合わせください。

Overview​

Zilliz Cloud の各種タイプの cluster は、公称ストレージ容量に大きな違いがあります。Performance-optimized cluster 内の collection が使用頻度の低い用途向けである場合や、追加のストレージが必要な場合は、その collection 内の FLOAT_VECTOR、FLOAT16_VECTOR、BFLOAT16_VECTOR などの浮動小数点 vector 型の vector field に対してインデックスを作成する際に、build_level を容量優先オプションに設定することを検討してください。これにより、リコールがわずかに低下する可能性はあるものの、ストレージ容量を 30% ～ 40% 向上させることができます。

build_level パラメータには、Precision-first (2)、Balanced (1)、Capacity-first (0) の 3 つのオプションがあります。

  • Balanced (1)

    これはデフォルトのオプションであり、ほとんどのシナリオで検索精度とストレージ容量のバランスを取ります。

  • Precision-first (2)

    このオプションは検索性能と高いリコールを優先し、高精度が求められる collection に適しています。

  • Capacity-first (0)

    このオプションはストレージ容量を重視し、追加のストレージ容量が必要な collection に最適です。

社内ベンチマークテストで示されているように、デフォルトオプションは cluster のタイプに関係なく、すべての cluster のストレージ容量を増加させます。Performance-optimized cluster では、デフォルトオプションによってストレージ容量が 60% 向上し、性能 (QPS) も 17% 改善されます。

Performance-optimized clusters​

次の表は、build_level 導入前後における Performance-optimized cluster の容量、QPS、リコール率を比較したものです。デフォルトオプションはリコール率を維持しつつ、QPS とストレージ容量の両方を向上させることが分かります。

Build Level OptionCapacity (Per CU)QPSRecall
Capacity-first (0)500万 768-dim vectors~ 1,80090% - 95%
Balanced (1)200万 768-dim vectors~ 2,80091% - 97%
Precison-first (2)150万 768-dim vectors~ 2,90092% - 98% (↑)

Capacity-optimized clusters​

次の表は、build_level 導入前後における Capacity-optimized cluster の容量、QPS、リコール率を比較したものです。デフォルトオプションはリコール率を維持しつつ、QPS とストレージ容量の両方を向上させることが分かります。

Build Level OptionCapacity (Per CU)QPSRecall
Capacity-first (0)1200万 768-dim vectors~ 20089% - 97%
Balanced (1)800万 768-dim vectors~ 30093% - 98%
Precision-first (2)500万 768-dim vectors~ 35094% - 98%

Tiered-storage clusters​

データの大部分が S3 に保存されるため、メモリはもはや主要なボトルネックではありません。その結果、cluster の最大容量は比較的安定したままとなり、最も大きな影響を受けるのは Recall です。量子化レベルの違いにより、性能にはわずかな変動が生じます。

  • Balanced (1): これは現在の状態を表しており、性能は既存のベンチマークと整合したままです。

  • Precision-first (2): Build Level を上げることで Recall が約 3%～4% 向上 しますが、その代わりに QPS がわずかに低下し、レイテンシが少し増加します。

  • Capacity-first (0): この構成が使われるケースはまれと想定されます。メリットが小さいためです。容量は変わらない一方で、QPS とレイテンシのわずかな改善と引き換えに Recall は 3%～4% 低下 します。

Limits​

操作を開始する前に、以下の制限事項を確認してください。

  • collection にインデックスを作成する際、このパラメータは FLOAT_VECTOR、FLOAT16_VECTOR、BFLOAT16_VECTOR を含む浮動小数点 vector 型の vector field に設定する必要があります。

  • 一度設定すると、このパラメータは変更できません。ただし、必要に応じてインデックスを削除し、目的の設定で新しいインデックスを作成できます。

  • migration または backup を行うと、build_level の設定は削除されます。migration または復元の完了後、必要に応じてインデックスを削除し、目的の設定で新しいインデックスを作成できます。

Procedure​

ほとんどの場合、build_level を設定する必要はありません。デフォルト設定により、検索性能、精度、ストレージ容量のバランスを取ることができます。

Zilliz Cloud では、build_level をプログラムから、または Zilliz Cloud コンソール上で設定できます。

Set build_level programmatically​

build_level を設定するには、FLOAT_VECTOR、FLOAT16_VECTOR、BFLOAT16_VECTOR などの浮動小数点型の vector field のインデックスを作成する 際に行う必要があります。

次の例は、すでに collection を作成済みであることを前提としています。build_level を 1 に設定すると、Balanced オプションが適用されることを示します。

python
# 4. Set up index
# 4.1. Set up the index parameters
index_params = MilvusClient.prepare_index_params()

# 4.2. Add an index on the vector field.
index_params.add_index(
    field_name="vector",
    metric_type="COSINE",
    index_type="AUTOINDEX",
    index_name="vector_index",
    build_level=1
)

# 4.4. Create an index file
client.create_index(
    collection_name="customized_setup",
    index_params=index_params
)

# 5. Describe index
res = client.list_indexes(
    collection_name="customized_setup"
)

Set build_level on the Zilliz Cloud console​

build_level はプログラムから設定する代わりに、collection 作成時に Zilliz Cloud コンソール上でも設定できます。

  1. 対象 cluster の Collection タブで + Create Collection をクリックします。

  2. Create Collection ページで、スキーマを設定します。

    vector field のデータ型が、有効なオプションである FLOAT_VECTOR、FLOAT16_VECTOR、BFLOAT16_VECTOR のいずれかであることを確認してください。

  3. Create Index セクションで、Edit Index をクリックします。

  4. 表示された Edit Vector Index フィールドで、Metric Type と Index Build Level を設定できます。

Ctrl I