StructArray フィールドにインデックスを作成
vector search を実行する前、または scalar フィルタリングを高速化するために、StructArray のサブフィールドにインデックスを作成します。StructArray フィールドでは、インデックス対象は chunks[emb_list_vector]、chunks[emb]、chunks[section] のようなサブフィールドパスです。
このページでは、StructArray フィールドを作成する の tech_articles collection を使用します。chunks StructArray フィールドには、フィルタリング用の scalar サブフィールドと検索用の vector サブフィールドが含まれています。
始める前に
collection スキーマにすでに chunks StructArray フィールドが含まれており、データが挿入済みであることを確認してください。
| サブフィールドパス | 型 | インデックスの目的 |
|---|---|---|
chunks[emb_list_vector] | FLOAT_VECTOR | MAX_SIM* メトリクスによる EmbeddingList 検索。 |
chunks[emb] | FLOAT_VECTOR | 通常の vector メトリクスによる要素レベル検索。 |
chunks[section] | VARCHAR | カテゴリフィルタリング。 |
chunks[quality_score] | FLOAT | 数値フィルタリングおよび範囲スタイルの述語。 |
chunks[has_code] | BOOL | ブールフィルタリング。 |
vector フィールドまたは vector サブフィールドは 1 つのインデックスしか受け付けません。EmbeddingList 検索と要素レベル検索の両方が必要な場合は、2 つの別々の vector サブフィールドを作成し、それぞれに個別にインデックスを作成してください。このページでは、chunks[emb_list_vector] は EmbeddingList 検索用にインデックス化され、chunks[emb] は要素レベル検索用にインデックス化されます。
インデックスを選択する
vector メトリクスファミリーを選ぶには、検索モードを使用します。
| 検索またはフィルタの目的 | 対象パス | 選択内容 |
|---|---|---|
| EmbeddingList 検索 | chunks[emb_list_vector] | MAX_SIM* メトリクスファミリー。 |
| 要素レベル vector search | chunks[emb] | COSINE、IP、L2 などの通常の vector メトリクスファミリー。 |
| 文字列またはカテゴリでフィルタ | chunks[section] | ターゲットでサポートされる scalar インデックス。 |
| 数値範囲でフィルタ | chunks[quality_score], chunks[page] | ターゲットでサポートされる scalar インデックス。 |
| ブール値でフィルタ | chunks[has_code] | ターゲットでサポートされる scalar インデックス。 |
EmbeddingList 検索では、StructArray の vector サブフィールド内のベクトルを embedding list として扱い、エンティティレベルの結果を返します。要素レベル検索では、各 Struct 要素を独立して検索し、一致した要素のオフセットを返すことができます。
vector インデックスを作成する
次の例では、2 つの vector インデックスを作成します。1 つ目のインデックスは EmbeddingList 検索用に MAX_SIM* メトリクスを使用します。2 つ目のインデックスは要素レベル検索用に通常の vector メトリクスを使用します。
StructArray vector サブフィールドには AUTOINDEX を使用します。
index_params = client.prepare_index_params()
index_params.add_index(
field_name="chunks[emb_list_vector]",
index_name="chunks_emb_list_auto",
index_type="AUTOINDEX",
metric_type="MAX_SIM_COSINE",
)
index_params.add_index(
field_name="chunks[emb]",
index_name="chunks_emb_auto",
index_type="AUTOINDEX",
metric_type="COSINE",
)
client.create_index(
collection_name="tech_articles",
index_params=index_params,
)
同じ vector サブフィールドに MAX_SIM* インデックスと通常の vector メトリクスインデックスを作成しないでください。両方の検索モードが必要な場合は、vector を 2 つの別々の vector サブフィールドに書き込み、各サブフィールドに 1 つずつインデックスを作成してください。
scalar インデックスを作成する
フィルタで使用する場合は、StructArray scalar サブフィールドに scalar インデックスを作成します。同じ structArray[subfield] パス構文を使用します。適用可能なインデックスタイプは INVERTED、BITMAP、STL_SORT です。
StructArray scalar サブフィールドには AUTOINDEX を使用します。
index_params = client.prepare_index_params()
index_params.add_index(
field_name="chunks[section]",
index_name="chunks_section_auto",
index_type="AUTOINDEX",
)
index_params.add_index(
field_name="chunks[has_code]",
index_name="chunks_has_code_auto",
index_type="AUTOINDEX",
)
index_params.add_index(
field_name="chunks[quality_score]",
index_name="chunks_quality_score_auto",
index_type="AUTOINDEX",
)
index_params.add_index(
field_name="chunks[page]",
index_name="chunks_page_auto",
index_type="AUTOINDEX",
)
client.create_index(
collection_name="tech_articles",
index_params=index_params,
)
scalar インデックスは必須ではありませんが、element_filter(chunks, $[quality_score] > 0.9) や MATCH_ANY(chunks, $[section] == "index") のように StructArray scalar サブフィールドがフィルタで頻繁に使われる場合に有用です。
適用可能なメトリクスタイプ
次の表を使用して、StructArray フィールドに適用可能なメトリクスタイプを確認してください。
| Metric Type | 説明 |
|---|---|
MAX_SIM_COSINE (MAX_SIM) | Cosine に基づいて 2 つのベクトル間の類似度を測定し、その後 MaxSim を使用して 2 つの vector list 間の類似度を計算します。 |
MAX_SIM_L2 | L2 に基づいて 2 つのベクトル間の類似度を測定し、その後 MaxSim を使用して 2 つの vector list 間の類似度を計算します。 |
MAX_SIM_IP | IP に基づいて 2 つのベクトル間の類似度を測定し、その後 MaxSim を使用して 2 つの vector list 間の類似度を計算します。 |
MAX_SIM_HAMMING | Hamming に基づいて 2 つのベクトル間の類似度を測定し、その後 MaxSim を使用して 2 つの vector list 間の類似度を計算します。 |
MAX_SIM_JACCARD | Jaccard に基づいて 2 つのベクトル間の類似度を測定し、その後 MaxSim を使用して 2 つの vector list 間の類似度を計算します。 |
次の式は、クエリ embedding list と StructArray フィールド内の vector サブフィールドとの距離を計算する場合に適用されます。
上記の式では、 は 個の要素からなる embedding list を指し、 は 個の要素を含む StrctArray サブフィールドを指します。
インデックスとメトリクスの互換性
次の表を使用して、StructArray vector サブフィールドに対するインデックスタイプとメトリクスタイプを選択してください。まずターゲットから始め、次に検索モードによってメトリクスファミリーを選択します。
StructArray vector サブフィールドには AUTOINDEX を使用します。検索モードで必要なメトリクスファミリーからメトリクスタイプを選択します。
| Search mode | vector サブフィールドのデータ型 | Index type | Metric type |
|---|---|---|---|
| EmbeddingList 検索 | FLOAT_VECTOR, FLOAT16_VECTOR, BFLOAT16_VECTOR, INT8_VECTOR | AUTOINDEX | MAX_SIM, MAX_SIM_COSINE, MAX_SIM_IP, MAX_SIM_L2 |
| EmbeddingList 検索 | BINARY_VECTOR | AUTOINDEX | MAX_SIM_HAMMING, MAX_SIM_JACCARD |
| 要素レベル検索 | FLOAT_VECTOR, FLOAT16_VECTOR, BFLOAT16_VECTOR, INT8_VECTOR | AUTOINDEX | L2, IP, COSINE |
| 要素レベル検索 | BINARY_VECTOR | AUTOINDEX | HAMMING, JACCARD |
バージョン固有のサポートやその他の制限については、StructArray の制限 を参照してください。
インデックスを確認する
インデックスを作成した後、collection を describe するかインデックスを一覧表示して、想定どおりのサブフィールドパスがインデックス化されていることを確認します。
indexes = client.list_indexes(
collection_name="tech_articles",
)
print(indexes)
SDK のバージョンでインデックス記述 API が提供されている場合は、特定のインデックスを describe することもできます。
index = client.describe_index(
collection_name="tech_articles",
index_name="chunks_emb_cosine",
)
print(index)
インデックスのルール
| ルール | 説明 |
|---|---|
| サブフィールドインデックスにはパス構文を使用する。 | emb や chunks.emb ではなく、chunks[emb] にインデックスを作成します。 |
| 1 つの vector サブフィールドは 1 つのインデックスを受け付ける。 | 異なるメトリクスファミリーが必要な場合は、別々の vector サブフィールドを使用します。 |
EmbeddingList 検索には MAX_SIM* メトリクスを使用する。 | EmbeddingList クエリデータには、MAX_SIM* メトリクスで構築されたインデックスが必要です。 |
| 要素レベル検索には通常の vector メトリクスを使用する。 | 要素レベル検索では通常の vector クエリデータと、COSINE、IP、L2 などのメトリクスを使用します。 |
| フィルタに現れる scalar サブフィールドをインデックス化する。 | ターゲットでサポートされる scalar インデックスタイプを使用します。 |
| vector フィールドの制限を念頭に置く。 | vector フィールドと vector サブフィールドの合計数には制限があります。多数の vector サブフィールドを追加する前に StructArray の制限を確認してください。 |
よくある間違い
-
chunks[emb]ではなくchunks.embにインデックスを作成する。 -
MAX_SIM*インデックスだけを作成して、同じサブフィールドで要素レベル検索を実行しようとする。 -
通常の vector インデックスだけを作成して、同じサブフィールドで EmbeddingList 検索を実行しようとする。
-
1 つの vector サブフィールドを
MAX_SIM*と通常の vector メトリクスの両方に再利用する。 -
よく使用される StructArray フィルタ用の scalar インデックスを忘れる。
-
Struct スキーマに存在しない StructArray サブフィールドをインデックス化する。
次のステップ
-
エンティティレベルの EmbeddingList 検索または要素レベルの vector search を実行するには、StructArray を使った基本的な Vector Search を参照してください。
-
検索中に StructArray scalar サブフィールドでフィルタするには、StructArray を使ったフィルタ付き検索 を参照してください。
-
インデックスとメトリクスの制限を確認するには、StructArray の制限 を参照してください。