StructArray フィールドを作成する
1 つのエンティティが順序付きの構造化要素リストを保持する必要がある場合は、StructArray フィールドを作成します。StructArray フィールドは、要素型が Struct の Array フィールドです。各 Struct 要素は同じスキーマに従い、スカラーサブフィールド、ベクトルサブフィールド、またはその両方を含めることができます。
このページでは、Struct スキーマを定義し、それを StructArray フィールドとして追加し、後で検索やフィルタリングに使用するサブフィールドを選択し、データを挿入またはインデックス作成する前に適用されるスキーマルールを理解する方法を説明します。
始める前に
このページでは、tech_articles という名前のコレクションを使用します。各エンティティは 1 件の技術記事を表し、chunks フィールドにはチャンクレベルのデータが Struct 要素として格納されます。
| フィールド | 型 | 用途 |
|---|---|---|
doc_id | INT64 | 記事の主キー |
title | VARCHAR | 記事のタイトル |
category | VARCHAR | 記事レベルのカテゴリ |
title_vector | FLOAT_VECTOR | 記事レベルのベクトルフィールド。後のハイブリッド検索の例で使用します。 |
chunks | ARRAY<STRUCT> | チャンクレベルのテキスト、メタデータ、および embedding を格納する StructArray フィールド |
chunks StructArray フィールドには、次のサブフィールドが含まれます。
| サブフィールド | 型 | 用途 |
|---|---|---|
text | VARCHAR | チャンクのテキスト |
section | VARCHAR | index、search、filter などのセクション名 |
page | INT64 | ページ番号またはチャンクの論理的な位置 |
quality_score | FLOAT | スカラーフィルタリングおよび範囲の例で使用するチャンクレベルのスコア |
has_code | BOOL | チャンクにコードが含まれているかどうか |
emb_list_vector | FLOAT_VECTOR | MAX_SIM* メトリクスを使用する EmbeddingList 検索用のベクトルサブフィールド |
emb | FLOAT_VECTOR | 通常のベクトルメトリクスを使用する要素レベル検索用のベクトルサブフィールド |
ベクトルフィールドまたはベクトルサブフィールドは、1 つのインデックスしか受け付けません。EmbeddingList 検索と要素レベル検索の両方が必要な場合は、2 つの別々のベクトルサブフィールドを定義してください。この例では、chunks[emb_list_vector] は EmbeddingList 検索用で、chunks[emb] は要素レベル検索用です。
サポートされるサブフィールドのデータ型
StructArray フィールドは、各 Struct サブフィールドに対して 1 つの配列値を格納します。Struct スキーマを定義する際は、サポートされているスカラーおよびベクトルの型ファミリーからサブフィールド型を選択してください。
| Struct サブフィールドの物理型 | サポート | 備考 |
|---|---|---|
Array<Bool> | サポートされます | サブフィールドを DataType.BOOL として定義します。 |
Array<Int8/Int16/Int32/Int64> | サポートされます | サブフィールドを DataType.INT8、DataType.INT16、DataType.INT32、または DataType.INT64 として定義します。 |
Array<Float/Double> | サポートされます | サブフィールドを DataType.FLOAT または DataType.DOUBLE として定義します。 |
Array<VarChar> | サポートされます | サブフィールドを DataType.VARCHAR として定義し、max_length を設定します。 |
ArrayOfVector<FloatVector> | サポートされます | サブフィールドを DataType.FLOAT_VECTOR として定義し、dim を設定します。 |
ArrayOfVector<Float16Vector> | サポートされます | サブフィールドを DataType.FLOAT16_VECTOR として定義し、dim を設定します。 |
ArrayOfVector<BFloat16Vector> | サポートされます | サブフィールドを DataType.BFLOAT16_VECTOR として定義し、dim を設定します。 |
ArrayOfVector<Int8Vector> | サポートされます | サブフィールドを DataType.INT8_VECTOR として定義し、dim を設定します。 |
ArrayOfVector<BinaryVector> | サポートされます | サブフィールドを DataType.BINARY_VECTOR として定義し、dim を設定します。 |
ArrayOfVector<SparseFloatVector> | サポートされません | スパースベクトルサブフィールドは StructArray フィールドではサポートされません。 |
Array<String> | サポートされません | String ではなく VARCHAR を使用します。 |
Array<JSON> | サポートされません | JSON サブフィールドは StructArray フィールドではサポートされません。 |
Array<Geometry> | サポートされません | Geometry サブフィールドおよび GIS 関数は StructArray フィールドではサポートされません。 |
Array<Text> | サポートされません | Text サブフィールドは StructArray フィールドではサポートされません。 |
Array<Timestamptz> | サポートされません | Timestamptz サブフィールドおよび時刻固有の式は StructArray フィールドではサポートされません。 |
ネストされた Array、ArrayOfVector、Struct、または ArrayOfStruct | サポートされません | StructArray フィールドに、ネストされた配列、ネストされたベクトル配列、ネストされた Struct フィールド、またはネストされた Array-of-Struct フィールドを含めることはできません。 |
バージョン固有のサポート、nullable の動作、およびその他の制限については、StructArray の制限 を参照してください。
StructArray フィールドを持つコレクションを作成する
StructArray フィールドを作成するには、まず各要素が使用する Struct スキーマを定義します。次に、Array フィールドを追加し、その要素型を Struct に設定します。
-
コレクションスキーマを作成します。
-
主キーや記事レベルのフィールドなど、コレクションレベルのフィールドを追加します。
-
StructArray フィールド内に格納する要素の Struct スキーマを作成します。
-
Struct スキーマにスカラーサブフィールドとベクトルサブフィールドを追加します。
-
element_type=DataType.STRUCTを指定して Array フィールドを追加します。 -
struct_schemaに Struct スキーマを設定します。 -
max_capacityを設定して、各エンティティがこのフィールドに格納できる Struct 要素数を制限します。
from pymilvus import MilvusClient, DataType
client = MilvusClient(
uri="YOUR_CLUSTER_ENDPOINT",
token="YOUR_CLUSTER_TOKEN",
)
schema = client.create_schema(
auto_id=False,
enable_dynamic_field=False,
)
# Collection-level fields.
schema.add_field(
field_name="doc_id",
datatype=DataType.INT64,
is_primary=True,
)
schema.add_field(
field_name="title",
datatype=DataType.VARCHAR,
max_length=512,
)
schema.add_field(
field_name="category",
datatype=DataType.VARCHAR,
max_length=128,
)
schema.add_field(
field_name="title_vector",
datatype=DataType.FLOAT_VECTOR,
dim=4,
)
# Struct schema used by each element in the StructArray field.
chunk_schema = client.create_struct_field_schema()
chunk_schema.add_field(
field_name="text",
datatype=DataType.VARCHAR,
max_length=65535,
)
chunk_schema.add_field(
field_name="section",
datatype=DataType.VARCHAR,
max_length=128,
)
chunk_schema.add_field(
field_name="page",
datatype=DataType.INT64,
)
chunk_schema.add_field(
field_name="quality_score",
datatype=DataType.FLOAT,
)
chunk_schema.add_field(
field_name="has_code",
datatype=DataType.BOOL,
)
# Vector subfield for EmbeddingList search.
chunk_schema.add_field(
field_name="emb_list_vector",
datatype=DataType.FLOAT_VECTOR,
dim=4,
)
# Vector subfield for element-level search.
chunk_schema.add_field(
field_name="emb",
datatype=DataType.FLOAT_VECTOR,
dim=4,
)
# Add the StructArray field.
schema.add_field(
field_name="chunks",
datatype=DataType.ARRAY,
element_type=DataType.STRUCT,
struct_schema=chunk_schema,
max_capacity=1000,
)
client.create_collection(
collection_name="tech_articles",
schema=schema,
)
StructArray フィールドのパスを理解する
StructArray フィールドを作成した後は、structArray[subfield] パス構文を使用してそのサブフィールドを参照します。この構文は、インデックスを作成するとき、ベクトルサブフィールドを検索するとき、サブフィールドを出力するとき、またはスカラーフィルターを構築するときに使用します。
| パス | 意味 | 主な用途 |
|---|---|---|
chunks[text] | 各 Struct 要素内の text サブフィールド | 出力フィールドまたはスカラーフィルタリング |
chunks[section] | 各チャンクのセクションラベル | スカラーフィルタリング |
chunks[quality_score] | チャンクレベルの品質スコア | スカラーフィルタリングまたはスカラーインデックス |
chunks[emb_list_vector] | embedding list として使用されるベクトルサブフィールド | MAX_SIM* を使用する EmbeddingList 検索 |
chunks[emb] | 各 Struct 要素が個別に使用するベクトルサブフィールド | 要素レベルのベクトル検索 |
StructArray フィールドを nullable にする
Milvus v3.0.x と互換性のあるクラスターでは、nullable な StructArray フィールドがサポートされています。nullable な StructArray フィールドでは、エンティティが StructArray フィールド全体に null を格納できます。
schema.add_field(
field_name="chunks",
datatype=DataType.ARRAY,
element_type=DataType.STRUCT,
struct_schema=chunk_schema,
max_capacity=1000,
nullable=True,
)
nullable な StructArray フィールドは、Milvus v3.0.x と互換性のあるクラスターでのみ利用できます。nullable な StructArray フィールドでは、エンティティは有効な StructArray 値を指定するか、フィールド全体を null に設定できます。有効な StructArray 値を挿入する場合、すべてのサブフィールドが null であるか、有効な値を持っている必要があります。一部のサブフィールドを null にし、他のサブフィールドを有効な値にしたエンティティを挿入すると、エラーになります。詳細については、StructArray の制限 を参照してください。
既存のコレクションに StructArray フィールドを追加する
Milvus v3.0.x と互換性のあるクラスターでは、既存のコレクションへの StructArray フィールドの追加がサポートされています。追加する StructArray フィールドは nullable である必要があります。これは、コレクションにすでに存在するエンティティには新しいフィールドの値がないためです。
既存のコレクションに StructArray フィールドを追加するには、まず Struct スキーマを定義します。次に、add_collection_struct_field() を呼び出し、nullable=True を設定します。
chunk_schema = client.create_struct_field_schema()
chunk_schema.add_field(
field_name="text",
datatype=DataType.VARCHAR,
max_length=65535,
)
chunk_schema.add_field(
field_name="section",
datatype=DataType.VARCHAR,
max_length=128,
)
chunk_schema.add_field(
field_name="page",
datatype=DataType.INT64,
)
chunk_schema.add_field(
field_name="quality_score",
datatype=DataType.FLOAT,
)
chunk_schema.add_field(
field_name="has_code",
datatype=DataType.BOOL,
)
chunk_schema.add_field(
field_name="emb_list_vector",
datatype=DataType.FLOAT_VECTOR,
dim=4,
)
chunk_schema.add_field(
field_name="emb",
datatype=DataType.FLOAT_VECTOR,
dim=4,
)
client.add_collection_struct_field(
collection_name="tech_articles",
field_name="chunks",
struct_schema=chunk_schema,
max_capacity=1000,
nullable=True,
)
StructArray フィールドが追加されると、既存のエンティティは、新しいフィールドのすべてのサブフィールドに対して null を返します。
StructArray フィールドを作成した後は、その既存の StructArray フィールドに新しいサブフィールドを追加できません。後で要素の属性を追加する必要がある場合は、drop_collection_field() を呼び出して StructArray フィールドを削除し、更新した Struct スキーマで新しい StructArray フィールドを追加してください。
client.drop_collection_field(
collection_name="tech_articles",
field_name="chunks",
)
client.add_collection_struct_field(
collection_name="tech_articles",
field_name="chunks",
struct_schema=updated_chunk_schema,
max_capacity=1000,
nullable=True,
)
スキーマルール
| ルール | 説明 |
|---|---|
| Struct は Array の要素型として使用されます。 | StructArray フィールドは、element_type=STRUCT を指定した Array フィールドとして作成します。Struct をコレクションのトップレベルフィールドとして作成しないでください。 |
| すべての要素が 1 つのスキーマを共有します。 | 同じ StructArray フィールド内のすべての Struct 要素は、そのフィールド用に定義された Struct スキーマに従います。 |
max_capacity は必須です。 | 各エンティティが StructArray フィールドに格納できる Struct 要素数を制限します。 |
| サポートされているサブフィールド型のみを使用できます。 | StructArray でサポートされているスカラーおよびベクトルのサブフィールド型を使用してください。JSON、Geometry、Text、Timestamptz、SparseFloatVector、またはネストされた Struct / Array サブフィールドを定義しないでください。 |
| ベクトルサブフィールドは検索の前にインデックスが必要です。 | ベクトル検索を実行する前に、chunks[emb_list_vector] や chunks[emb] のようなパスにインデックスを作成してください。 |
| 1 つのベクトルサブフィールドに設定できるインデックスは 1 つです。 | EmbeddingList 検索と要素レベル検索の両方が必要な場合は、2 つの別々のベクトルサブフィールドを作成してください。 |
| 既存の StructArray サブフィールドは固定です。 | StructArray フィールドを作成した後、同じ StructArray フィールドにさらにサブフィールドを追加できるとは考えないでください。 |
| Struct 内では関数はサポートされません。 | StructArray フィールド内のフィールドまたはサブフィールドに対して関数を定義しないでください。 |
| スカラーサブフィールドはフィルターの要件に合わせてください。 | section、quality_score、has_code などのフィールドは、後でフィルタリング、グループ化、または出力する必要がある場合にのみ追加してください。 |
よくある間違い
-
DataType.STRUCTを Array フィールドの要素型として使用する代わりに、コレクションのトップレベルフィールドとして作成してしまう。 -
StructArray フィールドに
max_capacityを設定し忘れる。 -
JSON、Geometry、Text、Timestamptz、SparseFloatVector、ネストされた Array、ネストされた Struct、または Array-of-Struct など、サポートされていないサブフィールド型を定義してしまう。
-
サブフィールド型として
Stringを使用してしまう。VARCHARを使用し、max_lengthを設定してください。 -
1 つのベクトルサブフィールドを EmbeddingList 検索と要素レベル検索の両方に使用してしまう。
-
ベクトルサブフィールドだけを追加し、
section、quality_score、has_codeなど、フィルタリングに必要なスカラーサブフィールドを追加し忘れる。 -
ベクトルサブフィールドを
$[...]スカラー述語の入力として扱ってしまう。ベクトルサブフィールドはベクトル検索に、スカラーサブフィールドはスカラー述語に使用してください。 -
フィールドを作成した後に、既存の StructArray フィールドに新しいサブフィールドを追加できると思い込んでしまう。
-
必須のパス構文
chunks[emb]またはchunks[emb_list_vector]の代わりにchunks.embまたはchunks.emb_list_vectorを使用してしまう。 -
nullable な StructArray の動作が、すべての対象バージョンで利用可能だと考えてしまう。
次のステップ
-
StructArray フィールドにネストされたデータを挿入するには、StructArray フィールドにデータを挿入する を参照してください。
-
ベクトルインデックスとスカラーインデックスを作成するには、StructArray フィールドのインデックス作成 を参照してください。
-
StructArray のベクトルサブフィールドを検索するには、StructArray を使った基本的なベクトル検索 を参照してください。
-
サポートされるデータ型、nullable の動作、バージョン固有の制限を確認するには、StructArray の制限 を参照してください。