パターンマッチング
エージェント検索アプリケーションでは、ベクトル検索と grep 形式のパターンマッチングが互いに補完し合うことがよくあります。ベクトル検索は意味的に関連するエンティティを取得し、パターンマッチングはエラーコード、ログプレフィックス、メールドメイン、URL パス、識別子などの正確な文字列構造によってその結果を絞り込みます。
Zilliz Cloud では、単純なワイルドカードマッチングに LIKE、RE2 正規表現に =~ または !~ を使用して、これらのパターン制約をスカラーフィルターで表現できます。これらのフィルターは、query、search、またはハイブリッド検索と組み合わせることができます。
このページでは、query、search、ハイブリッド検索で使用されるスカラーフィルター式のパターンマッチングについて説明します。これらの式はフィールド値を評価し、アナライザーが生成したトークンを変更しません。テキスト分析中にトークンをフィルタリングするには、Regex Analyzer Filter を参照してください。
パターンマッチング式は filter パラメーターに記述します。たとえば、次のクエリは E1001 などのエラーコードを含むログメッセージに一致します:
- Python
- Java
- Go
- C++
- NodeJS
- cURL
- Zilliz CLI
from pymilvus import MilvusClient
client = MilvusClient(uri="YOUR_CLUSTER_ENDPOINT")
res = client.query(
collection_name="log_events",
filter='message =~ "E[0-9]{4}"',
output_fields=["message", "severity"],
)
import io.milvus.v2.client.ConnectConfig;
import io.milvus.v2.client.MilvusClientV2;
import io.milvus.v2.service.vector.request.QueryReq;
import io.milvus.v2.service.vector.response.QueryResp;
import java.util.Arrays;
MilvusClientV2 client = new MilvusClientV2(ConnectConfig.builder()
.uri("YOUR_CLUSTER_ENDPOINT")
.build());
QueryResp res = client.query(QueryReq.builder()
.collectionName("log_events")
.filter("message =~ \"E[0-9]{4}\"")
.outputFields(Arrays.asList("message", "severity"))
.build());
import (
"context"
"fmt"
"github.com/milvus-io/milvus/client/v3/milvusclient"
)
ctx := context.Background()
client, err := milvusclient.New(ctx, &milvusclient.ClientConfig{
Address: "YOUR_CLUSTER_ENDPOINT",
})
if err != nil {
// handle error
}
defer client.Close(ctx)
res, err := client.Query(ctx, milvusclient.NewQueryOption("log_events").
WithFilter(`message =~ "E[0-9]{4}"`).
WithOutputFields("message", "severity"))
if err != nil {
// handle error
}
fmt.Println(res)
// cpp
const { MilvusClient } = require('@zilliz/milvus2-sdk-node');
async function main() {
const client = new MilvusClient({ address: 'YOUR_CLUSTER_ENDPOINT' });
const res = await client.query({
collection_name: 'log_events',
filter: 'message =~ "E[0-9]{4}"',
output_fields: ['message', 'severity'],
});
console.log(res);
}
main().catch((error) => {
console.error(error);
process.exitCode = 1;
});
export CLUSTER_ENDPOINT="YOUR_CLUSTER_ENDPOINT"
export TOKEN="YOUR_CLUSTER_TOKEN"
curl --request POST \
--url "${CLUSTER_ENDPOINT}/v2/vectordb/entities/query" \
--header "Authorization: Bearer ${TOKEN}" \
--header "Content-Type: application/json" \
--data '{
"collectionName": "log_events",
"filter": "message =~ \"E[0-9]{4}\"",
"outputFields": ["message", "severity"]
}'
zilliz vector query --collection log_events --filter 'message =~ "E[0-9]{4}"' --output-fields 'message,severity'
このページの例では、filter に割り当てる式に焦点を当てています。同じフィルター式構文は、query、search、ハイブリッド検索など、スカラーフィルターを受け入れる Zilliz Cloud の操作で使用できます。
フィルター式の左辺のリテラルには、以下の例で使用されている message、email などのコレクションフィールド名、または filter = 'struct[0][subfield] =~ "E[0-9]{4}"' のように特定の要素インデックスにある StructArray サブフィールドの名前を指定できます。
StructArray フィールドでのスカラーフィルタリングの詳細については、StructArray Operators を参照してください。
サポートされるフィールドタイプ
パターンマッチングは文字列値で使用できます。
| 対象 | LIKE | 正規表現 =~ / !~ | 説明 |
|---|---|---|---|
VARCHAR フィールド | はい | はい | 文字列フィールドでのパターンマッチングの一般的な対象です。 |
キャスト型が VARCHAR の JSON パス | はい | はい | 肯定的な一致には、JSON パス値が文字列である必要があります。高速化のために JSON パスにインデックスを作成する場合は、json_cast_type="varchar" を設定します。 |
ARRAY<VARCHAR> 要素 | はい | はい | tags[0] など、インデックスで特定の要素を指定して一致させます。パターンマッチングはすべての要素を走査しません。指定したインデックスの要素にのみ適用されます。 |
数値、Boolean、ベクトル、TEXT、その他の VARCHAR 以外の対象 | いいえ | いいえ | パターンマッチングは、VARCHAR 値、文字列に解決される JSON パス、またはインデックス付きの ARRAY<VARCHAR> 要素でのみ使用できます。 |
LIKE または正規表現を選択する
必要なパターンを表現する最もシンプルな演算子を選択してください。
文字列の完全一致が必要な場合は、パターンマッチングではなく == を使用することをお勧めします。LIKE または正規表現は、フィルターでパターンに一致させる必要がある場合にのみ使用してください。
| 要件 | 推奨される演算子 | 例 | 説明 |
|---|---|---|---|
| 文字列の完全一致 | == | status == "active" | 文字列 active の完全一致です。 |
| 単純なプレフィックス一致 | LIKE | name LIKE "Prod%" | Prod で始まる文字列に一致します。 |
| 単純なサフィックス一致 | LIKE | filename LIKE "%.json" | .json で終わる文字列に一致します。 |
| 単純な含む一致 | LIKE | description LIKE "%vector database%" | 文字列内の任意の位置に vector database を含む値に一致します。 |
| 構造化コードまたは固定長パターンに一致 | =~ | code =~ "E[0-9]{4}" | E1001 など、E の後に 4 桁の数字が続く文字列に大文字と小文字を区別して一致します。 |
| 大文字と小文字を区別しないパターンマッチング | (?i) を指定した =~ | message =~ "(?i)error" | error、ERROR、またはその他の大文字と小文字のバリエーションに一致します。 |
| 正規表現パターンに一致する値を除外 | !~ | message !~ "^DEBUG" | DEBUG で始まる文字列を除外します。 |
単純なワイルドカードマッチングには LIKE を使用します。パターンに文字クラス、繰り返し、error|failed などの選択、アンカー、または大文字と小文字を区別しないマッチングが必要な場合は、正規表現を使用します。
LIKE を使用する
LIKE 演算子は、文字列値に対する単純なワイルドカードマッチングに使用します。次のワイルドカードのみをサポートします:
| ワイルドカード | 説明 |
|---|---|
% | 0 個以上の文字に一致します。 |
_ | 正確に 1 文字に一致します。 |
一般的な LIKE パターン
一致する文字列内で固定テキストが現れる位置を制御するには、% と _ の位置を使用します。
| 要件 | パターン | フィルターの例 |
|---|---|---|
| プレフィックスで始まる | Prod% | filter = 'name LIKE "Prod%"' |
| サフィックスで終わる | %.json | filter = 'filename LIKE "%.json"' |
| 部分文字列を含む | %vector% | filter = 'description LIKE "%vector%"' |
| 固定位置の 1 文字に一致 | AB_% | filter = 'code LIKE "AB_%"' |
LIKE のマッチング動作
プレフィックス、サフィックス、含む、および固定位置の 1 文字の一致には LIKE を使用します。LIKE は、[0-9] などの文字クラス、error|failed などの選択、{4} などの繰り返し回数、^ や $ などのアンカー、(?i) などの大文字と小文字を区別しないフラグをサポートしていません。これらのパターンには正規表現を使用してください。
文字列全体の完全一致には == を使用します。LIKE は、フィルターでワイルドカードマッチングが必要な場合にのみ使用してください。
LIKE パターンでのワイルドカードのエスケープ
LIKE パターンでは、% は任意の数の文字に一致し、_ は 1 文字に一致します。%、_、または \ をリテラルとして一致させるには、バックスラッシュ(\)で文字をエスケープします:
-
name LIKE r"\%"はリテラル値%に一致します。 -
name LIKE r"\_%"はリテラルの_で始まる値に一致します。 -
name LIKE r"\\%"はリテラルのバックスラッシュで始まる値に一致します。
r"..." または r'...' として記述する raw 文字列リテラルは、Zilliz Cloud のフィルター式でバックスラッシュをそのまま保持します。バックスラッシュを含む LIKE および正規表現パターンには、これらを使用することをお勧めします。raw 文字列を使用しない場合、通常の文字列リテラルはパターンが評価される前にエスケープシーケンスを処理するため、より多くのバックスラッシュが必要になることがあります。
正規表現を使用する
パターンに文字クラス、繰り返し、選択、アンカー、または大文字と小文字を区別しないマッチングなどの正規表現機能が必要な場合は、正規表現フィルターを使用します。Zilliz Cloud は、RE2 正規表現を文字列値に適用します。
=~ または !~ の右辺は文字列リテラルである必要があります。
| 演算子 | 意味 | 例 |
|---|---|---|
=~ | 正規表現パターンを満たす値に一致します。 | filter = 'message =~ "E[0-9]{4}"' |
!~ | 正規表現パターンを満たす値を除外します。 | filter = 'message !~ "^DEBUG"' |
raw 文字列リテラルの使用
バックスラッシュを含む正規表現パターンには、raw 文字列リテラルを使用することをお勧めします。r"..." または r'...' として記述する raw 文字列では、バックスラッシュが正規表現エンジンにそのまま渡されます。これにより、通常の文字列リテラルで必要になる追加のエスケープを回避できます。
例:
- Python
- Java
- Go
- C++
- NodeJS
- cURL
- Zilliz CLI
filter = 'message =~ r"\d{4}-\d{2}-\d{2}"'
String filter = "filename =~ r\"\\.json$\"";
filter := `filename =~ r"\.json$"`
// cpp
const filter = 'filename =~ r"\\.json$"';
filter='filename =~ r"\.json$"'
zilliz vector query --collection my_collection --filter 'filename =~ r"\.json$"' --output-fields 'filename'
これは、2026-07-01 などの日付のような値を含む文字列に一致します。
raw 文字列を使用しない場合、通常の文字列リテラルは正規表現パターンが評価される前にエスケープシーケンスを処理するため、\d、\s、またはエスケープされたリテラル文字などのパターンには、追加のバックスラッシュが必要になることがあります。
一般的な正規表現パターン
次の例では、Zilliz Cloud のフィルター式で一般的な RE2 構文を使用します。完全な正規表現構文については、RE2 syntax リファレンスを参照してください。
| 要件 | パターン | フィルターの例 |
|---|---|---|
| リテラルテキストを含む | error | filter = 'message =~ "error"' |
| プレフィックスで始まる | ^ERR | filter = 'code =~ "^ERR"' |
| サフィックスで終わる | \.json$ | filter = 'filename =~ "\\.json$"' |
| 数字の並びに一致 | [0-9]+ | filter = 'message =~ "[0-9]+"' |
| 固定桁数の数字に一致 | [0-9]{4} | filter = 'code =~ "[0-9]{4}"' |
| メールドメインに一致 | @example\.com$ | filter = 'email =~ "@example\\.com$"' |
| 大文字と小文字を区別せずに一致 | (?i)error | filter = 'message =~ "(?i)error"' |
| 文字列全体に一致 | ^prod-[0-9]+$ | filter = 'name =~ "^prod-[0-9]+$"' |
複数の単語のいずれかに一致させるには、| による選択を使用します:
- Python
- Java
- Go
- C++
- NodeJS
- cURL
- Zilliz CLI
filter = 'message =~ "error|failed|timeout"'
String filter = "message =~ \"error|failed|timeout\"";
filter := `message =~ "error|failed|timeout"`
// cpp
const filter = 'message =~ "error|failed|timeout"';
filter='message =~ "error|failed|timeout"'
zilliz vector query --collection my_collection --filter 'message =~ "error|failed|timeout"' --output-fields 'message'
正規表現のメタ文字をリテラルとして一致させる場合は、正規表現パターン内でエスケープします。たとえば、リテラルのドット(正規表現では \.)に一致させるには、Python のフィルター文字列で \\. と記述します:
- Python
- Java
- Go
- C++
- NodeJS
- cURL
- Zilliz CLI
filter = 'email =~ "@gmail\\.com$"'
String filter = "email =~ \"@gmail\\.com$\"";
filter := `email =~ "@gmail\\.com$"`
// cpp
const filter = 'email =~ "@gmail\\.com$"';
filter='email =~ "@gmail\\.com$"'
zilliz vector query --collection my_collection --filter 'email =~ "@gmail\\.com$"' --output-fields 'email'
注記:Zilliz Cloud の正規表現フィルターは RE2 構文に従います。正規表現パターンが RE2 でサポートされていない構文を使用している場合、またはその他の理由で無効な場合、Zilliz Cloud はフィルター式を拒否します。正規表現のメタ文字、フラグ、およびマッチング動作の詳細については、RE2 syntax リファレンスを参照してください。
マッチング動作
部分文字列マッチング
Zilliz Cloud の正規表現マッチングは部分文字列のセマンティクスを使用します。パターンはフィールド値全体に一致する必要はありません。たとえば、次のフィルターは E1001 と failed with E1001 after retry の両方に一致します:
- Python
- Java
- Go
- C++
- NodeJS
- cURL
- Zilliz CLI
filter = 'message =~ "E[0-9]{4}"'
String filter = "message =~ \"E[0-9]{4}\"";
filter := `message =~ "E[0-9]{4}"`
// cpp
const filter = 'message =~ "E[0-9]{4}"';
filter='message =~ "E[0-9]{4}"'
zilliz vector query --collection log_events --filter 'message =~ "E[0-9]{4}"' --output-fields 'message,severity'
フィールド値全体に一致させるには、^ と $ のアンカーを使用します:
- Python
- Java
- Go
- C++
- NodeJS
- cURL
- Zilliz CLI
# Match only values that are exactly E followed by four digits
filter = 'code =~ "^E[0-9]{4}$"'
// Match only values that are exactly E followed by four digits
String filter = "code =~ \"^E[0-9]{4}$\"";
// Match only values that are exactly E followed by four digits
filter := `code =~ "^E[0-9]{4}$"`
// cpp
// Match only values that are exactly E followed by four digits
const filter = 'code =~ "^E[0-9]{4}$"';
filter='code =~ "^E[0-9]{4}$"'
zilliz vector query --collection my_collection --filter 'code =~ "^E[0-9]{4}$"' --output-fields 'code'
NULL 許容の VARCHAR フィールド
正規表現フィルターは null 値に一致しません。これは =~ と !~ の両方に当てはまります。正規表現パターンを除外しつつ null 値を保持する場合は、OR field IS NULL を明示的に追加します:
- Python
- Java
- Go
- C++
- NodeJS
- cURL
- Zilliz CLI
filter = 'message !~ "^DEBUG" OR message IS NULL'
String filter = "message !~ \"^DEBUG\" OR message IS NULL";
filter := `message !~ "^DEBUG" OR message IS NULL`
// cpp
const filter = 'message !~ "^DEBUG" OR message IS NULL';
filter='message !~ "^DEBUG" OR message IS NULL'
zilliz vector query --collection log_events --filter 'message !~ "^DEBUG" OR message IS NULL' --output-fields 'message,severity'
JSON パス
JSON パスでは、パスが存在しない場合、null の場合、または文字列以外の値に解決される場合、正規表現フィルターの動作が異なります:
| フィルター | 欠落/null/non-string の値を含みますか? | 説明 |
|---|---|---|
json_field["path"] =~ "pattern" | いいえ | 正規表現パターンを満たす文字列値にのみ一致します。 |
json_field["path"] !~ "pattern" | はい | パスが欠落している、null である、文字列以外である、または正規表現パターンに一致しない文字列であるエンティティを返します。 |
インデックスでパターンマッチングを高速化する
Zilliz Cloud は、VARCHAR フィールドまたは JSON 文字列パスに対する LIKE および正規表現フィルターと組み合わせて使用できる、NGRAM、STL_SORT、INVERTED、BITMAP などのいくつかのインデックスタイプを文字列フィールドでサポートしています。パターンマッチングはインデックスなしでも機能しますが、インデックスによって大規模なデータセットでのパフォーマンスを向上させることができます。
インデックスの効果は、パターン式、Zilliz Cloud が固定のリテラル部分文字列を抽出できるかどうか、および対象フィールドのカーディナリティと分布によって異なります。name LIKE "Prod%" などのプレフィックス形式のパターンは、description LIKE "%vector%" や filename LIKE "%.json" などのインフィックスまたはサフィックス形式のパターンとは異なるインデックス戦略の恩恵を受ける場合があります。
次の表を出発点として使用し、その後、独自のワークロードでベンチマークしてください:
| パターンまたはデータの特性 | 検討するインデックス | 説明 |
|---|---|---|
message =~ "error.*timeout" や message LIKE "%database%" など、固定のリテラル部分文字列を含む | NGRAM | Zilliz Cloud がパターンから意味のあるリテラル部分文字列を抽出できる場合に役立ちます。詳細については、NGRAM を参照してください。 |
| プレフィックス、完全一致、または等価に近い文字列フィルター。特にカーディナリティが低から中程度のフィールド | STL_SORT、INVERTED、または BITMAP | フィールドに重複する値がある場合、またはフィルターが完全一致に近い場合に、より効果的である可能性があります。詳細については、STL_SORT、INVERTED、BITMAP を参照してください。 |
| 固定リテラルを含まない正規表現パターン、または文字クラス、短いトークン、ワイルドカードが主体のパターン | インデックスによる高速化に依存する前にベンチマークを実施 | これらのパターンはインデックスの選択性が限られている可能性があり、より広範なスキャンにフォールバックすることがあります。 |