パターンマッチング
エージェント型検索アプリケーションでは、ベクトル検索と grep 形式のパターンマッチングが互いを補完することがよくあります。ベクトル検索は意味的に関連するエンティティを取得し、パターンマッチングはエラーコード、ログのプレフィックス、メールドメイン、URL パス、識別子など、正確な文字列構造によってその結果を絞り込みます。
Zilliz Cloud では、これらのパターン制約をスカラーフィルターで表現できます。単純なワイルドカードマッチングには LIKE を、RE2 正規表現には =~ または !~ を使用します。これらのフィルターは、query、search、ハイブリッド検索と組み合わせることができます。
このページでは、query、search、ハイブリッド検索で使用されるスカラーフィルター式のパターンマッチングについて説明します。これらの式はフィールド値を評価するものであり、アナライザーが生成するトークンを変更するものではありません。テキスト分析中にトークンをフィルタリングするには、Regex Analyzer Filter を参照してください。
パターンマッチング式は filter パラメーターに記述します。たとえば、次のクエリは E1001 などのエラーコードを含むログメッセージに一致します。
- Python
- Java
- Go
- Rust
- C++
- NodeJS
- CSharp
- cURL
- Zilliz CLI
from pymilvus import MilvusClient
client = MilvusClient(uri="YOUR_CLUSTER_ENDPOINT")
res = client.query(
collection_name="log_events",
filter='message =~ "E[0-9]{4}"',
output_fields=["message", "severity"],
)
import io.milvus.v2.client.ConnectConfig;
import io.milvus.v2.client.MilvusClientV2;
import io.milvus.v2.service.vector.request.QueryReq;
import io.milvus.v2.service.vector.response.QueryResp;
import java.util.Arrays;
MilvusClientV2 client = new MilvusClientV2(ConnectConfig.builder()
.uri("YOUR_CLUSTER_ENDPOINT")
.build());
QueryResp res = client.query(QueryReq.builder()
.collectionName("log_events")
.filter("message =~ \"E[0-9]{4}\"")
.outputFields(Arrays.asList("message", "severity"))
.build());
import (
"context"
"fmt"
"github.com/milvus-io/milvus/client/v3/milvusclient"
)
ctx := context.Background()
client, err := milvusclient.New(ctx, &milvusclient.ClientConfig{
Address: "YOUR_CLUSTER_ENDPOINT",
})
if err != nil {
// handle error
}
defer client.Close(ctx)
res, err := client.Query(ctx, milvusclient.NewQueryOption("log_events").
WithFilter(`message =~ "E[0-9]{4}"`).
WithOutputFields("message", "severity"))
if err != nil {
// handle error
}
fmt.Println(res)
use milvus::v2::prelude::*;
let config = ConnectConfig::new().uri("YOUR_CLUSTER_ENDPOINT");
let client = ClientV2::new(&config).await?;
let res = client.query(
QueryRequest::builder()
.collection_name("log_events")
.filter(r#"message =~ "E[0-9]{4}""#)
.output_fields(["message", "severity"])
.build()?,
).await?;
for row in res.results().rows()? {
println!("{:?}", row.to_entity_row()?);
}
// cpp
const { MilvusClient } = require('@zilliz/milvus2-sdk-node');
async function main() {
const client = new MilvusClient({ address: 'YOUR_CLUSTER_ENDPOINT' });
const res = await client.query({
collection_name: 'log_events',
filter: 'message =~ "E[0-9]{4}"',
output_fields: ['message', 'severity'],
});
console.log(res);
}
main().catch((error) => {
console.error(error);
process.exitCode = 1;
});
using Milvus.Client.V2;
using Milvus.Client.V2.Requests.Dql;
using Milvus.Client.V2.Responses.Dql;
using Milvus.Client.V2.Types;
var config = new ConnectConfig
{
Uri = "YOUR_CLUSTER_ENDPOINT"
};
using var client = new MilvusClientV2(config);
await client.ConnectAsync();
QueryResp res = await client.QueryAsync(new QueryReq
{
CollectionName = "log_events",
Expression = "message =~ \"E[0-9]{4}\"",
Parameters = new QueryParameters
{
OutputFields = { "message", "severity" }
}
});
export CLUSTER_ENDPOINT="YOUR_CLUSTER_ENDPOINT"
export TOKEN="YOUR_CLUSTER_TOKEN"
curl --request POST \
--url "${CLUSTER_ENDPOINT}/v2/vectordb/entities/query" \
--header "Authorization: Bearer ${TOKEN}" \
--header "Content-Type: application/json" \
--data '{
"collectionName": "log_events",
"filter": "message =~ \"E[0-9]{4}\"",
"outputFields": ["message", "severity"]
}'
zilliz vector query --collection log_events --filter 'message =~ "E[0-9]{4}"' --output-fields 'message,severity'
このページの例では、filter に割り当てる式に焦点を当てています。query、search、ハイブリッド検索など、スカラーフィルターを受け付ける Zilliz Cloud の操作では、同じフィルター式構文を使用できます。
フィルター式の左辺のリテラルには、以下の例で使用する message、email などのコレクションフィールド名、または filter = 'struct[0][subfield] =~ "E[0-9]{4}"' のように特定の要素インデックスにある StructArray サブフィールドの名前を指定できます。
StructArray フィールドでのスカラーフィルタリングの詳細については、StructArray Operators を参照してください。
サポートされるフィールドタイプ
パターンマッチングは文字列値で使用できます。
| 対象 | LIKE | 正規表現 =~ / !~ | 備考 |
|---|---|---|---|
VARCHAR フィールド | はい | はい | 文字列フィールドのパターンマッチングの一般的な対象です。 |
VARCHAR キャスト型の JSON パス | はい | はい | 一致を返すには、JSON パスの値が文字列である必要があります。高速化のために JSON パスにインデックスを作成する場合は、json_cast_type="varchar" を設定します。 |
ARRAY<VARCHAR> 要素 | はい | はい | tags[0] など、インデックスで特定の要素を一致させます。パターンマッチングはすべての要素をスキャンしません。指定したインデックスの要素にのみ適用されます。 |
数値、Boolean、ベクトル、TEXT、またはその他の VARCHAR 以外の対象 | いいえ | いいえ | パターンマッチングは、VARCHAR 値、文字列に解決される JSON パス、またはインデックス付きの ARRAY<VARCHAR> 要素でのみ使用できます。 |
LIKE または正規表現を選択する
必要なパターンを表現する最も単純な演算子を選択してください。
文字列の完全一致が必要な場合は、パターンマッチングではなく == を使用することをお勧めします。LIKE または正規表現は、フィルターでパターンを一致させる必要がある場合にのみ使用してください。
| 要件 | 推奨される演算子 | 例 | 説明 |
|---|---|---|---|
| 文字列の完全一致 | == | status == "active" | 文字列 active の完全一致です。 |
| 単純なプレフィックス一致 | LIKE | name LIKE "Prod%" | Prod で始まる文字列に一致します。 |
| 単純なサフィックス一致 | LIKE | filename LIKE "%.json" | .json で終わる文字列に一致します。 |
| 単純な含有一致 | LIKE | description LIKE "%vector database%" | 文字列内の任意の場所に vector database を含む値に一致します。 |
| 構造化されたコードまたは固定長パターンに一致させる | =~ | code =~ "E[0-9]{4}" | E の後に 4 桁の数字が続く文字列に、大文字と小文字を区別して一致します(例: E1001)。 |
| 大文字と小文字を区別しないパターンマッチング | (?i) を指定した =~ | message =~ "(?i)error" | error、ERROR、その他の大文字と小文字のバリエーションに一致します。 |
| 正規表現パターンに一致する値を除外する | !~ | message !~ "^DEBUG" | DEBUG で始まる文字列を除外します。 |
単純なワイルドカードマッチングには LIKE を使用します。文字クラス、繰り返し、error|failed などの選択、アンカー、または大文字と小文字を区別しない一致がパターンに必要な場合は、正規表現を使用します。
LIKE を使用する
LIKE 演算子は、文字列値の単純なワイルドカードマッチングに使用します。サポートされるワイルドカードは次のとおりです。
| ワイルドカード | 説明 |
|---|---|
% | 0 文字以上の文字に一致します。 |
_ | 正確に 1 文字に一致します。 |
一般的な LIKE パターン
% と _ の位置を使用して、一致する文字列内で固定テキストが表示される場所を制御します。
| 要件 | パターン | フィルターの例 |
|---|---|---|
| プレフィックスで始まる | Prod% | filter = 'name LIKE "Prod%"' |
| サフィックスで終わる | %.json | filter = 'filename LIKE "%.json"' |
| 部分文字列を含む | %vector% | filter = 'description LIKE "%vector%"' |
| 固定位置の 1 文字に一致する | AB_% | filter = 'code LIKE "AB_%"' |
LIKE の一致動作
プレフィックス、サフィックス、含有、固定位置の単一文字の一致には LIKE を使用します。LIKE は、[0-9] などの文字クラス、error|failed などの選択、{4} などの繰り返し回数、^ や $ などのアンカー、(?i) などの大文字と小文字を区別しないフラグをサポートしていません。これらのパターンには正規表現を使用してください。
文字列全体の完全一致には == を使用します。LIKE は、フィルターでワイルドカードマッチングが必要な場合にのみ使用してください。
LIKE パターンでワイルドカードをエスケープする
LIKE パターンでは、% は任意の数の文字に一致し、_ は 1 文字に一致します。%、_、\ をリテラルとして一致させるには、バックスラッシュ(\)で文字をエスケープします。
-
name LIKE r"\%"は、リテラル値%に一致します。 -
name LIKE r"\_%"は、リテラル_で始まる値に一致します。 -
name LIKE r"\\%"は、リテラルのバックスラッシュで始まる値に一致します。
r"..." または r'...' と記述する生文字列リテラルは、Zilliz Cloud のフィルター式でバックスラッシュをそのまま保持します。バックスラッシュを含む LIKE および正規表現パターンには、生文字列リテラルを使用することをお勧めします。生文字列を使用しない場合、通常の文字列リテラルはパターンが評価される前にエスケープシーケンスを処理するため、より多くのバックスラッシュが必要になることがあります。
正規表現を使用する | PUBLIC
文字クラス、繰り返し、選択、アンカー、大文字と小文字を区別しない一致などの正規表現機能がパターンに必要な場合は、正規表現フィルターを使用します。Zilliz Cloud は、文字列値に RE2 正規表現を適用します。
=~ または !~ の右辺は、文字列リテラルである必要があります。
| 演算子 | 意味 | 例 |
|---|---|---|
=~ | 正規表現パターンを満たす値に一致します。 | filter = 'message =~ "E[0-9]{4}"' |
!~ | 正規表現パターンを満たす値を除外します。 | filter = 'message !~ "^DEBUG"' |
生文字列リテラルを使用する
バックスラッシュを含む正規表現パターンには、生文字列リテラルを使用することをお勧めします。r"..." または r'...' と記述する生文字列では、バックスラッシュが正規表現エンジンにそのまま渡されます。これにより、通常の文字列リテラルで必要になる追加のエスケープを回避できます。
次に例を示します。
- Python
- Java
- Go
- Rust
- C++
- NodeJS
- CSharp
- cURL
- Zilliz CLI
filter = 'message =~ r"\d{4}-\d{2}-\d{2}"'
String filter = "filename =~ r\"\\.json$\"";
filter := `filename =~ r"\.json$"`
let filter = r#"message =~ r"\d{4}-\d{2}-\d{2}""#;
// cpp
const filter = 'filename =~ r"\\.json$"';
string filter = "message =~ \"\\d{4}-\\d{2}-\\d{2}\"";
filter='filename =~ r"\.json$"'
zilliz vector query --collection my_collection --filter 'filename =~ r"\.json$"' --output-fields 'filename'
これは、2026-07-01 などの日付のような値を含む文字列に一致します。
生文字列を使用しない場合、通常の文字列リテラルは正規表現パターンが評価される前にエスケープシーケンスを処理するため、\d、\s、エスケープされたリテラル文字などのパターンには追加のバックスラッシュが必要になることがあります。
一般的な正規表現パターン
次の例では、Zilliz Cloud のフィルター式で一般的な RE2 構文を使用しています。正規表現の完全な構文については、RE2 構文リファレンスを参照してください。
| 要件 | パターン | フィルターの例 |
|---|---|---|
| リテラルテキストを含む | error | filter = 'message =~ "error"' |
| プレフィックスで始まる | ^ERR | filter = 'code =~ "^ERR"' |
| サフィックスで終わる | \.json$ | filter = 'filename =~ "\\.json$"' |
| 数字列に一致する | [0-9]+ | filter = 'message =~ "[0-9]+"' |
| 固定桁数の数字に一致する | [0-9]{4} | filter = 'code =~ "[0-9]{4}"' |
| メールドメインに一致する | @example\.com$ | filter = 'email =~ "@example\\.com$"' |
| 大文字と小文字を区別せずに一致する | (?i)error | filter = 'message =~ "(?i)error"' |
| 文字列全体に一致する | ^prod-[0-9]+$ | filter = 'name =~ "^prod-[0-9]+$"' |
複数の単語のいずれかに一致させるには、| による選択を使用します。
- Python
- Java
- Go
- Rust
- C++
- NodeJS
- CSharp
- cURL
- Zilliz CLI
filter = 'message =~ "error|failed|timeout"'
String filter = "message =~ \"error|failed|timeout\"";
filter := `message =~ "error|failed|timeout"`
let filter = r#"message =~ "error|failed|timeout""#;
// cpp
const filter = 'message =~ "error|failed|timeout"';
string filter = "message =~ \"error|failed|timeout\"";
filter='message =~ "error|failed|timeout"'
zilliz vector query --collection my_collection --filter 'message =~ "error|failed|timeout"' --output-fields 'message'
正規表現のメタ文字をリテラルとして一致させる場合は、正規表現パターンでそれらをエスケープします。たとえば、リテラルのドット(正規表現では \.)に一致させるには、Python のフィルター文字列に \\. と記述します。
- Python
- Java
- Go
- Rust
- C++
- NodeJS
- CSharp
- cURL
- Zilliz CLI
filter = 'email =~ "@gmail\\.com$"'
String filter = "email =~ \"@gmail\\.com$\"";
filter := `email =~ "@gmail\\.com$"`
let filter = r#"email =~ "@gmail\.com$""#;
// cpp
const filter = 'email =~ "@gmail\\.com$"';
string filter = "email =~ \"@gmail\\.com$\"";
filter='email =~ "@gmail\\.com$"'
zilliz vector query --collection my_collection --filter 'email =~ "@gmail\\.com$"' --output-fields 'email'
注記: Zilliz Cloud の正規表現フィルターは RE2 構文に従います。正規表現パターンが RE2 でサポートされていない構文を使用している場合、またはその他の理由で無効な場合、Zilliz Cloud はフィルター式を拒否します。正規表現のメタ文字、フラグ、一致動作の詳細については、RE2 構文リファレンスを参照してください。
一致動作
部分文字列の一致
Zilliz Cloud の正規表現マッチングは部分文字列のセマンティクスを使用します。パターンはフィールド値全体に一致する必要はありません。たとえば、次のフィルターは E1001 と failed with E1001 after retry の両方に一致します。
- Python
- Java
- Go
- Rust
- C++
- NodeJS
- CSharp
- cURL
- Zilliz CLI
filter = 'message =~ "E[0-9]{4}"'
String filter = "message =~ \"E[0-9]{4}\"";
filter := `message =~ "E[0-9]{4}"`
let filter = r#"message =~ "E[0-9]{4}""#;
// cpp
const filter = 'message =~ "E[0-9]{4}"';
string filter = "message =~ \"E[0-9]{4}\"";
filter='message =~ "E[0-9]{4}"'
zilliz vector query --collection log_events --filter 'message =~ "E[0-9]{4}"' --output-fields 'message,severity'
フィールド値全体に一致させるには、^ と $ のアンカーを使用します。
- Python
- Java
- Go
- Rust
- C++
- NodeJS
- CSharp
- cURL
- Zilliz CLI
# Match only values that are exactly E followed by four digits
filter = 'code =~ "^E[0-9]{4}$"'
// Match only values that are exactly E followed by four digits
String filter = "code =~ \"^E[0-9]{4}$\"";
// Match only values that are exactly E followed by four digits
filter := `code =~ "^E[0-9]{4}$"`
// Match only values that are exactly E followed by four digits
let filter = r#"code =~ "^E[0-9]{4}$""#;
// cpp
// Match only values that are exactly E followed by four digits
const filter = 'code =~ "^E[0-9]{4}$"';
// Match only values that are exactly E followed by four digits
string filter = "code =~ \"^E[0-9]{4}$\"";
filter='code =~ "^E[0-9]{4}$"'
zilliz vector query --collection my_collection --filter 'code =~ "^E[0-9]{4}$"' --output-fields 'code'
NULL 許容の VARCHAR フィールド
正規表現フィルターは null 値に一致しません。これは =~ と !~ の両方に適用されます。正規表現パターンを除外しつつ null 値を保持する場合は、OR field IS NULL を明示的に追加します。
- Python
- Java
- Go
- Rust
- C++
- NodeJS
- CSharp
- cURL
- Zilliz CLI
filter = 'message !~ "^DEBUG" OR message IS NULL'
String filter = "message !~ \"^DEBUG\" OR message IS NULL";
filter := `message !~ "^DEBUG" OR message IS NULL`
let filter = r#"message !~ "^DEBUG" OR message IS NULL"#;
// cpp
const filter = 'message !~ "^DEBUG" OR message IS NULL';
string filter = "message !~ \"^DEBUG\" OR message IS NULL";
filter='message !~ "^DEBUG" OR message IS NULL'
zilliz vector query --collection log_events --filter 'message !~ "^DEBUG" OR message IS NULL' --output-fields 'message,severity'
JSON パス
JSON パスの場合、パスが存在しない、null である、または文字列以外の値に解決されるときは、正規表現フィルターの動作が異なります。
| フィルター | 欠落/null/non-string 値を含みますか? | 備考 |
|---|---|---|
json_field["path"] =~ "pattern" | いいえ | 正規表現パターンを満たす文字列値にのみ一致します。 |
json_field["path"] !~ "pattern" | はい | パスが存在しない、null、文字列以外、または正規表現パターンに一致しない文字列であるエンティティを返します。 |
インデックスでパターンマッチングを高速化する
Zilliz Cloud は、VARCHAR フィールドまたは JSON 文字列パスの LIKE および正規表現フィルターと組み合わせて使用できる、NGRAM、STL_SORT、INVERTED、BITMAP などの複数のインデックスタイプを文字列フィールドでサポートしています。パターンマッチングはインデックスなしでも機能しますが、インデックスを使用すると大規模なデータセットでのパフォーマンスを向上できます。
インデックスの有効性は、パターン式、Zilliz Cloud が固定リテラルの部分文字列を抽出できるかどうか、および対象フィールドのカーディナリティと分布によって異なります。name LIKE "Prod%" などのプレフィックス形式のパターンは、description LIKE "%vector%" や filename LIKE "%.json" などのインフィックスまたはサフィックス形式のパターンとは異なるインデックス戦略の恩恵を受ける場合があります。
次の表を出発点として使用し、その後、独自のワークロードでベンチマークしてください。
| パターンまたはデータの特性 | 検討するインデックス | 備考 |
|---|---|---|
message =~ "error.*timeout" や message LIKE "%database%" など、固定リテラルの部分文字列を含む | NGRAM | Zilliz Cloud がパターンから意味のあるリテラル部分文字列を抽出できる場合に役立ちます。詳細については、NGRAM を参照してください。 |
| プレフィックス、完全一致、等価に近い文字列フィルター。特にカーディナリティが低から中程度のフィールド | STL_SORT、INVERTED、BITMAP | フィールドに繰り返し値がある場合、またはフィルターが完全一致に近い場合に、より効果的となることがあります。詳細については、STL_SORT、INVERTED、BITMAP を参照してください。 |
| 固定リテラルがない正規表現パターン、または文字クラス、短いトークン、ワイルドカードが中心のパターン | インデックスによる高速化に依存する前にベンチマークする | これらのパターンはインデックスの選択性が限られている可能性があり、より広範なスキャンにフォールバックすることがあります。 |