Voyage AI Ranker
Voyage AI Ranker は、Voyage AI の特化型 reranker を活用し、セマンティック reranking によって検索の関連性を向上させます。retrieval-augmented generation(RAG)と検索アプリケーション向けに最適化された高性能な reranking 機能を提供します。
Voyage AI Ranker は、次のようなアプリケーションで特に有用です。
-
reranking タスク向けに特別にトレーニングされたモデルによる高度なセマンティック理解
-
本番ワークロード向けに最適化された推論による高性能な処理
-
多様なドキュメント長に対応する柔軟な切り捨て制御
-
異なるモデルバリアント(rerank-2、rerank-lite など)にわたる微調整された性能
事前準備
Voyage AI Ranker を使用する前に、次の前提条件を満たしていることを確認してください。
-
rerank モデルを選択する
rerank-2.5など、使用する Cohere rerank モデルを決定します。選択したモデルによって、reranking 時にセマンティックな関連性をどのように評価するかが決まります。詳細については、Voyage AI 公式ドキュメント を参照してください。 -
Voyage AI と統合し、integration ID を取得する
Voyage AI Ranker を使用するには、まず Zilliz Cloud コンソール で Voyage AI をモデルプロバイダーとして統合する必要があります。
統合後、Zilliz Cloud は integration ID を生成します。これは rerank 関数を定義する際に参照するものです。詳細な手順については、モデルプロバイダーとの統合 を参照してください。
-
rerank 可能なテキストフィールドを含むコレクションスキーマを計画する
コレクションに、rerank 対象のテキストを含む
VARCHARフィールドが 1 つ含まれていることを確認してください。
Voyage AI Ranker を使用する
このセクションでは、検索時に Voyage AI Ranker を適用して、取得した結果を rerank する方法を説明します。
rerank 関数は検索時に定義および適用されるため、クエリごとに reranking の動作を有効化、無効化、または変更できます。
準備
次のセットアップでは、検索および reranking に使用するコレクションとサンプルデータを準備します。
サンプルデータを含むコレクションを準備する
from pymilvus import MilvusClient, DataType
client = MilvusClient(
uri="YOUR_ZILLIZ_CLOUD_URI",
token="YOUR_ZILLIZ_CLOUD_TOKEN",
)
collection_name = "voyage_rerank_demo"
# Define collection schema
schema = client.create_schema()
schema.add_field("id", DataType.INT64, is_primary=True, auto_id=False)
schema.add_field("document", DataType.VARCHAR, max_length=1000)
schema.add_field("dense", DataType.FLOAT_VECTOR, dim=4)
# Configure index
index_params = client.prepare_index_params()
index_params.add_index(
field_name="dense",
index_type="AUTOINDEX",
metric_type="COSINE"
)
# Create collection
client.create_collection(
collection_name=collection_name,
schema=schema,
index_params=index_params
)
# Insert sample data
data = [
{
"id": 1,
"document": "Recent renewable energy developments include improved solar efficiency.",
"dense": [0.10, 0.20, 0.30, 0.40],
},
{
"id": 2,
"document": "Climate policy and carbon markets have evolved rapidly in recent years.",
"dense": [0.11, 0.19, 0.28, 0.39],
},
{
"id": 3,
"document": "New battery technology helps stabilize wind and solar power generation.",
"dense": [0.90, 0.10, 0.05, 0.02],
},
{
"id": 4,
"document": "Vector databases support similarity search for machine learning applications.",
"dense": [0.01, 0.02, 0.03, 0.04],
},
]
client.insert(collection_name, data)
rerank 関数を定義する
Voyage AI Ranker は、コレクションスキーマの一部としてではなく、検索時に定義されます。
rerank 関数では、次の項目を指定します。
-
rerank するテキストフィールド(
VARCHAR) -
使用する Voyage AI モデル
-
クエリとドキュメントをどのように切り捨てるか、または検証するか
from pymilvus import Function, FunctionType
voyage_ranker = Function(
name="voyage_semantic_ranker",
input_field_names=["document"],
function_type=FunctionType.RERANK,
params={
"reranker": "model",
"provider": "voyageai",
"model_name": "rerank-2.5",
"queries": ["renewable energy developments"],
"truncation": True,
"integration_id": "YOUR_INTEGRATION_ID",
}
)
queries 内の文字列の数は、検索リクエストで発行されるクエリの数と一致している必要があります。
rerank 関数を使用して検索する
query_vector = [0.12, 0.21, 0.29, 0.41]
results = client.search(
collection_name=collection_name,
data=[query_vector],
anns_field="dense",
limit=3,
output_fields=["document"],
ranker=voyage_ranker,
)
print(results)
この検索では、次の処理が実行されます。
-
ベクトル検索を使用して候補が取得されます。
-
Voyage AI Ranker が各候補のセマンティックな関連性を評価します。
-
結果セットは返される前に並べ替えられます。
次のステップ
Voyage AI Ranker はハイブリッド検索と組み合わせて使用することもできます。
検索とハイブリッド検索では、同じ方法で ranker を適用します。
どちらの場合も、検索時に ranker パラメータを介して rerank 関数を渡します。
詳細については、マルチベクトルハイブリッド検索 を参照してください。