メインコンテンツまでスキップ

Voyage AI Ranker

Voyage AI Ranker は、Voyage AI の特化型 reranker を活用して、セマンティック reranking によって検索の関連性を向上させます。これは、retrieval-augmented generation（RAG）および検索アプリケーション向けに最適化された高性能な reranking 機能を提供します。

Voyage AI Ranker は、特に以下を必要とするアプリケーションで有用です。

  • reranking タスク向けに特別にトレーニングされたモデルによる高度なセマンティック理解

  • 本番ワークロード向けに最適化された推論による高性能な処理

  • 多様なドキュメント長に対応する柔軟な切り捨て制御

  • 異なるモデルバリアント（rerank-2、rerank-lite など）にわたる微調整された性能

Before you start​

Voyage AI Ranker を使用する前に、以下の前提条件を満たしていることを確認してください。

  • rerank モデルを選択する

    rerank-2.5 など、使用する Cohere rerank モデルを決定します。選択したモデルによって、reranking 中にセマンティック関連性がどのように評価されるかが決まります。詳細については、Voyage AI 公式ドキュメントを参照してください。

  • Voyage AI と統合し、integration ID を取得する

    Voyage AI Ranker を使用するには、まず Zilliz Cloud コンソールで Voyage AI をモデルプロバイダーとして統合する必要があります。

    統合後、Zilliz Cloud は integration ID を生成します。これは rerank 関数を定義する際に参照します。詳細な手順については、モデルプロバイダーとの統合を参照してください。

  • rerank 可能なテキストフィールドを含む collection スキーマを計画する

    collection に、rerank 対象のテキストを含む VARCHAR フィールドが 1 つ含まれていることを確認してください。

Use Voyage AI Ranker​

このセクションでは、検索時に Voyage AI Ranker を適用して取得結果を rerank する方法を示します。

rerank 関数は検索時に定義および適用されるため、クエリごとに reranking の動作を有効化、無効化、または変更できます。

Preparations​

以下のセットアップでは、検索および reranking のための collection とサンプルデータを準備します。

サンプルデータを含む collection を準備する
python
from pymilvus import MilvusClient, DataType

client = MilvusClient(
    uri="YOUR_ZILLIZ_CLOUD_URI",
    token="YOUR_ZILLIZ_CLOUD_TOKEN",
)

collection_name = "voyage_rerank_demo"

# Define collection schema
schema = client.create_schema()
schema.add_field("id", DataType.INT64, is_primary=True, auto_id=False)
schema.add_field("document", DataType.VARCHAR, max_length=1000)
schema.add_field("dense", DataType.FLOAT_VECTOR, dim=4)

# Configure index
index_params = client.prepare_index_params()
index_params.add_index(
    field_name="dense",
    index_type="AUTOINDEX",
    metric_type="COSINE"
)

# Create collection
client.create_collection(
    collection_name=collection_name,
    schema=schema,
    index_params=index_params
)

# Insert sample data
data = [
    {
        "id": 1,
        "document": "Recent renewable energy developments include improved solar efficiency.",
        "dense": [0.10, 0.20, 0.30, 0.40],
    },
    {
        "id": 2,
        "document": "Climate policy and carbon markets have evolved rapidly in recent years.",
        "dense": [0.11, 0.19, 0.28, 0.39],
    },
    {
        "id": 3,
        "document": "New battery technology helps stabilize wind and solar power generation.",
        "dense": [0.90, 0.10, 0.05, 0.02],
    },
    {
        "id": 4,
        "document": "Vector databases support similarity search for machine learning applications.",
        "dense": [0.01, 0.02, 0.03, 0.04],
    },
]

client.insert(collection_name, data)

Define the rerank function​

Voyage AI Ranker は、collection スキーマの一部としてではなく、検索時 に定義されます。

rerank 関数では、以下を指定します。

  • rerank するテキストフィールド（VARCHAR）

  • 使用する Voyage AI モデル

  • クエリとドキュメントをどのように切り捨てるか、または検証するか

python
from pymilvus import Function, FunctionType

voyage_ranker = Function(
    name="voyage_semantic_ranker",
    input_field_names=["document"],
    function_type=FunctionType.RERANK,
    params={
        "reranker": "model",
        "provider": "voyageai",
        "model_name": "rerank-2.5",
        "queries": ["renewable energy developments"],
        "truncation": True,
        "integration_id": "YOUR_INTEGRATION_ID",
    }
)
📘Notes

queries 内の文字列数は、検索リクエストで発行されるクエリ数と一致している必要があります。

Search with the rerank function​

python
query_vector = [0.12, 0.21, 0.29, 0.41]

results = client.search(
    collection_name=collection_name,
    data=[query_vector],
    anns_field="dense",
    limit=3,
    output_fields=["document"],
    ranker=voyage_ranker,
)

print(results)

この検索では、次のことが行われます。

  1. vector search を使用して候補が取得されます。

  2. Voyage AI Ranker が各候補のセマンティック関連性を評価します。

  3. 結果セットは返される前に並べ替えられます。

Next steps​

Voyage AI Ranker は hybrid search と組み合わせて使用することもできます。

検索と hybrid search では、同じ方法で ranker を適用します。

どちらの場合でも、検索時に ranker パラメータを介して rerank 関数を渡します。

詳細については、Multi-Vector Hybrid Searchを参照してください。

Ctrl I