モデルプロバイダーとの連携
外部プロバイダーでホストされているテキスト埋め込みモデルやリランキングモデルを Zilliz Cloud から呼び出すには、プロバイダーがプロジェクトからのリクエストを認証できるようにする必要があります。モデルプロバイダー連携は、プロバイダーが発行した認証情報をプロジェクトレベルで保存し、テキスト埋め込み機能やリランキング機能から参照できる統合 ID を Zilliz Cloud に提供します。これにより、個々の Function や Ranker の設定に認証情報を含める必要がなくなります。
モデルプロバイダー連携の作成自体には料金は発生しません。外部プロバイダーではモデル推論の料金が発生する場合があり、プロバイダーへのデータ送信にはデータ転送費用が発生する場合があります。
サポートされているモデルプロバイダー
Zilliz Cloud と連携できるモデルプロバイダーは以下のとおりです。
モデルプロバイダー | サポートされている Zilliz Cloud 機能 | 必要な認証情報 |
|---|---|---|
OpenAI | テキスト埋め込み Function | API キー。取得方法については、OpenAI API クイックスタートを参照してください。 |
Cohere | テキスト埋め込み Function およびモデルベースの Ranker | API キー。取得方法については、API Keys and Rate Limitsを参照してください。 |
Voyage AI | テキスト埋め込み Function およびモデルベースの Ranker | API キー。取得方法については、API Key and Python Clientを参照してください。 |
Hugging Face | Make calls to Inference Providers 権限を持つ User Access Token。取得方法については、User Access Tokensを参照してください。 |
外部プロバイダーからモデルを選択する際は、必要なタスク用にそのモデルが現在提供されていることを確認してください。モデルの可用性、タスクのサポート、安定性、レイテンシー、出力品質は、プロバイダーと選択したモデルによって異なります。本番環境で使用する前に、ワークロードに対してこれらの特性を評価してください。
開始前の準備
モデルプロバイダー連携を作成する前に、以下を確認してください。
-
対象のZilliz Cloudプロジェクトで、組織オーナーまたはプロジェクト管理者の権限を持っていること。十分な権限がない場合は、Zilliz Cloudの組織オーナーに問い合わせてください。
-
選択したモデルプロバイダーで必要な認証情報を持っていること。サポートされているモデルプロバイダーを参照してください。
Zilliz Cloud コンソールで連携を作成する
モデルプロバイダー連携を作成するには：
Zilliz Cloud コンソール にログインします。
プロジェクトページで、左側のナビゲーションペインから Integrations に移動します。
モデルプロバイダー セクションで、+ Integration をクリックします。
表示されたダイアログボックスで、基本設定 を構成します。
-
モデルプロバイダー: 連携するモデルプロバイダーを選択します。
-
統合名: この連携の一意の名前（例：
test）。 -
統合の説明 (オプション): この連携の説明（例：
for model provider）。 -
Provider (Hugging Face のみ): デフォルト値の
hf-inferenceを使用します。Hugging Face Text Embedding と Hugging Face Ranker は現在、この Inference Provider のみをサポートしています。
Next をクリックします。認証情報 ステップにリダイレクトされます。
-
選択したモデルプロバイダーで必要な認証情報を入力します。Hugging Face の場合は、Hugging Face Access Token フィールドに User Access Token を入力します。
-
統合の検証 をクリックして接続を確認します。ステータスが「成功」に変わったら、次のステップに進みます。
Add をクリックします。
作成後、連携はモデルベースの関数およびランカーで使用できるようになります。
連携の管理
連携が作成された後、Integrations ページから管理できます。
-
統合IDの取得
テキスト埋め込み Function またはモデルベースの Ranker で連携を使用する際に、統合 ID が必要になります。
-
連携詳細の表示
-
連携名または説明の編集
-
不要になった連携の削除
連携が削除されたり無効になったりすると、それを参照しているコレクションやランカーは、連携が更新または置き換えられるまで、挿入や検索操作で失敗する可能性があります。
次のステップ
モデルプロバイダー連携を作成した後、以下が可能です。
-
テキスト埋め込み Function とともに使用して、テキストを密ベクトルに変換する。
-
モデルベースの Ranker を使用して、検索結果をリランキングする。
詳細な手順については、以下を参照してください。