モデルプロバイダーとの統合
外部プロバイダーでホストされている text embedding または reranking モデルは、プロバイダーがプロジェクトからのリクエストを認証できるようになるまで、Zilliz Cloud から呼び出すことはできません。モデルプロバイダー統合は、プロバイダー発行の認証情報をプロジェクトレベルで保存し、text embedding および reranking 機能が参照できる integration ID を Zilliz Cloud に提供します。これにより、個々の Function または Ranker 設定に認証情報を配置する必要がなくなります。
モデルプロバイダー統合の作成自体に料金は発生しません。外部プロバイダーはモデル推論に対して課金する場合があり、プロバイダーへデータを送信するとデータ転送コストが発生する可能性があります。
サポートされているモデルプロバイダー
以下のモデルプロバイダーを Zilliz Cloud と統合できます。
| Model provider | Supported Zilliz Cloud features | Required credential |
|---|---|---|
| OpenAI | Text Embedding Function | API key。取得方法については、OpenAI API quickstartを参照してください。 |
| Cohere | Text Embedding Function および model-based Ranker | API key。取得方法については、API Keys and Rate Limitsを参照してください。 |
| Voyage AI | Text Embedding Function および model-based Ranker | API key。取得方法については、API Key and Python Clientを参照してください。 |
| Hugging Face | Text Embedding Function および Hugging Face Ranker | Make calls to Inference Providers 権限を持つ User Access Token。取得方法については、User Access Tokensを参照してください。 |
外部プロバイダーのモデルを選択する際は、そのプロバイダーが現在、必要なタスクに対してそのモデルを提供していることを確認してください。モデルの可用性、タスク対応、安定性、レイテンシ、出力品質は、プロバイダーと選択したモデルによって異なります。本番環境でモデルを使用する前に、これらの特性をワークロードに対して評価してください。
開始する前に
モデルプロバイダー統合を作成する前に、以下を確認してください。
-
対象の Zilliz Cloud プロジェクトに対する Organization Owner または Project Admin 権限を持っていること。十分な権限がない場合は、Zilliz Cloud の Organization Owner に連絡してください。
-
選択したモデルプロバイダーで必要な認証情報を持っていること。サポートされているモデルプロバイダーを参照してください。
Zilliz Cloud コンソールで統合を作成する
モデルプロバイダー統合を作成するには、次の手順を実行します。
Zilliz Cloud コンソールにログインします。
プロジェクトページで、左側のナビゲーションペインから Integrations に移動します。
Model Providers セクションで、+ Integration をクリックします。
表示されるダイアログボックスで、Basic Settings を設定します。
-
Model Provider: 統合するモデルプロバイダーを選択します。
-
Integration Name: この統合の一意な名前です（例:
test）。 -
Integration Description*(optional)*: この統合の説明です（例:
for model provider）。 -
Provider (Hugging Face only): デフォルト値
hf-inferenceのままにします。Hugging Face Text Embedding と Hugging Face Ranker は現在、この Inference Provider のみをサポートしています。
Next をクリックします。Credential Information ステップに移動します。
-
選択したモデルプロバイダーに必要な認証情報を入力します。Hugging Face の場合は、Hugging Face Access Token フィールドに User Access Token を入力します。
-
Validate Integration をクリックして接続を確認します。ステータスが Successful に変わったら、次のステップに進みます。
Add をクリックします。
作成後、この統合はモデルベースの function および ranker で使用できるようになります。
統合の管理
統合を作成した後は、Integrations ページから管理できます。
-
integration ID を取得する
Text Embedding Function または model-based Ranker が統合を使用する際には、integration ID が必要です。
-
統合の詳細を表示する
-
統合名または説明を編集する
-
不要になった統合を削除する
統合が削除されたり無効になったりすると、それを参照している collections や rankers は、統合が更新または置き換えられるまで、insert または search 操作中に失敗する可能性があります。
次のステップ
モデルプロバイダー統合を作成した後は、次のことができます。
-
Text Embedding Function と一緒に使用して、テキストを dense vectors に変換する。
-
model-based Ranker を使用して、検索結果を rerank する。
詳細な手順については、以下を参照してください。