モデルプロバイダーとの統合
外部プロバイダーでホストされている text embedding または reranking モデルは、プロバイダーがプロジェクトからのリクエストを認証できるようになるまで、Zilliz Cloud から呼び出すことはできません。モデルプロバイダー統合は、プロバイダー発行の認証情報をプロジェクトレベルで保存し、text embedding および reranking 機能が参照できる integration ID を Zilliz Cloud に提供します。これにより、個々の Function または Ranker 設定に認証情報を配置する必要がなくなります。
モデルプロバイダー統合の作成に料金は発生しません。外部プロバイダーはモデル推論に対して課金する場合があり、プロバイダーにデータを送信するとデータ転送コスト が発生する可能性があります。
サポートされているモデルプロバイダー
以下のモデルプロバイダーを Zilliz Cloud と統合できます。
| モデルプロバイダー | サポートされている Zilliz Cloud 機能 | 必要な認証情報 |
|---|---|---|
| OpenAI | Text Embedding Function | API key。取得方法については、OpenAI API quickstart を参照してください。 |
| Cohere | Text Embedding Function および model-based Ranker | API key。取得方法については、API Keys and Rate Limits を参照してください。 |
| Voyage AI | Text Embedding Function および model-based Ranker | API key。取得方法については、API Key and Python Client を参照してください。 |
| Hugging Face | Text Embedding Function および Hugging Face Ranker | Make calls to Inference Providers 権限を持つ User Access Token。取得方法については、User Access Tokens を参照してください。 |
外部プロバイダーのモデルを選択する際は、そのプロバイダーが現在、必要なタスクに対してそのモデルを提供していることを確認してください。モデルの可用性、タスク対応、安定性、レイテンシ、出力品質は、プロバイダーと選択したモデルによって異なります。本番環境でモデルを使用する前に、これらの特性をワークロードに対して評価してください。
事前準備
モデルプロバイダー統合を作成する前に、以下を確認してください。
-
対象の Zilliz Cloud プロジェクトに対する Organization Owner または Project Admin 権限を持っていること。十分な権限がない場合は、Zilliz Cloud 組織の Organization Owner に連絡してください。
-
選択したモデルプロバイダーに必要な認証情報を持っていること。サポートされているモデルプロバイダー を参照してください。
Zilliz Cloud コンソールで統合を作成する
モデルプロバイダー統合を作成するには、次の手順を実行します。
Zilliz Cloud コンソール にログインします。
プロジェクトページで、左側のナビゲーションペインから Integrations に移動します。
Model Providers セクションで + Integration をクリックします。
表示されるダイアログボックスで、Basic Settings を設定します。
-
Model Provider: 統合するモデルプロバイダーを選択します。
-
Integration Name: この統合の一意の名前です（例:
test）。 -
Integration Description*(optional)*: この統合の説明です（例:
for model provider）。 -
Provider (Hugging Face only): デフォルト値の
hf-inferenceのままにします。Hugging Face Text Embedding と Hugging Face Ranker は現在、この Inference Provider のみをサポートしています。
Next をクリックします。Credential Information ステップにリダイレクトされます。
-
選択したモデルプロバイダーに必要な認証情報を入力します。Hugging Face の場合は、Hugging Face Access Token フィールドに User Access Token を入力します。
-
Validate Integration をクリックして接続を確認します。ステータスが Successful に変わったら、次のステップに進みます。
Add をクリックします。
作成後、この統合はモデルベースの function および ranker で使用できるようになります。
統合の管理
統合を作成した後は、Integrations ページから管理できます。
-
integration ID を取得する
Text Embedding Function または model-based Ranker が統合を使用する際には、integration ID が必要です。
-
統合の詳細を表示する
-
統合名または説明を編集する
-
不要になった統合を削除する
統合が削除されたり無効になったりすると、それを参照しているコレクションまたは ranker は、統合が更新または置き換えられるまで、insert または search 操作中に失敗する可能性があります。
次のステップ
モデルプロバイダー統合を作成した後は、次のことができます。
-
Text Embedding Function と組み合わせて使用し、テキストを密ベクトルに変換する。
-
model-based Ranker を使用して検索結果を rerank する。
詳細な手順については、以下を参照してください。