メインコンテンツまでスキップ

データのインポート(Console)

このページでは、準備したデータを Zilliz Cloud コンソールでインポートする方法を紹介します。

Web UI でデータをインポートする

データファイルの準備ができたら、ローカルドライブから直接インポートするか、AWS S3、Google Cloud GCS、Azure Blob Storage などのオブジェクトストレージバケットにアップロードしてデータをインポートできます。

📘📘 注意
  • 1 つの collection では、実行中または保留中のインポートジョブを最大 10,000 件まで保持できます。

  • Web コンソールでは、最大 1 GB のローカル JSON または Parquet ファイルのアップロードをサポートしています。より大きいファイルについては、代わりにオブジェクトストレージからアップロードすることを推奨します。データのインポートで問題が発生した場合は、サポートチケットを作成してください。

ローカルファイル

Zilliz Cloud は、ローカルの JSON または Parquet ファイルからのデータインポートをサポートしています。データが NumPy 形式で準備されている場合は、オブジェクトストレージバケットからインポートしてください。

ローカルファイルからデータをインポートするには、アップロード領域にファイルをドラッグ&ドロップして、Import をクリックします。

オブジェクトストレージバケット内のリモートファイル

リモートファイルをインポートするには、まずそれらをリモートバケットにアップロードする必要があります。生データをサポートされている形式に簡単に変換し、結果ファイルを BulkWriter ツールを使用してアップロードできます。

準備したファイルをリモートバケットにアップロードしたら、オブジェクトストレージサービスを選択し、リモートバケット内のファイルパスと、Zilliz Cloud がバケットからデータを取得するためのバケット認証情報を入力します。

データセキュリティ要件に応じて、データインポート時に長期認証情報または短期トークンのいずれかを使用できます。

認証情報の取得方法の詳細については、次を参照してください。

短期トークンの使用に関する詳細については、この FAQ を参照してください。

📘注意

Zilliz Cloud では現在、cluster をホストしているクラウドプロバイダーに関係なく、任意のオブジェクトストレージサービスから任意の Zilliz Cloud cluster にデータをインポートできます。たとえば、AWS S3 バケットから GCP 上にデプロイされた Zilliz Cloud cluster にデータをインポートできます。

低レイテンシで安定した体験を確保するため、ターゲット cluster と同じプロバイダーかつ同じリージョンのバケットまたは blob container を使用することを推奨します。

volume から

  • Managed volume: ローカルファイルが非常に大きい場合(> 1GB)は、まずファイルを managed volume にアップロードしてから、volume からインポートできます。準備したファイルを volume にアップロードしたら、ファイルパスをコピーし、そのまま collection へのファイルのインポートを続行します。

  • External volume: データファイルがクラウドオブジェクトストレージバケット内にある場合は、そのバケットにマッピングされる external volume を作成できます。その後、毎回認証情報を指定することなく、external volume から直接データをインポートできます。

次のデモは、managed volume からデータをインポートする方法を示しています。

結果を確認する

インポートジョブの進行状況とステータスは、Jobs ページで確認できます。

サポートされているオブジェクトパス

適用可能なオブジェクトパスについては、Storage Options および Format Options を参照してください。

FAQ

external volume と external storage からの直接インポートの違いは何ですか?

どちらも、自分の S3 または GCS バケットからデータをインポートできます。主な違いは次のとおりです。

  • external volume では、認証情報管理のために AWS S3 bucketGoogle Cloud Storage bucket、または Microsoft Azure blob storage container を Zilliz Cloud と統合する必要があります。認証情報は一度設定すれば、複数の volume や操作で再利用できます。データエンジニアはクラウドストレージキーに直接アクセスする必要がありません。

  • 直接の external storage import では、インポート要求ごとに認証情報(access key と secret key)を指定する必要があります。これは一度きりのインポートには簡単ですが、認証情報の分離や再利用性は提供されません。

Ctrl I