データのインポート(Console)
このページでは、準備したデータを Zilliz Cloud コンソールでインポートする方法を紹介します。
Web UI でデータをインポートする
データファイルの準備ができたら、ローカルドライブから直接インポートするか、AWS S3、Google Cloud GCS、Azure Blob Storage などのオブジェクトストレージバケットにアップロードしてデータをインポートできます。
-
1 つの collection では、実行中または保留中のインポートジョブを最大 10,000 件まで保持できます。
-
Web コンソールでは、最大 1 GB のローカル JSON または Parquet ファイルのアップロードをサポートしています。より大きいファイルについては、代わりにオブジェクトストレージからアップロードすることを推奨します。データのインポートで問題が発生した場合は、サポートチケットを作成してください。
ローカルファイル
Zilliz Cloud は、ローカルの JSON または Parquet ファイルからのデータインポートをサポートしています。データが NumPy 形式で準備されている場合は、オブジェクトストレージバケットからインポートしてください。
ローカルファイルからデータをインポートするには、アップロード領域にファイルをドラッグ&ドロップして、Import をクリックします。
オブジェクトストレージバケット内のリモートファイル
リモートファイルをインポートするには、まずそれらをリモートバケットにアップロードする必要があります。生データをサポートされている形式に簡単に変換し、結果ファイルを BulkWriter ツールを使用してアップロードできます。
準備したファイルをリモートバケットにアップロードしたら、オブジェクトストレージサービスを選択し、リモートバケット内のファイルパスと、Zilliz Cloud がバケットからデータを取得するためのバケット認証情報を入力します。
データセキュリティ要件に応じて、データインポート時に長期認証情報または短期トークンのいずれかを使用できます。
認証情報の取得方法の詳細については、次を参照してください。
-
Amazon S3: 長期認証情報を使用して認証する
-
Google Cloud Storage: サービスアカウントの HMAC キーを管理する
-
Azure Blob Storage: アカウントアクセスキーを表示する
短期トークンの使用に関する詳細については、この FAQ を参照してください。
Zilliz Cloud では現在、cluster をホストしているクラウドプロバイダーに関係なく、任意のオブジェクトストレージサービスから任意の Zilliz Cloud cluster にデータをインポートできます。たとえば、AWS S3 バケットから GCP 上にデプロイされた Zilliz Cloud cluster にデータをインポートできます。
低レイテンシで安定した体験を確保するため、ターゲット cluster と同じプロバイダーかつ同じリージョンのバケットまたは blob container を使用することを推奨します。
volume から
-
Managed volume: ローカルファイルが非常に大きい場合(> 1GB)は、まずファイルを managed volume にアップロードしてから、volume からインポートできます。準備したファイルを volume にアップロードしたら、ファイルパスをコピーし、そのまま collection へのファイルのインポートを続行します。
-
External volume: データファイルがクラウドオブジェクトストレージバケット内にある場合は、そのバケットにマッピングされる external volume を作成できます。その後、毎回認証情報を指定することなく、external volume から直接データをインポートできます。
次のデモは、managed volume からデータをインポートする方法を示しています。
結果を確認する
インポートジョブの進行状況とステータスは、Jobs ページで確認できます。
サポートされているオブジェクトパス
適用可能なオブジェクトパスについては、Storage Options および Format Options を参照してください。
FAQ
external volume と external storage からの直接インポートの違いは何ですか?
どちらも、自分の S3 または GCS バケットからデータをインポートできます。主な違いは次のとおりです。
-
external volume では、認証情報管理のために AWS S3 bucket、Google Cloud Storage bucket、または Microsoft Azure blob storage container を Zilliz Cloud と統合する必要があります。認証情報は一度設定すれば、複数の volume や操作で再利用できます。データエンジニアはクラウドストレージキーに直接アクセスする必要がありません。
-
直接の external storage import では、インポート要求ごとに認証情報(access key と secret key)を指定する必要があります。これは一度きりのインポートには簡単ですが、認証情報の分離や再利用性は提供されません。