Créer un catalogue

La création d'un point de terminaison de catalogue (tel qu'un point de terminaison de catalogue REST Apache Iceberg ou un point de terminaison de catalogue Apache Hive) établit un point de terminaison de gestion dans le catalogue d'environnements d'exécution Lakehouse.

Ce point de terminaison pointe vers un bucket Cloud Storage sous-jacent, fournissant une couche de métadonnées qui permet aux moteurs de requête et aux charges de travail Open Source d'interagir directement avec vos tables.

Lorsque vous créez votre point de terminaison de catalogue pour Lakehouse sans bordure, vous pouvez choisir entre les identifiants de l'utilisateur final ou le mode de distribution d'identifiants pour la délégation d'accès au stockage.

Avant de commencer

  1. Consultez À propos du catalogue d'environnements d'exécution Lakehouse pour comprendre le fonctionnement du catalogue d'environnements d'exécution Lakehouse et les limites du service.
    2. Connectez-vous à votre compte Google Cloud . Si vous débutez sur Google Cloud, créez un compte pour évaluer les performances de nos produits en conditions réelles. Les nouveaux clients bénéficient également de 300 $ de crédits sans frais pour exécuter, tester et déployer des charges de travail.

    In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

    Verify that billing is enabled for your Google Cloud project.

    Enable the BigLake API, if it is not already enabled.

    Roles required to enable APIs

    To enable APIs, you need the serviceusage.services.enable permission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.

    Enable the API

    In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

    Verify that billing is enabled for your Google Cloud project.

    Enable the BigLake API, if it is not already enabled.

    Roles required to enable APIs

    To enable APIs, you need the serviceusage.services.enable permission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.

    Enable the API

Rôles requis

Pour obtenir les autorisations nécessaires pour créer un catalogue et enregistrer des tables, demandez à votre administrateur de vous accorder les rôles IAM suivants :

  • Créer un catalogue :
  • Créer (enregistrer) des tables : Administrateur BigLake (roles/biglake.admin) sur votre projet. L'enregistrement des tables nécessite l'autorisation spécifique d'enregistrement des tables (biglake.tables.register), qui est incluse dans le rôle Administrateur BigLake.
  • Utilisez le compte de service de catalogue provisionné automatiquement en mode de distribution d'identifiants : Utilisateur d'objets Storage (roles/storage.objectUser) sur les buckets Cloud Storage cibles. Après avoir créé le catalogue, attribuez explicitement le rôle Utilisateur d'objets de stockage (roles/storage.objectUser) sur vos buckets de stockage au compte de service provisionné automatiquement.

Pour en savoir plus sur l'attribution de rôles, consultez Gérer l'accès aux projets, aux dossiers et aux organisations.

Vous pouvez également obtenir les autorisations requises avec des rôles personnalisés ou d'autres rôles prédéfinis.

Créer un catalogue

Créez un catalogue.

Créer un catalogue

Pour créer un catalogue en fonction du mode d'authentification et du type de bucket de votre choix, procédez comme suit. Pour en savoir plus sur les différents types de catalogues, consultez À propos du point de terminaison du catalogue REST Apache Iceberg.

Console

Créer un catalogue à plusieurs buckets (recommandé)

Cette configuration permet à votre catalogue d'associer plusieurs buckets et de nommer votre catalogue indépendamment de tout nom de bucket.

  1. Ouvrez la page Lakehouse dans la console Google Cloud .

    Accéder à Lakehouse

  2. Cliquez sur Créer un catalogue.

  3. Pour Type de catalogue, sélectionnez Catalogue REST Iceberg.

  4. Pour Options de bucket de catalogue Lakehouse, sélectionnez Catalogue à plusieurs buckets.

  5. Pour Chemin d'accès Cloud Storage du catalogue par défaut, saisissez ou recherchez le chemin d'accès Cloud Storage à utiliser avec votre catalogue.

  6. Dans le champ ID du catalogue, saisissez un nom personnalisé pour votre catalogue.

  7. Pour Emplacement principal, sélectionnez un emplacement. L'emplacement doit se trouver à proximité des régions du bucket principal.

  8. Cliquez sur Continuer.

  9. À l'étape Chemins d'accès aux données, ajoutez d'autres chemins d'accès Cloud Storage si nécessaire.

  10. Cliquez sur Continuer.

  11. Dans le champ Authentication method (Méthode d'authentification), sélectionnez End-user credentials (Identifiants de l'utilisateur final) ou Credential vending mode (Mode de distribution d'identifiants).

  12. Cliquez sur Créer.

    Votre catalogue est créé et la page Détails du catalogue s'ouvre.

  13. Si vous avez sélectionné Mode de distribution d'identifiants, procédez comme suit :

    1. Sous Méthode d'authentification, cliquez sur Définir les autorisations du bucket.
    2. Dans la boîte de dialogue, cliquez sur Confirmer.

Créer un catalogue à bucket unique (gs://)

  1. Pour Type de catalogue, sélectionnez Catalogue REST Iceberg ou Hive Metastore.
  2. Pour Options de bucket du catalogue Lakehouse, sélectionnez Catalogue à bucket unique.
  3. Pour Chemin d'accès Cloud Storage du catalogue par défaut, saisissez ou recherchez le chemin d'accès Cloud Storage à utiliser avec votre catalogue. (Pour un catalogue à bucket unique (gs://), vous ne pouvez avoir qu'un seul catalogue par bucket, et le nom du catalogue correspond au nom du bucket.)
  4. Cliquez sur Continuer.
  5. Dans le champ Authentication method (Méthode d'authentification), sélectionnez End-user credentials (Identifiants de l'utilisateur final) ou Credential vending mode (Mode de distribution d'identifiants).
  6. Cliquez sur Créer.
  7. Si vous avez sélectionné Mode de distribution d'identifiants, procédez comme suit :
    1. Sous Méthode d'authentification, cliquez sur Définir les autorisations du bucket.
    2. Dans la boîte de dialogue, cliquez sur Confirmer.

gcloud

Créer un catalogue à plusieurs buckets (recommandé)

Cette configuration permet à votre catalogue d'associer plusieurs buckets et de nommer votre catalogue indépendamment de tout nom de bucket.

Pour créer un catalogue à plusieurs buckets (recommandé), exécutez la commande gcloud biglake iceberg catalogs create.

gcloud biglake iceberg catalogs create \
    CATALOG_NAME \
    --project PROJECT_ID \
    --catalog-type biglake \
    --default-location DEFAULT_LOCATION \
    --credential-mode CREDENTIAL_MODE \
    [--restricted-locations RESTRICTED_LOCATIONS] \
    [--primary-location LOCATION]

Remplacez les éléments suivants :

  • CATALOG_NAME : nom de votre catalogue. Pour les catalogues multibuckets (recommandés), il s'agit du nom de votre catalogue personnalisé.
  • PROJECT_ID : ID de votre projet Google Cloud.
  • DEFAULT_LOCATION : spécifiez l'emplacement de stockage par défaut du catalogue. Vous pouvez spécifier un bucket (gs://my-bucket) ou un sous-chemin (gs://my-bucket/path). Tous les espaces de noms et toutes les tables du catalogue doivent se trouver sous le chemin spécifié. Par exemple, si vous spécifiez gs://my-bucket/path, vous ne pouvez pas créer d'espaces de noms ni de tables sous gs://my-bucket/another/path.

  • CREDENTIAL_MODE : méthode d'authentification. Utilisez end-user pour les identifiants de l'utilisateur final ou vended-credentials pour le mode de distribution d'identifiants.

    Remarque : Si vous utilisez le mode de distribution des identifiants, vous devez accorder explicitement le rôle Utilisateur d'objets Storage (roles/storage.objectUser) sur tous les buckets de stockage associés au compte de service du catalogue d'exécution Lakehouse provisionné automatiquement.

  • RESTRICTED_LOCATIONS : (facultatif) liste d'emplacements de stockage supplémentaires autorisés, séparés par une virgule, au format gs://my-bucket-1/...,gs://my-bucket-2/.... Si vous spécifiez un chemin d'accès (tel que gs://my-bucket/path), tous les espaces de noms ou tables de ce bucket doivent se trouver sous ce chemin d'accès. Tous les emplacements de stockage cloud configurés dans l'emplacement par défaut et les emplacements restreints doivent se trouver dans le même groupe de régions géographiques ou la même juridiction (par exemple, les États-Unis, l'Europe, le Canada ou l'Asie). Par exemple, vous ne pouvez pas mélanger un bucket aux États-Unis avec un bucket en Europe. Pour obtenir la liste des emplacements compatibles, consultez Emplacements Lakehouse.

    Avertissement : Évitez de configurer des chemins qui se chevauchent avec d'autres catalogues pour éviter l'exposition non autorisée d'identifiants. Pour en savoir plus, consultez Stockage dans plusieurs buckets.

  • LOCATION : (facultatif) région principale du catalogue pour assurer l'interopérabilité avec BigQuery. Pour les buckets Cloud Storage situés dans la région des États-Unis (par exemple, US ou us-central1) ou dans la région de l'UE (par exemple, EU ou europe-west4), spécifiez US ou EU, respectivement, pour vous assurer que le catalogue est accessible et disponible pour les requêtes depuis les régions multirégionales BigQuery correspondantes. Pour en savoir plus, consultez Régions des buckets et des catalogues.

Créer un catalogue à bucket unique (gs://)

Pour créer un catalogue à un seul bucket (gs://), exécutez la commande suivante :

gcloud biglake iceberg catalogs create \
    CATALOG_NAME \
    --project PROJECT_ID \
    --catalog-type gcs-bucket \
    --credential-mode CREDENTIAL_MODE

Remplacez les éléments suivants :

  • CATALOG_NAME : nom de votre catalogue. Pour les catalogues à bucket unique (gs://), cela correspond à l'ID de bucket Cloud Storage utilisé avec le catalogue REST.
  • PROJECT_ID : ID de votre projet Google Cloud.
  • CREDENTIAL_MODE : méthode d'authentification. Utilisez end-user pour les identifiants de l'utilisateur final ou vended-credentials pour le mode de distribution d'identifiants.

REST

Créer un catalogue REST Iceberg

Pour créer un point de terminaison de gestion de catalogue à l'aide de l'API REST, envoyez une requête POST au point de terminaison CreateIcebergCatalog :

POST /iceberg/v1/restcatalog/extensions/projects/PROJECT_ID/catalogs?icebergCatalogId=CATALOG_ID

Le corps de la requête doit contenir une charge utile JSON IcebergCatalog définissant la configuration du catalogue, comme l'entrepôt de données du bucket Cloud Storage sous-jacent et le mode d'authentification.

Remplacez les éléments suivants :

  • PROJECT_ID : ID de votre projet Google Cloud .
  • CATALOG_ID : ID de votre catalogue d'exécution Lakehouse.