apache/beam

Bigquery queries should allow options to run in batch mode or not

Open

#18 486 ouverte le 3 juin 2022

Voir sur GitHub
 (0 commentaires) (0 réactions) (0 assignés)Java (4 097 forks)batch import
P3buggcpgood first issueiojava

Métriques du dépôt

Stars
 (7 313 stars)
Métriques de merge PR
 (Merge moyen 6j) (243 PRs mergées en 30 j)

Description

When bigquery read does a query it sets the mode to batch. A batch query can be very slow to schedule as it batches it with other queries. However it doesn't use batch quota which is better for some cases. However, in some cases a fast query is better (especially in timed tests). It would be a good idea to have a configuration to the bigquery source to set this per-read.

Imported from Jira BEAM-2817. Original Jira may contain additional context. Reported by: laraschmidt.

Guide contributeur

Direction de recherche
Identifiez où la transformation de lecture BigQuery est définie et comment les options de requête sont transmises. Ajoutez un nouveau paramètre pour la sélection du mode batch.
Stack technique
java
Domaine
backenddata engineering
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
JavaApache BeamBigQuery
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
70