apache/beam

Multiple batch joins on the same key results in multiple shuffles

Open

#19 097 ouverte le 3 juin 2022

Voir sur GitHub
 (0 commentaires) (0 réactions) (0 assignés)Java (4 097 forks)batch import
P3dslgood first issueimprovementsql

Métriques du dépôt

Stars
 (7 313 stars)
Métriques de merge PR
 (Merge moyen 6j) (243 PRs mergées en 30 j)

Description

The query like this:


SELECT a.*, b.*, c.* FROM a JOIN b ON a.some_id = b.some_id JOIN c ON a.some_id = c.some_id;

results in two shuffles. Can probably be optimized.

Relevant code:

Imported from Jira BEAM-5049. Original Jira may contain additional context. Reported by: kedin.

Guide contributeur

Direction de recherche
Examinez l'implémentation de CoGBK Join et BeamJoinRel pour comprendre pourquoi plusieurs shuffles se produisent pour les jointures sur la même clé. Cherchez des opportunités pour combiner les shuffles en réutilisant les données partitionnées de la première jointure.
Stack technique
java
Domaine
backenddata
Type d'issue
Performance
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
Une demi journée
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Ancienne
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
JavaApache BeamSQL
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
40