apache/beam

Can't use side inputs with Combine.PerKeyWithHotKeyFanout

Open

#20 637 ouverte le 4 juin 2022

Voir sur GitHub
 (3 commentaires) (0 réactions) (1 assigné)Java (4 097 forks)batch import
P3bugcoregood first issuejava

Métriques du dépôt

Stars
 (7 313 stars)
Métriques de merge PR
 (Merge moyen 6j) (243 PRs mergées en 30 j)

Description

PerKeyWithHotKeyFanout doesn't allow a user to specify a side input and access it in the CombineFn. When the function withHotKeyFanout is called, any sideinputs stored in the Combine.PerKey are dropped. (https://github.com/apache/beam/blob/master/sdks/java/core/src/main/java/org/apache/beam/sdk/transforms/Combine.java#L1571): 


    public PerKeyWithHotKeyFanout<K, InputT, OutputT> withHotKeyFanout(
        SerializableFunction<?
super K, Integer> hotKeyFanout) {
      return new PerKeyWithHotKeyFanout<>(fn, fnDisplayData, hotKeyFanout);

   }

We would like to be able to use side inputs and hot key fanout.

Imported from Jira BEAM-11005. Original Jira may contain additional context. Reported by: miagilepner.

Guide contributeur

Direction de recherche
Étudiez la méthode `withHotKeyFanout` dans `Combine.java` à la ligne 1571, qui ignore les entrées latérales. Déterminez comment préserver et transmettre les entrées latérales à la `CombineFn` lors de la création d'un `PerKeyWithHotKeyFanout`. Examinez la gestion existante des entrées latérales dans les autres variantes de `Combine` et la classe `WithSideInputs`. La demande consiste à ajouter la prise en charge des entrées latérales parallèlement au fanout des clés chaudes, ce qui nécessite des modifications du constructeur ou de la méthode `PerKeyWithHotKeyFanout` pour accepter et stocker les entrées latérales, puis les propager à la `CombineFn` lors de l'évaluation.
Stack technique
java
Domaine
backend
Type d'issue
Bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
JavaApache Beam
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
70