pingcap/tidb

Refine the implementation of `HashJoinExecutor`

Open

#14 466 ouverte le 14 janv. 2020

Voir sur GitHub
 (4 commentaires) (0 réactions) (0 assignés)Go (6 186 forks)batch import
help wantedsig/executiontype/enhancement

Métriques du dépôt

Stars
 (40 090 stars)
Métriques de merge PR
 (Merge moyen 14j 4h) (346 PRs mergées en 30 j)

Description

Feature Request

Is your feature request related to a problem? Please describe:

Now the implementation of TiDB's hash-join executor is rough and after profiling, we found there are some issues can be resolved to get better performance: image

  • not necessary to initialize and reset the baseJoiner.chk if no condition #14902
  • the method joinMatchedProbeSideRow2Chunk uses the method NewIterator4Slice to create a lot of iterators whereas these iterators can be reused. #15423
  • some slices created in GetMatchRowsAndPtrs can be reused. #15423
  • we can try to change the return type of entryStore.get from structs to pointers which may reduce memory copy(but it may cause some GC problems so we need some tests after update).
  • we can try to build the hash table in parallel.

If you have any other ideas, welcome to discuss it with us in our SIG-Exec channel or in this issue by using comments.

Guide contributeur

Direction de recherche
Examinez les sous tâches restantes : réutiliser les itérateurs dans joinMatchedProbeSideRow2Chunk, réutiliser les slices dans GetMatchRowsAndPtrs, envisager de changer le type de retour de entryStore.get en pointeurs pour réduire la copie mémoire et explorer la construction parallèle de la table de hachage. Commencez par lire les PR référencées et le code dans executor/joiner.go.
Stack technique
go
Domaine
database
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-2 jours
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Plutôt claire
Prérequis
Goknowledge of join algorithms
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
50