JuliaGPU/CUDA.jl

Consider maximizing grid utilization

Open

#1 321 ouverte le 13 janv. 2022

Voir sur GitHub
 (1 commentaire) (0 réactions) (0 assignés)Julia (274 forks)batch import
good first issueperformance

Métriques du dépôt

Stars
 (1 408 stars)
Métriques de merge PR
 (Merge moyen 5j 5h) (16 PRs mergées en 30 j)

Description

We currently maximize block utilization (taking the max threads), which may leave SMs underutilized. We should consider first selecting an optimal amount of blocks, before maximizing the thread could:

    config = launch_configuration(kernel.fun)
    threads = min(length(ps), config.threads)
    # XXX: this kernel performs much better with all blocks active
    blocks = max(cld(length(ps), threads), config.blocks)
    threads = cld(length(ps), blocks)

I'm sure this will lead to some kernels performing worse, though, but it's probably a good thing to test.

Guide contributeur

Direction de recherche
Étudier la fonction launch configuration dans le fichier kernel.jl pour comprendre la stratégie actuelle d'utilisation des blocs. Tester la modification de code proposée sur une variété d'exemples de noyaux pour comparer les performances. Mesurer l'impact sur différentes architectures GPU et déterminer si le changement est globalement bénéfique.
Stack technique
Aucun
Domaine
performancebackend
Type d'issue
Performance
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
Julia
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
45