sgl-project/sglang

[Kernel] cuDNN attention backend

Open

#2 272 ouverte le 30 nov. 2024

Voir sur GitHub
 (5 commentaires) (1 réaction) (2 assignés)Python (6 216 forks)auto 404
enhancementgood first issuehelp wantedhigh priorityinactive

Métriques du dépôt

Stars
 (28 442 stars)
Métriques de merge PR
 (Merge moyen 2j 1h) (1 000 PRs mergées en 30 j)

Description

cuDNN provides very fast attention implementation and it is well maintained by NVIDIA. We would like to add a new attention backend based on cudnn.

Steps

  1. Learn this cudnn paged attention python api. https://github.com/NVIDIA/cudnn-frontend/blob/v1.8.0/samples/python/52_scaled_dot_product_attention_with_paged_caches.ipynb
  2. Add a new attention backend "cudnn" here https://github.com/sgl-project/sglang/tree/main/python/sglang/srt/layers/attention
  3. We should be able to use it with python3 -m sglang.launch_server --model meta-llama/Llama-3.1-8B-Instruct --attention-backend cudnn

Guide contributeur

Direction de recherche
Étudiez les backends d'attention existants dans sglang/srt/layers/attention, comprenez l'interface et explorez l'API Python d'attention paginée cuDNN liée à l'étape 1. Ensuite, implémentez un nouveau backend en suivant le modèle des backends existants.
Stack technique
python
Domaine
backendmachine learning
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-2 jours
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
PythonCUDAcuDNN
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
60