Lightning-AI/lightning-thunder

Handle returning NamedTuples from the JIT

Ouverte

#147 ouverte le 9 avr. 2024

Voir sur GitHub
 (0 commentaire) (0 réaction) (0 personne assignée)Python (114 forks)github user discovery
enhancementhelp wantedjit

Métriques du dépôt

Stars
 (1 460 étoiles)
Métriques de merge PR
 (Aucune PR mergée en 30 j)

Description

NamedTuples have (some) support in the interpreter, but to return them from the JIT, we would need some more things:

  • ensure value tracking covers creation (populating the attribute_wrappers) - this is in interpreter,
  • when seeing NamedTuples being returned, add epilogue code to create the NamedTuple from its contents (which are available),

This is nontrivial as it requires return values to be routed through the epilogue, but I don't think that is grave.

This is probably an intermediate to advanced issue for people fond of the JIT / frontend bits.

Guide contributeur

Direction de recherche
Étudiez la génération de l'épilogue JIT et comprenez comment les NamedTuple sont créés dans l'interpréteur. Ensuite, implémentez le code de l'épilogue pour construire un NamedTuple à partir des valeurs suivies.
Stack technique
pythonpytorch
Domaine
backend
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-2 jours
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Récente
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
PythonPyTorch
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
30