Lightning-AI/lightning-thunder

Handle returning NamedTuples from the JIT

Aperta

#147 aperta il 9 apr 2024

Vedi su GitHub
 (0 commenti) (0 reazioni) (0 assegnatari)Python (114 fork)github user discovery
enhancementhelp wantedjit

Metriche repository

Star
 (1460 stelle)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

NamedTuples have (some) support in the interpreter, but to return them from the JIT, we would need some more things:

  • ensure value tracking covers creation (populating the attribute_wrappers) - this is in interpreter,
  • when seeing NamedTuples being returned, add epilogue code to create the NamedTuple from its contents (which are available),

This is nontrivial as it requires return values to be routed through the epilogue, but I don't think that is grave.

This is probably an intermediate to advanced issue for people fond of the JIT / frontend bits.

Guida contributor

Direzione di ricerca
Studia la generazione dell'epilogo JIT e comprendi come vengono creati i NamedTuple nell'interprete. Quindi implementa il codice dell'epilogo per costruire un NamedTuple dai valori tracciati.
Tech stack
pythonpytorch
Dominio
backend
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-2 giorni
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Nuova
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
PythonPyTorch
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
30