Lightning-AI/lightning-thunder

Handle returning NamedTuples from the JIT

Aberta

#147 aberto em 9 de abr. de 2024

Ver no GitHub
 (0 comentário) (0 reação) (0 responsável)Python (114 forks)github user discovery
enhancementhelp wantedjit

Métricas do repositório

Stars
 (1.460 estrelas)
Métricas de merge de PR
 (Nenhuma PRs mesclada em 30d)

Description

NamedTuples have (some) support in the interpreter, but to return them from the JIT, we would need some more things:

  • ensure value tracking covers creation (populating the attribute_wrappers) - this is in interpreter,
  • when seeing NamedTuples being returned, add epilogue code to create the NamedTuple from its contents (which are available),

This is nontrivial as it requires return values to be routed through the epilogue, but I don't think that is grave.

This is probably an intermediate to advanced issue for people fond of the JIT / frontend bits.

Guia do colaborador

Direção de pesquisa
Estude a geração do epílogo JIT e entenda como NamedTuples são criados no interpretador. Em seguida, implemente o código do epílogo para construir um NamedTuple a partir dos valores rastreados.
Pilha de tecnologia
pythonpytorch
Domain
backend
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-2 dias
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Recente
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
PythonPyTorch
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
30