pytorch/examples

word_language_model with torch.nn.modules.transformer

Open

#1112 aperta il 9 feb 2023

Vedi su GitHub
 (3 commenti) (0 reazioni) (0 assegnatari)Python (9429 fork)batch import
docsgood first issuenlp

Metriche repository

Star
 (21.634 star)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

The torch.nn.modules.transformer documentation says the word_language_model example in this repo is an example of its use. But it seems to instead DIY a transformer and uses that instead. Is this intentional? I would offer my help to write it for torch.nn.modules.transformer but I'm here to learn how to use it.

Guida contributor

Direzione di ricerca
Esamina l'esempio word language model per comprendere la sua implementazione personalizzata del transformer, quindi rifattorizza per utilizzare torch.nn.modules.transformer. Confronta la documentazione e regola se necessario.
Tech stack
pythonpytorch
Dominio
documentation
Tipo issue
Documentazione
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
2
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 ore
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
PythonPyTorch basics
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
70