pytorch/examples

example time_sequence_prediction does not produce expected output

Open

#247 aperta il 27 ott 2017

Vedi su GitHub
 (5 commenti) (1 reazione) (0 assegnatari)Python (9429 fork)batch import
good first issue

Metriche repository

Star
 (21.634 star)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

https://github.com/pytorch/examples/tree/master/time_sequence_prediction

After a few steps, the loss suddenly jumps up and stays high: loss: 0.00101216329969 loss: 0.195070432582

the pdf0 is OK, pdf1 is OK but from pdf2 the graph becomes an "L "

Guida contributor

Direzione di ricerca
Analizza il ciclo di addestramento nell'esempio time sequence prediction (https://github.com/pytorch/examples/tree/master/time sequence prediction). Il problema descrive un improvviso aumento della perdita dopo pochi passi e un grafico a forma di 'L' da pdf2 in poi. Controlla la presenza di gradienti esplosivi, problemi con il tasso di apprendimento o un batch di sequenze errato. Confronta con implementazioni note di LSTM per serie temporali per identificare potenziali bug.
Tech stack
pytorchpython
Dominio
machine learningai
Tipo issue
Bug
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
4
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
Mezza giornata
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Datata
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Abbastanza chiara
Prerequisiti
PythonPyTorchRNN/LSTMTime series prediction
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
30