RVC-Project/Retrieval-based-Voice-Conversion-WebUI

Why Very Big Spike in Learning Curve

Aperta

#1743 aperta il 19 gen 2024

Vedi su GitHub
 (1 commento) (0 reazioni) (0 assegnatari)Python (2849 fork)batch import
bughelp wanted

Metriche repository

Star
 (18.427 stelle)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

As you see in the below image the curve is almost ok till 10K steps then it again goes to 9K steps backward and then again goes forward. why this happened ? is something wrong ?

Screenshot 2024-01-19 152016

This spike is shows in all graphs.

Screenshot 2024-01-19 152102

Guida contributor

Direzione di ricerca
Indagare le cause comuni dei picchi nelle curve di apprendimento durante l'addestramento, come la schedulazione del tasso di apprendimento, le variazioni delle dimensioni del batch, il mescolamento dei dati o l'instabilità del modello. Verificare se il picco è correlato a cambiamenti nel dataset o al caricamento di checkpoint. Esaminare i log di addestramento e gli iperparametri.
Tech stack
python
Dominio
machine learningai
Tipo issue
Ricerca
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
Mezza giornata
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Abbastanza chiara
Prerequisiti
PythonBasic understanding of deep learning training
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
65