pytorch/examples

Resume will override learning rate on command line.

Open

#816 ouverte le 19 août 2020

Voir sur GitHub
 (1 commentaire) (0 réactions) (0 assignés)Python (21 634 stars) (9 429 forks)batch import
good first issue

Description

If you resume from a checkpoint and want to run with a new learning rate, the saved learning rate will overwrite what you specify on the command line. The fix is simple.

Guide contributeur

Stack technique
pythonpytorch
Domaine
machine learning
Type d'issue
bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
under 1 hour
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
stale
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
clear
Prérequis
Python programmingPyTorch basics
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
70
Direction de recherche
Look at the training script where checkpoint loading is implemented. The issue is that the saved learning rate from the checkpoint overwrites the command line argument. Identify the line where the learning rate is restored and modify it to only set the learning rate from the checkpoint if no command line argument is provided. Ensure that the command line value takes precedence.