pytorch/examples

Resume will override learning rate on command line.

Open

#816 aberto em 19 de ago. de 2020

Ver no GitHub
 (1 comment) (0 reactions) (0 assignees)Python (21.634 stars) (9.429 forks)batch import
good first issue

Description

If you resume from a checkpoint and want to run with a new learning rate, the saved learning rate will overwrite what you specify on the command line. The fix is simple.

Guia do colaborador

Pilha de tecnologia
pythonpytorch
Domain
machine learning
Tipo Issue
bug
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
2
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
under 1 hour
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
stale
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
clear
Prerequisites
Python programmingPyTorch basics
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
70
Direção de pesquisa
Look at the training script where checkpoint loading is implemented. The issue is that the saved learning rate from the checkpoint overwrites the command line argument. Identify the line where the learning rate is restored and modify it to only set the learning rate from the checkpoint if no command line argument is provided. Ensure that the command line value takes precedence.