kohya-ss/sd-scripts

Shouldn't fix_noise_scheduler_betas_for_zero_terminal_snr be applied BEFORE prepare_scheduler_for_custom_training?

Aberta

#1.905 aberto em 27 de jan. de 2025

Ver no GitHub
 (2 comentários) (0 reação) (0 responsável)Python (1.218 forks)batch import
help wanted

Métricas do repositório

Stars
 (7.201 estrelas)
Métricas de merge de PR
 (Mesclagem média 18h 39m) (16 fundiu PRs em 30d)

Description

Hello,

Reference code: https://github.com/kohya-ss/sd-scripts/blob/0778dd9b1df0d6aa33287ded3ce4195f3d03251b/train_network.py#L195

I noticed that fix_noise_scheduler_betas_for_zero_terminal_snr modifies the alphas_cumprod for the noise scheduler, and prepare_scheduler_for_custom_training uses alphas_cumprod to calculate all_snr. The issue with the current order is that all_snr will reflect NON-ztsnr snrs, not ztsnr, causing anything that uses all_snr to use snrs that do not align with ztsnr.

As such, shouldn't fix_noise_scheduler_betas_for_zero_terminal_snr always be applied before prepare_scheduler_for_custom_training?

Thank you.

Guia do colaborador

Direção de pesquisa
Investigue a ordem das chamadas no script de treinamento: certifique se de que fix noise scheduler betas for zero terminal snr seja chamado antes de prepare scheduler for custom training para que all snr esteja alinhado com o SNR terminal zero.
Pilha de tecnologia
python
Domain
machine learningai
Tipo Issue
Bug
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
2
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-3 horas
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
PythonStable Diffusion training scripts
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
60