FluxML/Flux.jl

More robust testing for AlphaDropout

Open

#1.851 aberto em 27 de jan. de 2022

Ver no GitHub
 (6 comments) (0 reactions) (0 assignees)Julia (619 forks)batch import
good first issuehelp wantedtesting

Métricas do repositório

Stars
 (4.725 stars)
Métricas de merge de PR
 (Mesclagem média 4h 27m) (2 fundiu PRs em 30d)

Description

We currently borrow from https://github.com/pytorch/pytorch/blob/v1.10.0/test/cpp/api/modules.cpp#L1337-L1338, but some sort of goodness-of-fit test would be more robust than a simple range. Sampling the layer outputs should have a negligible impact on test runtime.

Guia do colaborador

Direção de pesquisa
Examine o teste AlphaDropout existente na suíte de testes do Flux.jl, provavelmente em test/layers.jl ou similar. A questão sugere substituir a simples verificação de intervalo por um teste de adequação do ajuste, como um teste qui quadrado, para verificar a distribuição do dropout. Revise a referência do PyTorch (test/cpp/api/modules.cpp linhas 1337-1338) para inspiração, mas adapte ao framework de testes do Julia. Considere implementar um teste estatístico que verifique se a distribuição de saída corresponde à distribuição AlphaDropout esperada.
Pilha de tecnologia
None
Domain
machine learning
Tipo Issue
Teste
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
Meio dia
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
JuliaFlux.jlstatistical testing
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
75