FluxML/Flux.jl

More robust testing for AlphaDropout

Open

#1851 aperta il 27 gen 2022

Vedi su GitHub
 (6 commenti) (0 reazioni) (0 assegnatari)Julia (619 fork)batch import
good first issuehelp wantedtesting

Metriche repository

Star
 (4725 star)
Metriche merge PR
 (Merge medio 4h 27m) (2 PR mergiate in 30 g)

Descrizione

We currently borrow from https://github.com/pytorch/pytorch/blob/v1.10.0/test/cpp/api/modules.cpp#L1337-L1338, but some sort of goodness-of-fit test would be more robust than a simple range. Sampling the layer outputs should have a negligible impact on test runtime.

Guida contributor

Direzione di ricerca
Esamina il test AlphaDropout esistente nella suite di test di Flux.jl, probabilmente in test/layers.jl o simile. Il problema suggerisce di sostituire il semplice controllo dell'intervallo con un test di bontà di adattamento, come un test del chi quadrato, per verificare la distribuzione del dropout. Rivedi il riferimento di PyTorch (test/cpp/api/modules.cpp righe 1337-1338) per ispirazione, ma adattalo al framework di test di Julia. Considera di implementare un test statistico che controlli se la distribuzione di output corrisponde alla distribuzione AlphaDropout attesa.
Tech stack
Nessuno
Dominio
machine learning
Tipo issue
Test
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
Mezza giornata
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
JuliaFlux.jlstatistical testing
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
75