FluxML/Flux.jl

Benchmark optimizer latency on GPU

Chiusa

#1699 aperta il 24 ago 2021

Vedi su GitHubGuida contributor
 (0 commenti) (0 reazioni) (0 assegnatari)Julia (619 fork)batch import
cudahelp wantedperformance

Metriche repository

Star
 (4725 stelle)
Metriche merge PR
 (Merge medio 3g 6h) (6 PR mergiate in 30 g)

Descrizione

Ref. https://github.com/JuliaGPU/GPUCompiler.jl/issues/65#issuecomment-903155469. We should do this for both the current mutating optimizers and for Optimisers.jl. It may be that TTFG is only part of the problem.

Guida contributor

Direzione di ricerca
Imposta script di benchmark per la latenza dell'ottimizzatore su GPU, concentrandoti sia sugli ottimizzatori mutanti attuali che su Optimisers.jl. Usa CUDA.jl per il timing GPU e confronta il tempo al primo gradiente (TTFG) e la latenza di iterazione.
Tech stack
Nessuno
Dominio
machine learningbackend
Tipo issue
Performance
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
2
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 ore
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Abbastanza chiara
Prerequisiti
JuliaGPU programming
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
50