Lightning-AI/pytorch-lightning

Provide a non-expert mode for the DeviceStatsMonitor

Open

#18.652 aperta il 27 set 2023

Vedi su GitHub
 (0 commenti) (15 reazioni) (0 assegnatari)Python (3233 fork)batch import
callback: device statsfeaturehelp wanted

Metriche repository

Star
 (26.687 star)
Metriche merge PR
 (Merge medio 9g 15h) (3 PR mergiate in 30 g)

Descrizione

Description & Motivation

The DeviceStatsMonitor currently dumps the entire torch.cuda.memory_stats into the logger. Beginner users might be overwhelmed by the amount of data logged and are confused which metrics matter to maximize their utilization.

Pitch

Make the callback more user-friendly by logging only core metrics like GPU utilization and total memory usage. Provide an expert mode that when enabled logs what we see today.

Alternatives

No response

Additional context

This was proposed by user magical_arjay on our Discord.

cc @borda @awaelchli

Guida contributor

Direzione di ricerca
Esamina la registrazione corrente di torch.cuda.memory stats in DeviceStatsMonitor, progetta un flag di configurazione per selezionare tra logging esperto e semplificato, quindi implementa il filtraggio delle metriche principali.
Tech stack
pythonpytorch
Dominio
backendperformanceobservability
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
2
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 ore
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
Python
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
75