facebookresearch/HolisticTraceAnalysis

Is it possible to categorize the kernels befween forward and backward passes

Aperta

#206 aperta il 29 nov 2024

Vedi su GitHubGuida contributor
 (1 commento) (0 reazioni) (0 assegnatari)Python (94 fork)auto 404
help wantedneeds triagequestion

Metriche repository

Star
 (535 stelle)
Metriche merge PR
 (Metriche PR in attesa)

Descrizione

What is your question?

Thanks for the great library!

analyzer.get_gpu_kernel_breakdown(visualize=True) returns a dataframe with kernels statistics. Is it possible to split those between forward/backward categories?

Code

No response

What have you tried?

No response

Environment

No response

Guida contributor

Direzione di ricerca
Investigare la funzionalità esistente di scomposizione del kernel GPU ed esplorare metodi per etichettare i kernel per passaggio (forward/backward) utilizzando autograd di PyTorch o hook del profiler.
Tech stack
pythonpytorch
Dominio
machine learningperformance
Tipo issue
Ricerca
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
Mezza giornata
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
PythonPyTorch
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
60