facebookresearch/HolisticTraceAnalysis

How to plot timeline with the label added by torch.profiler.record_function?

Ouverte

#99 ouverte le 24 janv. 2024

Voir sur GitHubGuide contributeur
 (2 commentaires) (0 réaction) (0 personne assignée)Python (94 forks)auto 404
help wantedneeds triagequestion

Métriques du dépôt

Stars
 (535 étoiles)
Métriques de merge PR
 (Métriques PR en attente)

Description

What is your question?

I want to plot the timeline of training GPT with pipeline parallelism. I use torch.profiler.record_function to label some functions , such as forward_step and backward_step of each micro_batch. I want to plot these functions for all ranks into one image, how can I do it? If using the example code (https://github.com/facebookresearch/HolisticTraceAnalysis/blob/main/examples/plot_timeline.ipynb), I get an image with kernels rather than record_function.

Guide contributeur

Direction de recherche
Explorez l'API de HolisticTraceAnalysis pour filtrer les événements par nom, en particulier les étiquettes record function, et modifiez l'exemple de tracé de chronologie pour inclure ces événements.
Stack technique
pythonpytorch
Domaine
performancemachine learning
Type d'issue
Recherche
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
PythonPyTorch
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
65