[QUESTION]How to Use ndtimeline in a Multi-Machine Multi-GPU Environment

Abierto
#55 4 comentarios 0 reacciones 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
3/5
Tiempo estimado
Medio día
Aptitud para principiantes
18/100
Tipo de issue
Documentación
Claridad
Necesita aclaración
Estado de actividad
Estancado
Stack tecnológico
python, pytorch

Línea de trabajo

This is a usage question rather than a scoped change: it asks whether ndtimeline works across multiple machines, how events are flushed, how communication is represented and how custom time-events are defined. Start by reading the ndtimeline documentation and the code that collects and flushes timeline events for a single machine, then check how rank-local traces would need to be merged across hosts. Done means a documented answer covering multi-machine support, flush behaviour and custom events, not a code change.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

Does it support Muti-Machine and Muti-GPU to use ndtimeline??
Now,I can use single-Machine and Muti-GPU to analyze GPT with the ndtimeline tool,
but I wandered does it support Muti-machine?? how to flush the ndtimeline? and how to deal with the commnication ? how to define custom time-event ?
Thanks!
the following picture using single-Machine and four GPUs
Megatron

@MingjiHan99 @pengyanghua @MackZackA @JsBlueCat @Meteorix

Lenguaje dominante
Python
Estrellas
1k
Forks
65
Merge medio
21 h 34 min
PR fusionados (30 d)
1

Preparar el entorno

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de volcengine/veScale

Todos los issues de volcengine/veScale

Issues similares

Más issues de Python

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.