Kineto collection of nccl:coalesced don't record metadata
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 35/100
- Tipo de issue
- Error
- Claridad
- Necesita aclaración
- Estado de actividad
- Estancado
- Stack tecnológico
- python
Línea de trabajo
Comienza reproduciendo la traza de Chakra kineto del script de entrenamiento gpt3/175b_fp8 y compara un all_reduce normal con el nccl coalesced allgather. Sigue la ruta de recopilación de metadatos para ambas operaciones; se considera terminado cuando los kernels coalesced de NCCL incluyen el tamaño de mensaje esperado y los metadatos del grupo de procesos.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Chakra's kineto trace add metadata to the NCCL kernels, including message size, PG attributes (name, description, ranks, etc).
However in a trace I just recorded some kernels don't include any metadata.
The trace records gpt3/175b_fp8 training script from NeMo Launcher.
Here is the report of a normal all_reduce operation, we can see info about PG.
While here is the report of the nccl coalesced allgather, which displays no metadata:
- Lenguaje dominante
- Python
- Estrellas
- 204
- Forks
- 87
- Merge medio
- 7 d 4 h
- PR fusionados (30 d)
- 3
Preparar el entorno
- Sin Dockerfile ni archivo de Docker Compose
- Tiene una plantilla de pull request
- Leer la guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de mlcommons/chakra
-
Release notes from PR titlesAbierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
-
Add code formatting checkAbierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 65/100
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100
-
Add `chakra_linter` to validate Chakra execution traces against a rule setPosiblemente ocupada @ajbalogh la tomó hace 1 día. Abiertofeature
Todos los issues de mlcommons/chakra
Issues similares
-
community enhancement good first issue
Dificultad 2/5 1-3 horas Aptitud para principiantes 86/100
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 77/100
Hochfrequenz/sapgui.mcp#1039 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 88/100
didi/helixharness#18 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
Los mantenedores suelen responder en 1 día
-
API /search : typer la réponseAbierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
dataforgoodfr/democracy-watch#46 · 1 reacción ·