NVLink debug data with Ampere A100 and H100 PCIe?
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 42/100
Línea de trabajo
Comienza en nvidia_gpu_tools.py, en read_module_id_h100(), alrededor de las líneas 4871-4881, y en las definiciones de offset relacionadas con A100 alrededor de las líneas 718-729. Verifica el ID de dispositivo PCIe de H100 y determina los valores correctos de links_per_group, base_offset y per_group_offset de A100 a partir de las especificaciones del hardware antes de cambiar el soporte. Se considera terminado cuando --nvlink-debug-dump maneja de forma fiable ambos modelos de GPU.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Hi there!
This tool has been the closest thing I've gotten to having a method for discovering whether my hypervisors have NVLinks installed on my H100 PCIe GPUs. I use VFIO, no MIG, so no nvidia driver on the hypervisor.
I noticed that neither the H100 PCIe or the A100 actually supports the --nvlink-debug-dump flag:
- H100 PCIe (0x2331) is not added to the list of devices in
read_module_id_h100() - A100 doesn't have the
links_per_group,base_offsetorper_group_offsetpresent.
I'm not a hardware engineer and I don't know the specs for the registers of the A100, but I was able to get the H100 PCIe working* by simply adding 0x2331 to the lists in the above lines.
As for the A100 I've been able to get it to work intermittently but using the same offsets as the H100, but it's really hit and miss.
I'm hoping to get some insight on whether it'd be possible to get formal support for this? Thank you!
* No clue if it's accurate or not, but it's proven reliable enough for me to know whether NVLink bridges are installed on GPU pairs.
- Lenguaje dominante
- Python
- Estrellas
- 96
- Forks
- 37
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Preparar el entorno
Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de NVIDIA/gpu-admin-tools
-
Bug: sysfs_remove, sysfs_rescan, and sysfs_reset proceed to open() after detecting missing pathAbierto
Dificultad 1/5 1-3 horas Aptitud para principiantes 68/100
NVIDIA/gpu-admin-tools#16 ·
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100
NVIDIA/gpu-admin-tools#17 · 1 comentario ·
-
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100
NVIDIA/gpu-admin-tools#13 · 1 comentario ·
-
Dificultad 3/5 1-2 días Aptitud para principiantes 45/100
NVIDIA/gpu-admin-tools#12 ·
-
RTX 2000 Ada supportAbierto
Dificultad 4/5 3-5 días Aptitud para principiantes 38/100
NVIDIA/gpu-admin-tools#11 ·
Todos los issues de NVIDIA/gpu-admin-tools
Issues similares
-
Broken links found in docsAbiertodocs pydanty:is-working
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
pydantic/pydantic-ai#10113 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 77/100
GreedyBear-Project/GreedyBear#1727 ·
Los mantenedores suelen responder en 2 días
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 84/100
ARM-software/CMSIS-DSP#354 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
kiat/codeAssist#391 ·
-
needs triage
Dificultad 2/5 1-3 horas Aptitud para principiantes 83/100
darnitdevorg/darnit#587 ·
Los mantenedores suelen responder en 1 día