[BUG] NVFP4 fails on RTX 5070 Laptop (SM120): CUDA Error: no kernel image is available for execution on the device
Los mantenedores suelen responder en 2 días
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 50/100
- Tipo de issue
- Error
- Claridad
- Bastante claro
- Estado de actividad
- Activo
- Stack tecnológico
- python
- Área
- machine-learning
Línea de trabajo
Reproduce el fallo de entrenamiento de NVFP4 en el entorno CUDA 13.3, SM120 indicado en el informe y, a continuación, inspecciona transformer_engine/common/recipe/current_scaling.cu alrededor de la línea 77, incluyendo launch_amax_kernel y el lanzamiento de zero_amax_kernel. Compara el lanzamiento del kernel que falla con la configuración de arquitecturas de GPU compatibles con la compilación; se considera terminado cuando el entrenamiento de NVFP4 se inicia correctamente en el RTX 5070 Laptop sin el error de imagen de kernel faltante.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Environment
- GPU: NVIDIA GeForce RTX 5070 Laptop GPU
- Compute Capability: SM120 (12.0)
- CUDA Toolkit: 13.3
- Python: 3.13
- WSL2 Ubuntu 24.04
- TransformerEngine built from source
- Local commit: 6bf7790d
- Upstream main: 9d92fa05
Problem
TransformerEngine builds successfully, but NVFP4 training fails immediately with:
RuntimeError:
/home/.../transformer_engine/common/recipe/current_scaling.cu:77
launch_amax_kernel
CUDA Error: no kernel image is available for execution on the device
The failure happens immediately after:
zero_amax_kernel<<<1,1,0,stream>>>(...);
NVTE_CHECK_CUDA(cudaGetLastError());
- Lenguaje dominante
- Python
- Estrellas
- 3.6k
- Forks
- 851
- Merge medio
- 5 d 1 h
- PR fusionados (30 d)
- 52
Preparar el entorno
- Sin Dockerfile ni archivo de Docker Compose
- Tiene una plantilla de pull request
- Leer la guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de NVIDIA/TransformerEngine
-
[Bug] group_quantize_fp8_blockwise: mbarrier invalidated before other threads finish waiting on itAbierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
NVIDIA/TransformerEngine#3647 ·
Los mantenedores suelen responder en 2 días
-
[PyTorch] fp8_cs_quantize fake implementation returns a vector inverse scale instead of a scalarPosiblemente ocupada @sanjana658 la tomó hace 1 día. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
NVIDIA/TransformerEngine#3636 · 2 comentarios ·
Los mantenedores suelen responder en 2 días
-
[Bug] Backend selection picks FA3 for training with head_dim_qk=192 / v_head_dim=128, but FA3 backward cannot run itPosiblemente ocupada @yuweih205 la tomó hace 32 días. Abiertoattention
Dificultad 2/5 1-3 horas Aptitud para principiantes 85/100
NVIDIA/TransformerEngine#3481 · 4 comentarios ·
Los mantenedores suelen responder en 2 días
-
Increase MAX_TENSOR_NUMAbiertobug
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
NVIDIA/TransformerEngine#2189 · 7 comentarios · 5 reacciones ·
Los mantenedores suelen responder en 2 días
-
[PyTorch] CUDA graph RNG registration floods training logs on automatic-registration buildsPosiblemente ocupada @ksivaman la tomó hace 1 día. Abierto
Dificultad 4/5 3-5 días Aptitud para principiantes 50/100
NVIDIA/TransformerEngine#3645 · 1 comentario · 1 asignado ·
Los mantenedores suelen responder en 2 días
Todos los issues de NVIDIA/TransformerEngine
Issues similares
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 86/100
UKGovernmentBEIS/inspect_ai#5802 ·
Los mantenedores suelen responder en 2 días
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 74/100
no-human-ai/no_human#660 ·
Los mantenedores suelen responder en 1 día
-
Add a Security Insights v2 fileAbiertodocumentation good first issue
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
Los mantenedores suelen responder en 1 día
-
documentation need help question
Dificultad 1/5 1-3 horas Aptitud para principiantes 66/100
phonology024/babelscribe#26 ·
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 62/100