[BUG] NVFP4 fails on RTX 5070 Laptop (SM120): CUDA Error: no kernel image is available for execution on the device
维护者通常 2 天内回复
还没有人认领这个 Issue。
评估
- 难度
- 4/5
- 预计耗时
- 3-5 天
- 新手友好度
- 50/100
- Issue 类型
- 缺陷
- 描述清晰度
- 基本清楚
- 活跃度
- 活跃
- 技术栈
- python
调研方向
在报告的 CUDA 13.3、SM120 环境中重现 NVFP4 训练失败，然后检查第 77 行附近的 transformer_engine/common/recipe/current_scaling.cu，包括 launch_amax_kernel 和 zero_amax_kernel 的启动。将失败的 kernel 启动与 build 支持的 GPU 架构设置进行比较；当 NVFP4 训练能够在 RTX 5070 Laptop 上成功启动且不再出现缺少 kernel image 的错误时，即表示完成。
由索引模型根据 Issue 内容生成。
描述
Environment
- GPU: NVIDIA GeForce RTX 5070 Laptop GPU
- Compute Capability: SM120 (12.0)
- CUDA Toolkit: 13.3
- Python: 3.13
- WSL2 Ubuntu 24.04
- TransformerEngine built from source
- Local commit: 6bf7790d
- Upstream main: 9d92fa05
Problem
TransformerEngine builds successfully, but NVFP4 training fails immediately with:
RuntimeError:
/home/.../transformer_engine/common/recipe/current_scaling.cu:77
launch_amax_kernel
CUDA Error: no kernel image is available for execution on the device
The failure happens immediately after:
zero_amax_kernel<<<1,1,0,stream>>>(...);
NVTE_CHECK_CUDA(cudaGetLastError());
- 主要语言
- Python
- 星标
- 3.6k
- 派生
- 851
- 平均合并
- 4 天 15 小时
- 30 天内合并 PR
- 51
环境准备
- 没有 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
NVIDIA/TransformerEngine 的其他 Issue
-
[PyTorch] fp8_cs_quantize fake implementation returns a vector inverse scale instead of a scalar未关闭
难度 2/5 1-3 小时 新手友好度 82/100
NVIDIA/TransformerEngine#3636 ·
维护者通常 2 天内回复
-
[Bug] Backend selection picks FA3 for training with head_dim_qk=192 / v_head_dim=128, but FA3 backward cannot run it可能已有人在做 @yuweih205 于 31 天前认领。 未关闭attention
难度 2/5 1-3 小时 新手友好度 85/100
NVIDIA/TransformerEngine#3481 · 4 条评论 ·
维护者通常 2 天内回复
-
bug
难度 2/5 1-3 小时 新手友好度 68/100
NVIDIA/TransformerEngine#2189 · 7 条评论 · 5 个 reaction ·
维护者通常 2 天内回复
-
难度 4/5 3-5 天 新手友好度 50/100
NVIDIA/TransformerEngine#3645 ·
维护者通常 2 天内回复
-
enhancement
难度 5/5 一周以上 新手友好度 35/100
NVIDIA/TransformerEngine#3644 ·
维护者通常 2 天内回复
查看 NVIDIA/TransformerEngine 的全部 Issue
相似的 Issue
-
难度 2/5 1-3 小时 新手友好度 78/100
UKGovernmentBEIS/inspect_ai#5781 ·
维护者通常 2 天内回复
-
Bump .cicd to wamp-cicd 4c2f9ac: `just land` refuses open A18 decisions, `just where` lists them未关闭
难度 1/5 1 小时以内 新手友好度 82/100
crossbario/cfxdb#139 ·
-
Bump .cicd to wamp-cicd 4c2f9ac: `just land` refuses open A18 decisions, `just where` lists them未关闭
难度 1/5 1 小时以内 新手友好度 84/100
crossbario/txaio#241 ·
-
UX
难度 2/5 1-3 小时 新手友好度 82/100
mediajunkie/piper-morgan-product#1963 ·
-
难度 2/5 1-3 小时 新手友好度 64/100