fix(BACKEND-GATE-ROCM-SGLANG): query shared memory through pinned HIP driver
维护者通常 1 天内回复
还没有人认领这个 Issue。
评估
调研方向
从 triton/backends/amd/driver.c 的第 199-209 行以及 driver.py 的第 161-177 行和第 700-705 行开始，然后追踪 preparation CLI 使用的 production identity probe。验证 Strix 上的 HIP 共享内存路径，并添加一个回归测试，其中 Torch properties 缺少不受支持的 member。完成标准是使用有效的 HIP limits，同时不更改 pins 或 64KiB gate，而缺失、无效或不足的 limits 仍然失败。
由索引模型根据 Issue 内容生成。
描述
Row: BACKEND-GATE-ROCM-SGLANG
Owner: current Strix benchmark campaign operator. Found during #3053 restoration. The reviewed preparation CLI at c8d019447 queries torch.cuda.get_device_properties(0).shared_memory_per_block, but the pinned AMD Torch 2.9.1 wheel does not expose that Python property. After repairing MIOpen, Strix job c13a24ee-d1ad-49a7-ba08-e96e814273c0 fails identity-dependencies with AttributeError before kernel compilation. Evidence: /mnt/nas_share/rc/strix-four-engine-3053.X94a3J/prepare-c8d019447-rebuilt-02/logs/identity-dependencies.log.
The pinned Triton AMD backend already returns max_shared_mem from HIP hipGetDeviceProperties: triton/backends/amd/driver.c lines 199-209; driver.py lines 161-177 and 700-705. Validate that executing path on Strix, then use the measured HIP value without changing the Torch/Triton pin, hard-coding 65536 as a measurement, or weakening the existing 64KiB identity gate. Add a regression that executes the production identity probe with Torch properties lacking the unsupported member. Preserve failure behavior for missing, invalid, or insufficient device limits. A committed design supplement precedes implementation; a fresh implementer and independent mutation reviewer are required. #3053 owns downstream preparation, model startup, and benchmarks.
- 主要语言
- C++
- 星标
- 423
- 派生
- 53
- 平均合并
- 1 天 5 小时
- 30 天内合并 PR
- 376
环境准备
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
mudler/vllm.cpp 的其他 Issue
-
难度 2/5 1-3 小时 新手友好度 84/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 82/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 70/100
维护者通常 1 天内回复
-
难度 1/5 1 小时以内 新手友好度 88/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 84/100
维护者通常 1 天内回复
相似的 Issue
-
`enzymexla.linalg.lu` lowering fails for a tall matrix: the permutation is built with the pivot type未关闭
难度 2/5 1-3 小时 新手友好度 78/100
EnzymeAD/Enzyme-JAX#3286 ·
维护者通常 1 天内回复
-
bug
难度 2/5 1-3 小时 新手友好度 76/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 88/100
apache/iceberg-cpp#973 ·
维护者通常 1 天内回复
-
feature request
难度 1/5 1 小时以内 新手友好度 86/100
维护者通常 2 天内回复
-
难度 2/5 1-3 小时 新手友好度 84/100
维护者通常 1 天内回复