[Vulkan][32-bit] non-dispatchable handles do not fit in void* on i586
维护者通常 1 天内回复
还没有人认领这个 Issue。
评估
调研方向
从 src/vt/vulkan/vulkan_context.cpp 开始，跟踪 VkBuffer 和 VkDeviceMemory 的静态断言，然后检查 Pack/Unpack 路径，以及存储这些句柄的公共后端上下文字段。使用 -DVLLM_CPP_VULKAN=ON 在 i586 上构建 v0.0.2；完成标准是 Vulkan 后端能够编译，且不会通过 void* 传递不可分发的句柄。
由索引模型根据 Issue 内容生成。
描述
Problem
The Vulkan backend does not compile on 32-bit x86/i586. In src/vt/vulkan/vulkan_context.cpp, it asserts that Vulkan handles fit in void*:
static_assert(sizeof(VkBuffer) <= sizeof(void*), "VkBuffer must fit in void*");
static_assert(sizeof(VkDeviceMemory) <= sizeof(void*), "VkDeviceMemory must fit in void*");
With the Vulkan headers on i586, the assertions fail because the comparison is 8 <= 4. Vulkan non-dispatchable handles such as VkBuffer and VkDeviceMemory are 64-bit values even when the host pointer size is 32-bit.
The backend then packs these handles through void* in Pack/Unpack, and the public backend context stores buffer and memory handles as void*, so simply removing the assertions would not be sufficient.
Reproducer
Build v0.0.2 on i586 with:
-DVLLM_CPP_VULKAN=ON
The build fails in src/vt/vulkan/vulkan_context.cpp with:
error: static assertion failed: VkBuffer must fit in void*
the comparison reduces to (8 <= 4)
error: static assertion failed: VkDeviceMemory must fit in void*
the comparison reduces to (8 <= 4)
Proposed direction
Use an architecture-independent opaque handle representation, such as a dedicated 64-bit storage type for non-dispatchable handles, and avoid packing them into void*. Dispatchable pointer handles can remain pointer-sized.
The openSUSE package currently disables the Vulkan backend on 32-bit x86 as a downstream workaround.
- 主要语言
- C++
- 星标
- 440
- 派生
- 55
- 平均合并
- 1 天 4 小时
- 30 天内合并 PR
- 346
环境准备
- 没有 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
mudler/vllm.cpp 的其他 Issue
-
难度 2/5 1-3 小时 新手友好度 84/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 82/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 70/100
维护者通常 1 天内回复
-
难度 1/5 1 小时以内 新手友好度 88/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 84/100
维护者通常 1 天内回复
相似的 Issue
-
难度 1/5 1 小时以内 新手友好度 72/100
lxqt/qtermwidget#688 ·
维护者通常 1 天内回复
-
难度 1/5 1 小时以内 新手友好度 92/100
cpinitiative/usaco-guide#6665 ·
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 75/100
mpfaffenberger/privateer_reimagined#658 ·
维护者通常 1 天内回复
-
难度 1/5 1 小时以内 新手友好度 85/100
microsoft/onnxruntime#33018 ·
维护者通常 2 天内回复
-
Type: bug
难度 2/5 1-3 小时 新手友好度 88/100
维护者通常 2 天内回复