vllm-project/vllm-ascend

[Contribution] 任务 #10:A3 25.5 HDK + CANN 9.0 fabric_mem 池化能力验证

Open

#10,657 opened on Jun 18, 2026

View on GitHub
 (2 comments) (0 reactions) (0 assignees)C++ (1,318 forks)github user discovery
help wanted

Repository metrics

Stars
 (2,180 stars)
PR merge metrics
 (Avg merge 4d 5h) (559 merged PRs in 30d)

Description

在提交新问题之前,请确保您已经在社区中搜索过相关问题,并使用了社区中提供的资源/工具后,仍未找到满意的解决方式。

📚 任务问题描述

任务描述

该任务拆分自 #9079,任务 ID:#10。

vllm-ascend 池化场景需要验证 A3 机器上 fabric_mem 传输能力的兼容性。fabric_mem 通过 export ASCEND_ENABLE_USE_FABRIC_MEM=1 开启,当前已在 A3 + 26.0 HDK + CANN 9.0 环境验证功能正常。本任务需要在 A3 + 25.5 HDK + CANN 9.0 环境下重新验证 fabric_mem 池化能力,确认在较低 HDK 版本组合下,池化后端传输、KV/缓存数据读写、性能和稳定性是否符合预期。

验收标准

  1. 搭建 A3 + 25.5 HDK + CANN 9.0 验证环境,并确认驱动/CANN/fabric_mem 相关组件版本。
  2. 通过 ASCEND_ENABLE_USE_FABRIC_MEM=1 开启 fabric_mem 传输。
  3. vllm-ascend 池化场景可正常启动并完成基础读写/传输/命中流程。
  4. 与已验证的 A3 + 26.0 HDK + CANN 9.0 结果对比,确认功能无明显回退,性能和稳定性符合预期。
  5. 覆盖异常场景,如 fabric_mem 开关关闭、环境不满足、传输失败时的报错或 fallback 行为。
  6. 输出验证报告,记录环境版本、启动参数、测试用例、结果对比和问题结论。
  7. 如发现 25.5 HDK 下 fabric_mem 不兼容或行为异常,提交 issue 或修复 PR,并给出规避建议。

对接人

@jyoung6652

认领状态

待认领

建议的替代/修复方案

请根据任务描述提交实现、测试或文档 PR,并在 PR 中关联本 issue 与 #9079;如实现过程中发现任务边界、使用指导或现有行为存在不合理之处,请同步补充说明和最小复现。

欢迎加入社区,感谢您对社区的贡献 🎉!

Contributor guide