vllm-project/vllm-ascend
View on GitHub[Contribution] 任务 #11:Mooncake Store standalone 池化模式验证
Open
#10,658 opened on Jun 18, 2026
help wanted
Repository metrics
- Stars
- (2,180 stars)
- PR merge metrics
- (Avg merge 4d 5h) (559 merged PRs in 30d)
Description
在提交新问题之前,请确保您已经在社区中搜索过相关问题,并使用了社区中提供的资源/工具后,仍未找到满意的解决方式。
📚 任务问题描述
任务描述
该任务拆分自 #9079,任务 ID:#11。
Mooncake Store 支持 standalone store service 模式,即将存储资源池从推理进程中拆出,独立启动 Mooncake store service,由独立服务负责全局内存/SSD 资源管理,vllm-ascend 推理进程通过 Mooncake client 访问该池化后端。本任务需要在 vllm-ascend 池化场景中验证 Mooncake Store standalone 模式功能是否正常,包括 standalone store service 启动、vllm-ascend 对接配置、缓存读写/命中、KV/权重数据传输、异常处理和基础稳定性。
验收标准
- 明确 Mooncake Store standalone 模式所需启动方式和 vllm-ascend 对接配置,包括 standalone service 地址、client 配置、资源池参数等。
- 成功启动 standalone Mooncake store service,并由 vllm-ascend 池化后端完成连接。
- vllm-ascend 在 standalone 模式下可正常完成池化相关缓存写入、读取、命中和数据传输流程。
- 验证推理进程不直接承担主要存储资源时,Mooncake standalone service 可正确管理内存/SSD 资源。
- 覆盖 standalone service 异常退出、重启、连接失败等基础异常场景,确认 vllm-ascend 侧有可恢复行为或明确报错。
- 输出部署与验证说明,包含 Mooncake standalone service 启动命令、vllm-ascend 启动参数、测试步骤、结果和问题记录。
- 如发现 vllm-ascend 对 standalone 模式不兼容,提交 issue 或修复 PR,并补充最小复现用例。
对接人
@jyoung6652
认领状态
待认领
建议的替代/修复方案
请根据任务描述提交实现、测试或文档 PR,并在 PR 中关联本 issue 与 #9079;如实现过程中发现任务边界、使用指导或现有行为存在不合理之处,请同步补充说明和最小复现。
欢迎加入社区,感谢您对社区的贡献 🎉!