vllm-project/vllm-ascend

[Contribution] 任务 #11:Mooncake Store standalone 池化模式验证

Open

#10,658 opened on Jun 18, 2026

View on GitHub
 (2 comments) (0 reactions) (0 assignees)C++ (1,318 forks)github user discovery
help wanted

Repository metrics

Stars
 (2,180 stars)
PR merge metrics
 (Avg merge 4d 5h) (559 merged PRs in 30d)

Description

在提交新问题之前,请确保您已经在社区中搜索过相关问题,并使用了社区中提供的资源/工具后,仍未找到满意的解决方式。

📚 任务问题描述

任务描述

该任务拆分自 #9079,任务 ID:#11。

Mooncake Store 支持 standalone store service 模式,即将存储资源池从推理进程中拆出,独立启动 Mooncake store service,由独立服务负责全局内存/SSD 资源管理,vllm-ascend 推理进程通过 Mooncake client 访问该池化后端。本任务需要在 vllm-ascend 池化场景中验证 Mooncake Store standalone 模式功能是否正常,包括 standalone store service 启动、vllm-ascend 对接配置、缓存读写/命中、KV/权重数据传输、异常处理和基础稳定性。

验收标准

  1. 明确 Mooncake Store standalone 模式所需启动方式和 vllm-ascend 对接配置,包括 standalone service 地址、client 配置、资源池参数等。
  2. 成功启动 standalone Mooncake store service,并由 vllm-ascend 池化后端完成连接。
  3. vllm-ascend 在 standalone 模式下可正常完成池化相关缓存写入、读取、命中和数据传输流程。
  4. 验证推理进程不直接承担主要存储资源时,Mooncake standalone service 可正确管理内存/SSD 资源。
  5. 覆盖 standalone service 异常退出、重启、连接失败等基础异常场景,确认 vllm-ascend 侧有可恢复行为或明确报错。
  6. 输出部署与验证说明,包含 Mooncake standalone service 启动命令、vllm-ascend 启动参数、测试步骤、结果和问题记录。
  7. 如发现 vllm-ascend 对 standalone 模式不兼容,提交 issue 或修复 PR,并补充最小复现用例。

对接人

@jyoung6652

认领状态

待认领

建议的替代/修复方案

请根据任务描述提交实现、测试或文档 PR,并在 PR 中关联本 issue 与 #9079;如实现过程中发现任务边界、使用指导或现有行为存在不合理之处,请同步补充说明和最小复现。

欢迎加入社区,感谢您对社区的贡献 🎉!

Contributor guide