vllm-project/vllm-ascend

[Contribution] 任务 #8:Mooncake 池化场景高可用模式验证

Open

#10,655 opened on Jun 18, 2026

View on GitHub
 (4 comments) (0 reactions) (0 assignees)C++ (1,318 forks)github user discovery
help wanted

Repository metrics

Stars
 (2,180 stars)
PR merge metrics
 (Avg merge 4d 5h) (559 merged PRs in 30d)

Description

在提交新问题之前,请确保您已经在社区中搜索过相关问题,并使用了社区中提供的资源/工具后,仍未找到满意的解决方式。

📚 任务问题描述

任务描述

该任务拆分自 #9079,任务 ID:#8。

Mooncake Master 支持通过 --enable_ha=true 开启基于 etcd 的主备高可用模式,避免单点 Master 故障。当前需要在 vllm-ascend 池化/PD 分离相关场景中验证 Mooncake HA 模式可用性,包括 etcd 依赖部署、多个 Mooncake Master 实例注册、leader 选举、standby 切换,以及 vllm-ascend 侧 Mooncake connector 在 Master HA 模式下的连接、元数据获取、KV cache 传输和故障切换行为。

验收标准

  1. 搭建包含 etcd、多个 Mooncake Master、vllm-ascend P/D 节点的池化验证环境。
  2. Mooncake Master 可通过 --enable_ha=true--etcd_endpoints--cluster_id 正常进入 HA 模式。
  3. vllm-ascend Mooncake connector 在 HA 模式下可正常完成 metadata 获取、P/D 握手和 KV cache 传输。
  4. 验证 leader Master 异常退出或不可用后,standby Master 可完成接管,vllm-ascend 侧功能可恢复或具备明确重连/报错行为。
  5. 输出 HA 模式部署与验证说明,包含 etcd 启动、Mooncake Master 参数、vllm-ascend 启动方式和故障切换验证步骤。
  6. 如发现 vllm-ascend 对 Mooncake HA 不兼容,提交 issue 或修复 PR,并补充最小复现用例。

对接人

@jyoung6652

认领状态

待认领

建议的替代/修复方案

请根据任务描述提交实现、测试或文档 PR,并在 PR 中关联本 issue 与 #9079;如实现过程中发现任务边界、使用指导或现有行为存在不合理之处,请同步补充说明和最小复现。

欢迎加入社区,感谢您对社区的贡献 🎉!

Contributor guide