help wanted
Repository metrics
- Stars
- (2,180 stars)
- PR merge metrics
- (Avg merge 4d 5h) (559 merged PRs in 30d)
Description
在提交新问题之前,请确保您已经在社区中搜索过相关问题,并使用了社区中提供的资源/工具后,仍未找到满意的解决方式。
📚 任务问题描述
任务描述
该任务拆分自 #9079,任务 ID:#8。
Mooncake Master 支持通过 --enable_ha=true 开启基于 etcd 的主备高可用模式,避免单点 Master 故障。当前需要在 vllm-ascend 池化/PD 分离相关场景中验证 Mooncake HA 模式可用性,包括 etcd 依赖部署、多个 Mooncake Master 实例注册、leader 选举、standby 切换,以及 vllm-ascend 侧 Mooncake connector 在 Master HA 模式下的连接、元数据获取、KV cache 传输和故障切换行为。
验收标准
- 搭建包含 etcd、多个 Mooncake Master、vllm-ascend P/D 节点的池化验证环境。
- Mooncake Master 可通过
--enable_ha=true、--etcd_endpoints、--cluster_id正常进入 HA 模式。 - vllm-ascend Mooncake connector 在 HA 模式下可正常完成 metadata 获取、P/D 握手和 KV cache 传输。
- 验证 leader Master 异常退出或不可用后,standby Master 可完成接管,vllm-ascend 侧功能可恢复或具备明确重连/报错行为。
- 输出 HA 模式部署与验证说明,包含 etcd 启动、Mooncake Master 参数、vllm-ascend 启动方式和故障切换验证步骤。
- 如发现 vllm-ascend 对 Mooncake HA 不兼容,提交 issue 或修复 PR,并补充最小复现用例。
对接人
@jyoung6652
认领状态
待认领
建议的替代/修复方案
请根据任务描述提交实现、测试或文档 PR,并在 PR 中关联本 issue 与 #9079;如实现过程中发现任务边界、使用指导或现有行为存在不合理之处,请同步补充说明和最小复现。
欢迎加入社区,感谢您对社区的贡献 🎉!