verl-project/verl

vllm cannot load model after megatron training

开放

#1,757 创建于 2025年5月29日

在 GitHub 查看贡献者指南
 (0 条评论) (0 个反应) (0 位负责人)Python (4,434 个派生)auto 404
help wanted

仓库指标

星标
 (23,078 个星标)
PR 合并指标
 (平均合并 3天 6小时) (30 天内合并 125 个 PR)

描述

After megatron training and convert to hf model, i want to infer using vllm, which meet problem when loading. File "/python3.11/site-packages/vllm/model_executor/models/utils.py", line 250, in _load_module raise ValueError(msg) ValueError: There is no module or parameter named 'decoder' in Qwen3ForCausalLM After model_merger.py process, the name of parameters changed.

贡献者指南

研究方向
调查 Megatron 转换模型与 vLLM 之间的参数命名不匹配问题。错误发生在 vllm/model executor/models/utils.py 的第 250 行，缺少参数 'decoder'。检查 model merger.py 以了解其在训练后如何重命名参数。检查 Qwen3ForCausalLM 模型定义以识别预期的参数名称。修复可能涉及更新转换脚本以匹配 vLLM 的期望，或在 vLLM 中添加参数映射。
技术栈
python
领域
aimachine learningbackend
议题类型
缺陷
难度面向新贡献者的预计实现难度，1 表示很小改动，5 表示专家级工作。
2
预计时间有经验贡献者完成调查、实现、测试并准备 pull request 的粗略时间范围。
1-3 小时
活动状态议题当前的可参与程度：新鲜、活跃、陈旧、阻塞或等待维护者输入。
新近可参与
清晰度议题是否清楚说明期望改动、验收标准和下一步。
清晰
前置要求
PythonMegatron trainingHugging Face model conversion
新手友好度1-100 的估计分数，表示该议题对首次贡献者的友好程度。
75