verl-project/verl

希望可以增加单独检查权重转换逻辑

Open

#6,414 建立於 2026年5月20日

在 GitHub 查看
 (1 留言) (0 反應) (0 負責人)Python (21,533 star) (3,940 fork)auto 404
help wanted

描述

我在尝试把slime的训练任务迁移到verl，但是发现权重转换有点问题，我想对这个进行调试，但是仍然需要足够规模的时间和显存来保证训练和推理的正常进行。请问有什么手段可以单独检查权重转换逻辑嘛？

slime里有--check-weight-update-equal配置来验证权重同步后的值是否正确。https://github.com/THUDM/slime/blob/main/docs/zh/developer_guide/debug.md

貢獻者指南

技術棧
pythonpytorch
領域
machine learning
議題類型
feature
難度面向新貢獻者的預計實作難度，1 表示很小改動，5 表示專家級工作。
3
預計時間有經驗貢獻者完成調查、實作、測試並準備 pull request 的粗略時間範圍。
half day
活動狀態議題目前的可參與程度：新鮮、活躍、陳舊、阻塞或等待維護者輸入。
fresh
清晰度議題是否清楚說明預期改動、驗收標準和下一步。
needs investigation
前置要求
PythonPyTorchRL training basics
新手友善度1-100 的估計分數，表示該議題對首次貢獻者的友善程度。
25
研究方向
This issue requests a feature to independently verify weight conversion logic, similar to slime's check weight update equal flag. The contributor should first examine the current weight conversion implementation in verl by searching for relevant code (e.g., in files handling model checkpoint loading/saving). They can refer to the slime repository's debug documentation at https://github.com/THUDM/slime/blob/main/docs/zh/developer guide/debug.md for inspiration. After understanding the existing logic, a proposal for a new configuration flag or script to check weight updates can be drafted and discussed in the issue comments with maintainers to clarify the expected behavior and scope.