Interest in a verl-based training pipeline alongside SkyRL?
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức phù hợp với người mới
- 20/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- python
- Lĩnh vực
- machine-learning
Hướng nghiên cứu
The issue describes a proposed verl training path but names no repository files or tests to start from. First read the existing SkyRL pipeline and ask maintainers whether they want this work and which scope they prefer; the thread has not recorded a decision. Done means an agreed scope and an accepted implementation, with the synchronous-trainer limitation documented.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Summary
We completed a full port of the CodeScout agentic RL training pipeline (issue → file localization) from SkyRL to verl (v0.9.1), preserving task, reward, and evaluation semantics. Before investing in a large PR, we'd like to check whether you're interested in accepting a verl-based training path alongside the current SkyRL pipeline.
What the port includes
- A verl agent-loop adapter for the CodeScout multi-turn rollout: terminal search tools,
localization_finish, prompt/tool-schema plumbing, and workspace isolation, wired into verl's multi-turn rollout and training loop. - Reward bridging to
multilevel_localization_f1_reward(file/module/entity F1, sum over 0–3), with the private-label boundary kept out of the actor's visible inputs. - ~3,300 lines of tests, including:
- loss/gradient/advantage numerical alignment against SkyRL fixed tensors (10 layered checks),
- a 15-case reward contract suite,
- adapter unit + CLI end-to-end tests.
- Data prep / training / evaluation entry scripts and environment setup scripts.
Reproduction evidence
All numbers below are on the localization versions of SWE-bench Verified (500 tasks) / Lite / Pro, sum-F1 macro average on a 0–3 scale, starting from Qwen/Qwen3-4B-Instruct-2507 with GRPO advantage + GSPO policy loss, 200 updates on 8×H100.
- Under the official 15-turn protocol with official ground truth, our verl-trained reproduction reaches or slightly exceeds the released official CodeScout-4B reference model under the same pipeline (same-pipeline comparison against the released model, not the paper tables):
- Verified: 0.815 / 0.783 (two rollout seeds) vs. official 0.730
- Lite: 0.636 / 0.552 vs. official 0.497
- Pro: 0.084 / 0.078 vs. official 0.070
- Under our frozen internal protocol, the untrained base scores 0.262 → 0.762 / 0.733 after training (mean paired difference +0.486, task-paired bootstrap 95% CI [0.407, 0.565]).
Known deviation from the original pipeline
Our current trainer is synchronous (staleness = 0), whereas the original SkyRL pipeline is fully async. We treat this as a documented limitation rather than a silent change; migrating to verl's async trainer would require redoing a matched baseline.
Questions for maintainers
- Would you be open to a PR adding a verl training path (e.g., under an opt-in directory or flag, keeping SkyRL as the default)?
- If yes, what scope would you prefer?
- (a) adapter + tests only,
- (b) adapter + tests + entry scripts + user-facing docs,
- (c) something narrower — we're happy to split into smaller incremental PRs.
- Any requirements we should know about (license headers, supported verl versions, CI)?
Happy to provide per-task audit data or the full experiment records if useful.
- Ngôn ngữ chính
- Python
- Star
- 93
- Fork
- 16
- Merge trung bình
- 9 giờ 57 phút
- Pull request đã merge (30 ngày)
- 1
Chuẩn bị môi trường
Dự án này không cung cấp dev container, Dockerfile hay hướng dẫn đóng góp, nên bạn cần tự thiết lập môi trường: hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của OpenHands/codescout
-
Experiments with an embedding-based search tool.Có thể làm lại được @sani903 đã nhận 355 ngày trước và không có pull request nào đang mở. Đang mở
Tất cả issue của OpenHands/codescout
Issue tương tự
-
run_gate loads a custom tasks file from outside the working directoryCó thể đã có người làm @Ru0k3 đã nhận hôm nay. Đang mởbug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
MakazhanAlpamys/Soup#3189 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 80/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 80/100
nautechsystems/nautilus_trader#5741 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 62/100
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
huggingface/datasets#9128 ·
Maintainer thường phản hồi trong vòng 1 ngày