[Question] Any plans to support pipeline RL to avoid ramp down time during weight update in sglang servers
I maintainer di solito rispondono entro 1 giorno
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 30/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Da chiarire
- Stato di attività
- Tranquilla
- Stack tecnologico
- python
- Ambito
- distributed-systems, machine-learning
Direzione di ricerca
Inizia dalla documentazione e dalle FAQ di slime, quindi analizza come i server SGLang riducono gradualmente le richieste durante il trasferimento dei pesi nella versione 0.2.4. Confronta questo comportamento con il paper sul pipeline RL e determina se una configurazione o un’implementazione esistente supporta l’evitamento della riduzione; il lavoro è completato quando la risposta è documentata oppure il supporto necessario è definito chiaramente.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Your Question
I am running slime for qwen3.5 397B model and the weight transfer is taking too long. I tried to profile the delay and it seems i am taking a lot of time in ramp down of requests in SGLang servers. Is it possible to avoid this ramp down during weight transfer similar to what has been done in pipeline RL paper: https://arxiv.org/pdf/2509.19128 for vllm. Let me know if its already supported or if there is an open PR to add this functionality.
What I've Tried
I have tried looking at documentation and FAQ but could not find the implementation or a direct way to use it in slime.
Environment (if relevant)
- slime version: v0.2.4
Additional Context
No response
Pre-submission Checklist
- I have read the CONTRIBUTING.md and understand the collaboration scope.
- I have read the documentation and FAQ and my question is not answered there.
- I have searched for existing issues and my question has not been asked before.
- Lingua principale
- Python
- Stelle
- 8.8k
- Fork
- 1.3k
- Merge medio
- 19h
- PR unite (30g)
- 26
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Nessun modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di THUDM/slime
-
[Bug] Math reward accepts distinct large integers after float normalizationForse già presa @lll-hhh l’ha presa 1 giorno fa. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
I maintainer di solito rispondono entro 1 giorno
-
gpqa: when no option letter can be extracted, a single-letter gold label is substring-matched against the whole reply, so a reply that never answers can score 1.0Forse già presa @shaurya416 l’ha presa 38 giorni fa. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100
I maintainer di solito rispondono entro 1 giorno
-
[Bug] shipped dynamic-sampling filters crash on fan-out groups (list[list[Sample]]) from multi-turn agent rolloutsForse già presa @QIU-Guanzong l’ha presa 49 giorni fa. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 84/100
I maintainer di solito rispondono entro 1 giorno
-
[Bug] W&B initialization fails with wandb 0.28.2 because wandb.util.generate_id was removedForse già presa @cyyecao-lappland l’ha presa 67 giorni fa. Apertabug
Difficoltà 1/5 1-3 ore Idoneità per principianti 90/100
THUDM/slime#2332 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
[Bug] solution_str = sample.prompt + sample.responseForse già presa @mvanhorn l’ha presa 131 giorni fa. Apertabug
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
THUDM/slime#1829 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
Issue simili
-
PluginProvider.storeInstance races and clobbers the dedup cache for concurrent loadsForse già presa @Wilson0511 l’ha presa oggi. Apertaneeds-triage
Difficoltà 2/5 1-3 ore Idoneità per principianti 62/100
I maintainer di solito rispondono entro 2 giorni
-
community documentation good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 62/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 85/100
kagent-dev/kagent#3462 ·
I maintainer di solito rispondono entro 1 giorno