[Question] Any plans to support pipeline RL to avoid ramp down time during weight update in sglang servers
Los mantenedores suelen responder en 1 día
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 5/5
- Tiempo estimado
- Más de una semana
- Aptitud para principiantes
- 30/100
- Tipo de issue
- Nueva funcionalidad
- Claridad
- Necesita aclaración
- Estado de actividad
- Tranquilo
- Stack tecnológico
- python
Línea de trabajo
Comienza con la documentación y las FAQ de slime, y luego sigue el proceso de cómo los servidores SGLang reducen gradualmente las solicitudes durante la transferencia de pesos en la versión 0.2.4. Compara ese comportamiento con el paper de pipeline RL y determina si una configuración o implementación existente permite evitar esa reducción gradual; se considera terminado cuando la respuesta esté documentada o se defina claramente la compatibilidad necesaria.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Your Question
I am running slime for qwen3.5 397B model and the weight transfer is taking too long. I tried to profile the delay and it seems i am taking a lot of time in ramp down of requests in SGLang servers. Is it possible to avoid this ramp down during weight transfer similar to what has been done in pipeline RL paper: https://arxiv.org/pdf/2509.19128 for vllm. Let me know if its already supported or if there is an open PR to add this functionality.
What I've Tried
I have tried looking at documentation and FAQ but could not find the implementation or a direct way to use it in slime.
Environment (if relevant)
- slime version: v0.2.4
Additional Context
No response
Pre-submission Checklist
- I have read the CONTRIBUTING.md and understand the collaboration scope.
- I have read the documentation and FAQ and my question is not answered there.
- I have searched for existing issues and my question has not been asked before.
- Lenguaje dominante
- Python
- Estrellas
- 8.8k
- Forks
- 1.3k
- Merge medio
- 20 h 16 min
- PR fusionados (30 d)
- 24
Preparar el entorno
- Sin Dockerfile ni archivo de Docker Compose
- Sin plantilla de pull request
- Leer la guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de THUDM/slime
-
[Bug] Math reward accepts distinct large integers after float normalizationPosiblemente ocupada @lll-hhh la tomó hace 3 días. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
Los mantenedores suelen responder en 1 día
-
gpqa: when no option letter can be extracted, a single-letter gold label is substring-matched against the whole reply, so a reply that never answers can score 1.0Posiblemente ocupada @shaurya416 la tomó hace 40 días. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 88/100
Los mantenedores suelen responder en 1 día
-
[Bug] shipped dynamic-sampling filters crash on fan-out groups (list[list[Sample]]) from multi-turn agent rolloutsPosiblemente ocupada @QIU-Guanzong la tomó hace 51 días. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 84/100
Los mantenedores suelen responder en 1 día
-
[Bug] W&B initialization fails with wandb 0.28.2 because wandb.util.generate_id was removedPosiblemente ocupada @cyyecao-lappland la tomó hace 69 días. Abiertobug
Dificultad 1/5 1-3 horas Aptitud para principiantes 90/100
THUDM/slime#2332 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
[Bug] solution_str = sample.prompt + sample.responsePosiblemente ocupada @mvanhorn la tomó hace 133 días. Abiertobug
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
THUDM/slime#1829 · 1 comentario ·
Los mantenedores suelen responder en 1 día
Todos los issues de THUDM/slime
Issues similares
-
cost:cheap practicality:seen-in-the-wild severity:medium
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
fairagro/m4.2_advanced_middleware_api#620 ·
Los mantenedores suelen responder en 1 día
-
area:security effort:S priority:P2 provider:local-libvirt status:ready type:docs
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
randomparity/kdive#3495 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
microsoft/markitdown#2820 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
Los mantenedores suelen responder en 2 días