sgl-project/sglang

[Task] Add priority scheduling CIs for preemption path

Open

Aperta il 18 nov 2025

Vedi su GitHub
 (1 commento) (0 reazioni) (2 assegnatari)Python (28.442 star) (6216 fork)auto 404
good first issue

Descrizione

Checklist

Motivation

There is a number token and request level memory accounting issues reported and fixed by the community recently. It would be good to complement them with robust CI tests.

Context:

  1. https://github.com/sgl-project/sglang/pull/12494
  2. https://github.com/sgl-project/sglang/pull/13142
  3. https://github.com/sgl-project/sglang/pull/13201; https://github.com/sgl-project/sglang/issues/13111 (TestRemTotalTokenOffsetBug)
  4. https://github.com/sgl-project/sglang/blob/5ef728716b2c1159bbb7cd5c098e7720137354ce/python/sglang/srt/managers/schedule_policy.py#L666-L668 - cover this case

Related resources

No response

Guida contributor

Tech stack
python
Dominio
backend
Tipo issue
test
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
2
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 hours
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
active
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
clear
Prerequisiti
PythonGit
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
60
Direzione di ricerca
Esamina i PR collegati e il codice per comprendere il percorso di prelazione e i problemi di contabilità della memoria. Quindi progetta test CI che coprano i casi nei riferimenti.