sgl-project/sglang

[Task] Add priority scheduling CIs for preemption path

Chiusa

#13.470 aperta il 18 nov 2025

Vedi su GitHubGuida contributor
 (1 commento) (0 reazioni) (2 assegnatari)Python (6216 fork)auto 404
good first issue

Metriche repository

Star
 (28.442 stelle)
Metriche merge PR
 (Merge medio 2g 1h) (1000 PR mergiate in 30 g)

Descrizione

Checklist

Motivation

There is a number token and request level memory accounting issues reported and fixed by the community recently. It would be good to complement them with robust CI tests.

Context:

  1. https://github.com/sgl-project/sglang/pull/12494
  2. https://github.com/sgl-project/sglang/pull/13142
  3. https://github.com/sgl-project/sglang/pull/13201; https://github.com/sgl-project/sglang/issues/13111 (TestRemTotalTokenOffsetBug)
  4. https://github.com/sgl-project/sglang/blob/5ef728716b2c1159bbb7cd5c098e7720137354ce/python/sglang/srt/managers/schedule_policy.py#L666-L668 - cover this case

Related resources

No response

Guida contributor

Direzione di ricerca
Esamina i PR collegati e il codice per comprendere il percorso di prelazione e i problemi di contabilità della memoria. Quindi progetta test CI che coprano i casi nei riferimenti.
Tech stack
python
Dominio
backend
Tipo issue
Test
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
2
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 ore
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
PythonGit
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
60