Repository Issues
sgl-project/sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
Issues
Offen
Reducing the time to import sglang
good first issuehigh priority
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
6 Kommentare4 Reaktionen1 zugewiesene Person
Offen
[Performance] Remove instances of `torch.nonzero()` where appropriate
good first issueperformance
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
9 Kommentare1 Reaktion0 zugewiesene Personen
Offen
[Feature] Create benchmark and dataset usage scripts for embedding models
good first issuehelp wanted
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
6 Kommentare0 Reaktionen0 zugewiesene Personen
Offen
[Feature] Implement Image Number Limitation for Image Processors
Multi-modalgood first issue
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
3 Kommentare0 Reaktionen0 zugewiesene Personen
Offen
[Tracking] Improve Multimodal CI coverage
Multi-modalcigood first issueperformance
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
3 Kommentare5 Reaktionen0 zugewiesene Personen
Offen
[Bug] Mllama ambiguous multi-image behaviour
Multi-modalgood first issuehelp wanted
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
3 Kommentare0 Reaktionen0 zugewiesene Personen
Offen
[Feature] Benchmark with audio input
Multi-modalgood first issuehelp wanted
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
4 Kommentare0 Reaktionen0 zugewiesene Personen
Offen
[Feature] Enable EPLB in Draft Models
good first issue
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
6 Kommentare0 Reaktionen1 zugewiesene Person
Offen
[Feature] Enable Two-Batch Overlap in Draft Models
good first issue
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
5 Kommentare0 Reaktionen0 zugewiesene Personen
Offen
[Bug] Kimi VL GPU memory usage too high
Multi-modalgood first issue
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
17 Kommentare0 Reaktionen2 zugewiesene Personen
Offen
[Feature] Increase server payload size limit
good first issue
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
9 Kommentare1 Reaktion3 zugewiesene Personen
Offen
[Feature] Support `abort_request` in the router
good first issue
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
2 Kommentare0 Reaktionen0 zugewiesene Personen
Offen
[Feature] Support varied input formats for remaining VLM
good first issuehelp wanted
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
7 Kommentare0 Reaktionen3 zugewiesene Personen
Offen
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
4 Kommentare1 Reaktion0 zugewiesene Personen
Offen
[Feature] Add KV cache usage prometheus metrics
good first issue
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
11 Kommentare5 Reaktionen0 zugewiesene Personen
Offen
[Feature] Support more multi-modal input for VLM
Multi-modalfeaturegood first issuehelp wanted
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
5 Kommentare5 Reaktionen1 zugewiesene Person
Offen
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
3 Kommentare0 Reaktionen0 zugewiesene Personen
Offen
Extensive benchmarking of reasoning models including variance
good first issue
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
3 Kommentare0 Reaktionen1 zugewiesene Person
Offen
[Feature] Automatically truncate when the maximum tokens are exceeded instead of throwing an error
good first issue
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
7 Kommentare0 Reaktionen1 zugewiesene Person
Offen
[Feature] support `gather` instead of `all_gather` when gathering the logits
good first issuehelp wanted
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
9 Kommentare0 Reaktionen1 zugewiesene Person