Repository Issues
sgl-project/sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
Issues
Offen
Refactor: TRTLLMHAAttnBackend should not inherit from FlashInferAttnBackend when reuse is small
good first issue
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
1 Kommentar0 Reaktionen0 zugewiesene Personen
Offen
model: support new diffusion models
Multi-modaldiffusiongood first issuehelp wantednew-model
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
8 Kommentare2 Reaktionen0 zugewiesene Personen
Offen
[Bug] flashinfer gdn kernel not working
good first issue
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
2 Kommentare0 Reaktionen0 zugewiesene Personen
Offen
[Feature] Improve Unit Test Coverage
cienhancementgood first issue
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
83 Kommentare0 Reaktionen3 zugewiesene Personen
Offen
[Feature] Unified JIT / Precompilation Cache Directory
good first issue
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
3 Kommentare2 Reaktionen0 zugewiesene Personen
Offen
[Feature] Refactor common test entries of SGLang Diffusion
good first issue
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
2 Kommentare0 Reaktionen1 zugewiesene Person
Offen
[Feature] Parallelize module loading to speed up server launch and refit for Diffusion models
good first issue
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
1 Kommentar0 Reaktionen1 zugewiesene Person
Offen
[Feature] Support offload and wake up of SGLang Diffusion
good first issue
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
5 Kommentare0 Reaktionen0 zugewiesene Personen
Offen
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
10 Kommentare0 Reaktionen1 zugewiesene Person
Offen
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
3 Kommentare0 Reaktionen0 zugewiesene Personen
Offen
[Feature] Compare the server-disk checksum in VAE and text encoder for update weights from disk of Diffusion models
good first issue
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
3 Kommentare0 Reaktionen1 zugewiesene Person
Offen
[Feature] Carefully remove duplicated cotents in SGLang Docs and SGLang Cooklook
documentationgood first issue
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
5 Kommentare0 Reaktionen0 zugewiesene Personen
Offen
SGLang Cookbook Community Contribution Roadmap
good first issue
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
5 Kommentare5 Reaktionen2 zugewiesene Personen
Offen
[Feature] Reduce constrained-decoding overhead in TP
good first issue
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
2 Kommentare0 Reaktionen1 zugewiesene Person
Offen
[Roadmap] sglang auto tuner
good first issue
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
14 Kommentare29 Reaktionen0 zugewiesene Personen
Offen
KeyError: 'model.layers.14.mlp.shared_expert.gate_gate_up_proj.weight'
good first issuehelp wanted
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
12 Kommentare1 Reaktion1 zugewiesene Person
Offen
[Feature] Simplify `tree_speculative_sampling_target_only`
good first issue
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
3 Kommentare0 Reaktionen0 zugewiesene Personen
Offen
[Feature] Overlap Spec Support
enhancementgood first issuehelp wantedhigh priority
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
27 Kommentare25 Reaktionen2 zugewiesene Personen
Offen
[Feature] Support piggyback server load report.
good first issue
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
4 Kommentare0 Reaktionen1 zugewiesene Person
Offen
[Feature] Integrate KVPress in order to try more KV cache optimization heuristics easily
good first issue
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
9 Kommentare2 Reaktionen0 zugewiesene Personen