Issues du dépôt
sgl-project/sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
Issues
Ouverte
Refactor: TRTLLMHAAttnBackend should not inherit from FlashInferAttnBackend when reuse is small
good first issue
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
1 commentaire0 réaction0 personne assignée
Ouverte
model: support new diffusion models
Multi-modaldiffusiongood first issuehelp wantednew-model
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
8 commentaires2 réactions0 personne assignée
Ouverte
[Bug] flashinfer gdn kernel not working
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
2 commentaires0 réaction0 personne assignée
Ouverte
[Feature] Improve Unit Test Coverage
cienhancementgood first issue
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
83 commentaires0 réaction3 personnes assignées
Ouverte
[Feature] Unified JIT / Precompilation Cache Directory
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
3 commentaires2 réactions0 personne assignée
Ouverte
[Feature] Refactor common test entries of SGLang Diffusion
good first issue
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
2 commentaires0 réaction1 personne assignée
Ouverte
[Feature] Parallelize module loading to speed up server launch and refit for Diffusion models
good first issue
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
1 commentaire0 réaction1 personne assignée
Ouverte
[Feature] Support offload and wake up of SGLang Diffusion
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
5 commentaires0 réaction0 personne assignée
Ouverte
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
10 commentaires0 réaction1 personne assignée
Ouverte
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
3 commentaires0 réaction0 personne assignée
Ouverte
[Feature] Compare the server-disk checksum in VAE and text encoder for update weights from disk of Diffusion models
good first issue
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
3 commentaires0 réaction1 personne assignée
Ouverte
[Feature] Carefully remove duplicated cotents in SGLang Docs and SGLang Cooklook
documentationgood first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
5 commentaires0 réaction0 personne assignée
Ouverte
SGLang Cookbook Community Contribution Roadmap
good first issue
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
5 commentaires5 réactions2 personnes assignées
Ouverte
[Feature] Reduce constrained-decoding overhead in TP
good first issue
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
2 commentaires0 réaction1 personne assignée
Ouverte
[Roadmap] sglang auto tuner
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
14 commentaires29 réactions0 personne assignée
Ouverte
KeyError: 'model.layers.14.mlp.shared_expert.gate_gate_up_proj.weight'
good first issuehelp wanted
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
12 commentaires1 réaction1 personne assignée
Ouverte
[Feature] Simplify `tree_speculative_sampling_target_only`
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
3 commentaires0 réaction0 personne assignée
Ouverte
[Feature] Overlap Spec Support
enhancementgood first issuehelp wantedhigh priority
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
27 commentaires25 réactions2 personnes assignées
Ouverte
[Feature] Support piggyback server load report.
good first issue
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
4 commentaires0 réaction1 personne assignée
Ouverte
[Feature] Integrate KVPress in order to try more KV cache optimization heuristics easily
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
9 commentaires2 réactions0 personne assignée