Issues do repositório
sgl-project/sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
Issues
Aberta
Refactor: TRTLLMHAAttnBackend should not inherit from FlashInferAttnBackend when reuse is small
good first issue
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
1 comentário0 reação0 responsável
Aberta
model: support new diffusion models
Multi-modaldiffusiongood first issuehelp wantednew-model
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
8 comentários2 reações0 responsável
Aberta
[Bug] flashinfer gdn kernel not working
good first issue
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
2 comentários0 reação0 responsável
Aberta
[Feature] Improve Unit Test Coverage
cienhancementgood first issue
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
83 comentários0 reação3 responsáveis
Aberta
[Feature] Unified JIT / Precompilation Cache Directory
good first issue
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
3 comentários2 reações0 responsável
Aberta
[Feature] Refactor common test entries of SGLang Diffusion
good first issue
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
2 comentários0 reação1 responsável
Aberta
[Feature] Parallelize module loading to speed up server launch and refit for Diffusion models
good first issue
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
1 comentário0 reação1 responsável
Aberta
[Feature] Support offload and wake up of SGLang Diffusion
good first issue
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
5 comentários0 reação0 responsável
Aberta
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
10 comentários0 reação1 responsável
Aberta
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
3 comentários0 reação0 responsável
Aberta
[Feature] Compare the server-disk checksum in VAE and text encoder for update weights from disk of Diffusion models
good first issue
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
3 comentários0 reação1 responsável
Aberta
[Feature] Carefully remove duplicated cotents in SGLang Docs and SGLang Cooklook
documentationgood first issue
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
5 comentários0 reação0 responsável
Aberta
SGLang Cookbook Community Contribution Roadmap
good first issue
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
5 comentários5 reações2 responsáveis
Aberta
[Feature] Reduce constrained-decoding overhead in TP
good first issue
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
2 comentários0 reação1 responsável
Aberta
[Roadmap] sglang auto tuner
good first issue
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
14 comentários29 reações0 responsável
Aberta
KeyError: 'model.layers.14.mlp.shared_expert.gate_gate_up_proj.weight'
good first issuehelp wanted
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
12 comentários1 reação1 responsável
Aberta
[Feature] Simplify `tree_speculative_sampling_target_only`
good first issue
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
3 comentários0 reação0 responsável
Aberta
[Feature] Overlap Spec Support
enhancementgood first issuehelp wantedhigh priority
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
27 comentários25 reações2 responsáveis
Aberta
[Feature] Support piggyback server load report.
good first issue
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
4 comentários0 reação1 responsável
Aberta
[Feature] Integrate KVPress in order to try more KV cache optimization heuristics easily
good first issue
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
9 comentários2 reações0 responsável