仓库议题
sgl-project/sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
议题
开放
Refactor: TRTLLMHAAttnBackend should not inherit from FlashInferAttnBackend when reuse is small
good first issue
暂无负责人带有初学者友好标签提供贡献指南
1 条评论0 个反应0 位负责人
开放
model: support new diffusion models
Multi-modaldiffusiongood first issuehelp wantednew-model
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
8 条评论2 个反应0 位负责人
开放
[Bug] flashinfer gdn kernel not working
good first issue
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
2 条评论0 个反应0 位负责人
开放
[Feature] Improve Unit Test Coverage
cienhancementgood first issue
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
83 条评论0 个反应3 位负责人
开放
[Feature] Unified JIT / Precompilation Cache Directory
good first issue
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
3 条评论2 个反应0 位负责人
开放
[Feature] Refactor common test entries of SGLang Diffusion
good first issue
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
2 条评论0 个反应1 位负责人
开放
[Feature] Parallelize module loading to speed up server launch and refit for Diffusion models
good first issue
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
1 条评论0 个反应1 位负责人
开放
[Feature] Support offload and wake up of SGLang Diffusion
good first issue
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
5 条评论0 个反应0 位负责人
开放
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
10 条评论0 个反应1 位负责人
开放
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
3 条评论0 个反应0 位负责人
开放
[Feature] Compare the server-disk checksum in VAE and text encoder for update weights from disk of Diffusion models
good first issue
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
3 条评论0 个反应1 位负责人
开放
[Feature] Carefully remove duplicated cotents in SGLang Docs and SGLang Cooklook
documentationgood first issue
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
5 条评论0 个反应0 位负责人
开放
SGLang Cookbook Community Contribution Roadmap
good first issue
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
5 条评论5 个反应2 位负责人
开放
[Feature] Reduce constrained-decoding overhead in TP
good first issue
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
2 条评论0 个反应1 位负责人
开放
[Roadmap] sglang auto tuner
good first issue
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
14 条评论29 个反应0 位负责人
开放
KeyError: 'model.layers.14.mlp.shared_expert.gate_gate_up_proj.weight'
good first issuehelp wanted
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
12 条评论1 个反应1 位负责人
开放
[Feature] Simplify `tree_speculative_sampling_target_only`
good first issue
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
3 条评论0 个反应0 位负责人
开放
[Feature] Overlap Spec Support
enhancementgood first issuehelp wantedhigh priority
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
27 条评论25 个反应2 位负责人
开放
[Feature] Support piggyback server load report.
good first issue
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
4 条评论0 个反应1 位负责人
开放
[Feature] Integrate KVPress in order to try more KV cache optimization heuristics easily
good first issue
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
9 条评论2 个反应0 位负责人