倉庫議題
sgl-project/sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
議題
開放
Refactor: TRTLLMHAAttnBackend should not inherit from FlashInferAttnBackend when reuse is small
good first issue
尚無負責人帶有初學者友善標籤提供貢獻指南
1 則留言0 個反應0 位負責人
開放
model: support new diffusion models
Multi-modaldiffusiongood first issuehelp wantednew-model
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤提供貢獻指南
8 則留言2 個反應0 位負責人
開放
[Bug] flashinfer gdn kernel not working
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤提供貢獻指南
2 則留言0 個反應0 位負責人
開放
[Feature] Improve Unit Test Coverage
cienhancementgood first issue
為什麼推薦帶有初學者友善標籤 · 提供貢獻指南
帶有初學者友善標籤提供貢獻指南
83 則留言0 個反應3 位負責人
開放
[Feature] Unified JIT / Precompilation Cache Directory
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤提供貢獻指南
3 則留言2 個反應0 位負責人
開放
[Feature] Refactor common test entries of SGLang Diffusion
good first issue
為什麼推薦帶有初學者友善標籤 · 提供貢獻指南
帶有初學者友善標籤提供貢獻指南
2 則留言0 個反應1 位負責人
開放
[Feature] Parallelize module loading to speed up server launch and refit for Diffusion models
good first issue
為什麼推薦帶有初學者友善標籤 · 提供貢獻指南
帶有初學者友善標籤提供貢獻指南
1 則留言0 個反應1 位負責人
開放
[Feature] Support offload and wake up of SGLang Diffusion
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤提供貢獻指南
5 則留言0 個反應0 位負責人
開放
為什麼推薦帶有初學者友善標籤 · 提供貢獻指南
帶有初學者友善標籤提供貢獻指南
10 則留言0 個反應1 位負責人
開放
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤提供貢獻指南
3 則留言0 個反應0 位負責人
開放
[Feature] Compare the server-disk checksum in VAE and text encoder for update weights from disk of Diffusion models
good first issue
為什麼推薦帶有初學者友善標籤 · 提供貢獻指南
帶有初學者友善標籤提供貢獻指南
3 則留言0 個反應1 位負責人
開放
[Feature] Carefully remove duplicated cotents in SGLang Docs and SGLang Cooklook
documentationgood first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤提供貢獻指南
5 則留言0 個反應0 位負責人
開放
SGLang Cookbook Community Contribution Roadmap
good first issue
為什麼推薦帶有初學者友善標籤 · 提供貢獻指南
帶有初學者友善標籤提供貢獻指南
5 則留言5 個反應2 位負責人
開放
[Feature] Reduce constrained-decoding overhead in TP
good first issue
為什麼推薦帶有初學者友善標籤 · 提供貢獻指南
帶有初學者友善標籤提供貢獻指南
2 則留言0 個反應1 位負責人
開放
[Roadmap] sglang auto tuner
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤提供貢獻指南
14 則留言29 個反應0 位負責人
開放
KeyError: 'model.layers.14.mlp.shared_expert.gate_gate_up_proj.weight'
good first issuehelp wanted
為什麼推薦帶有初學者友善標籤 · 提供貢獻指南
帶有初學者友善標籤提供貢獻指南
12 則留言1 個反應1 位負責人
開放
[Feature] Simplify `tree_speculative_sampling_target_only`
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤提供貢獻指南
3 則留言0 個反應0 位負責人
開放
[Feature] Overlap Spec Support
enhancementgood first issuehelp wantedhigh priority
為什麼推薦帶有初學者友善標籤 · 提供貢獻指南
帶有初學者友善標籤提供貢獻指南
27 則留言25 個反應2 位負責人
開放
[Feature] Support piggyback server load report.
good first issue
為什麼推薦帶有初學者友善標籤 · 提供貢獻指南
帶有初學者友善標籤提供貢獻指南
4 則留言0 個反應1 位負責人
開放
[Feature] Integrate KVPress in order to try more KV cache optimization heuristics easily
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤提供貢獻指南
9 則留言2 個反應0 位負責人