仓库议题
sgl-project/sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
议题
开放
Reducing the time to import sglang
good first issuehigh priority
带有初学者友好标签提供贡献指南
6 条评论4 个反应1 位负责人
开放
[Performance] Remove instances of `torch.nonzero()` where appropriate
good first issueperformance
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
9 条评论1 个反应0 位负责人
开放
[Feature] Create benchmark and dataset usage scripts for embedding models
good first issuehelp wanted
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
6 条评论0 个反应0 位负责人
开放
[Feature] Implement Image Number Limitation for Image Processors
Multi-modalgood first issue
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
3 条评论0 个反应0 位负责人
开放
[Tracking] Improve Multimodal CI coverage
Multi-modalcigood first issueperformance
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
3 条评论5 个反应0 位负责人
开放
[Bug] Mllama ambiguous multi-image behaviour
Multi-modalgood first issuehelp wanted
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
3 条评论0 个反应0 位负责人
开放
[Feature] Benchmark with audio input
Multi-modalgood first issuehelp wanted
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
4 条评论0 个反应0 位负责人
开放
[Feature] Enable EPLB in Draft Models
good first issue
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
6 条评论0 个反应1 位负责人
开放
[Feature] Enable Two-Batch Overlap in Draft Models
good first issue
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
5 条评论0 个反应0 位负责人
开放
[Bug] Kimi VL GPU memory usage too high
Multi-modalgood first issue
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
17 条评论0 个反应2 位负责人
开放
[Feature] Increase server payload size limit
good first issue
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
9 条评论1 个反应3 位负责人
开放
[Feature] Support `abort_request` in the router
good first issue
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
2 条评论0 个反应0 位负责人
开放
[Feature] Support varied input formats for remaining VLM
good first issuehelp wanted
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
7 条评论0 个反应3 位负责人
开放
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
4 条评论1 个反应0 位负责人
开放
[Feature] Add KV cache usage prometheus metrics
good first issue
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
11 条评论5 个反应0 位负责人
开放
[Feature] Support more multi-modal input for VLM
Multi-modalfeaturegood first issuehelp wanted
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
5 条评论5 个反应1 位负责人
开放
为什么推荐暂无负责人 · 带有初学者友好标签
暂无负责人带有初学者友好标签提供贡献指南
3 条评论0 个反应0 位负责人
开放
Extensive benchmarking of reasoning models including variance
good first issue
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
3 条评论0 个反应1 位负责人
开放
[Feature] Automatically truncate when the maximum tokens are exceeded instead of throwing an error
good first issue
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
7 条评论0 个反应1 位负责人
开放
[Feature] support `gather` instead of `all_gather` when gathering the logits
good first issuehelp wanted
为什么推荐带有初学者友好标签 · 提供贡献指南
带有初学者友好标签提供贡献指南
9 条评论0 个反应1 位负责人