Issues du dépôt
sgl-project/sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
Issues
Ouverte
Reducing the time to import sglang
good first issuehigh priority
Label adapté aux débutantsGuide de contribution disponible
6 commentaires4 réactions1 personne assignée
Ouverte
[Performance] Remove instances of `torch.nonzero()` where appropriate
good first issueperformance
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
9 commentaires1 réaction0 personne assignée
Ouverte
[Feature] Create benchmark and dataset usage scripts for embedding models
good first issuehelp wanted
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
6 commentaires0 réaction0 personne assignée
Ouverte
[Feature] Implement Image Number Limitation for Image Processors
Multi-modalgood first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
3 commentaires0 réaction0 personne assignée
Ouverte
[Tracking] Improve Multimodal CI coverage
Multi-modalcigood first issueperformance
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
3 commentaires5 réactions0 personne assignée
Ouverte
[Bug] Mllama ambiguous multi-image behaviour
Multi-modalgood first issuehelp wanted
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
3 commentaires0 réaction0 personne assignée
Ouverte
[Feature] Benchmark with audio input
Multi-modalgood first issuehelp wanted
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
4 commentaires0 réaction0 personne assignée
Ouverte
[Feature] Enable EPLB in Draft Models
good first issue
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
6 commentaires0 réaction1 personne assignée
Ouverte
[Feature] Enable Two-Batch Overlap in Draft Models
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
5 commentaires0 réaction0 personne assignée
Ouverte
[Bug] Kimi VL GPU memory usage too high
Multi-modalgood first issue
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
17 commentaires0 réaction2 personnes assignées
Ouverte
[Feature] Increase server payload size limit
good first issue
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
9 commentaires1 réaction3 personnes assignées
Ouverte
[Feature] Support `abort_request` in the router
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
2 commentaires0 réaction0 personne assignée
Ouverte
[Feature] Support varied input formats for remaining VLM
good first issuehelp wanted
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
7 commentaires0 réaction3 personnes assignées
Ouverte
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
4 commentaires1 réaction0 personne assignée
Ouverte
[Feature] Add KV cache usage prometheus metrics
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
11 commentaires5 réactions0 personne assignée
Ouverte
[Feature] Support more multi-modal input for VLM
Multi-modalfeaturegood first issuehelp wanted
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
5 commentaires5 réactions1 personne assignée
Ouverte
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
3 commentaires0 réaction0 personne assignée
Ouverte
Extensive benchmarking of reasoning models including variance
good first issue
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
3 commentaires0 réaction1 personne assignée
Ouverte
[Feature] Automatically truncate when the maximum tokens are exceeded instead of throwing an error
good first issue
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
7 commentaires0 réaction1 personne assignée
Ouverte
[Feature] support `gather` instead of `all_gather` when gathering the logits
good first issuehelp wanted
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
9 commentaires0 réaction1 personne assignée