Issue del repository
vllm-project/vllm
A high-throughput and memory-efficient inference and serving engine for LLMs
Issue
Aperta
[Bug]: ModelOpt Llama-4 Checkpoints Take 5+ minutes to load
bugfeature requestgood first issuehelp wanted
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
12 commenti0 reazioni0 assegnatari
Aperta
[Feature]: Enable LoRA support for tower and connector in more MM models
feature requesthelp wantedmulti-modality
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
10 commenti2 reazioni0 assegnatari
Aperta
[Feature][Cleanup]: Unify `vllm.utils.flashinfer` and `vllm.model_executor.layers.quantization.utils.flashinfer_utils`
feature requestgood first issuehelp wanted
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
7 commenti0 reazioni0 assegnatari
Aperta
[RFC]: Improve environment variable declaration and handling
RFCgood first issuehelp wantedkeep-open
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
9 commenti2 reazioni1 assegnatario
Aperta
[Feature]: Default eplb num_redundant_experts to the lowest valid value if unspecified
feature requestgood first issuehelp wantedunstale
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
9 commenti0 reazioni0 assegnatari
Aperta
[Feature]: Add support for fused fp8 output to FlashAttention 3
feature requesthelp wantedkeep-openperformancetorch.compile
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
15 commenti0 reazioni1 assegnatario
Aperta
[Feature]: Qwen3 Omni Transcriptions
feature requestgood first issue
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
9 commenti0 reazioni1 assegnatario
Aperta
[Feature]: Optimize collectives in TP MoE case using torch.compile pass
feature requestgood first issuehelp wantedperformancetorch.compile
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
33 commenti0 reazioni2 assegnatari
Aperta
[Bug][RL]: Port Conflict
buggood first issuehelp wantedstaleunstale
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
17 commenti2 reazioni0 assegnatari
Aperta
[Feature]: Improve DCP error messages
feature requestgood first issuestale
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
5 commenti2 reazioni0 assegnatari
Aperta
[Bug]: AsyncTP pass has poor perf on B200
bughelp wantedkeep-opentorch.compile
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
5 commenti2 reazioni2 assegnatari
Aperta
[Feature]: Batch Invariant Feature and Performance Optimization
feature requestgood first issue
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
59 commenti27 reazioni3 assegnatari
Aperta
[Feature]: Tracking Whisper feature requests
feature requestgood first issuehelp wantedkeep-openmulti-modality
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
13 commenti17 reazioni0 assegnatari
Aperta
[RFC]: Limit the use of envvars in vLLM
RFCgood first issue
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
17 commenti5 reazioni2 assegnatari
Aperta
[Performance]: Compiled `QuantFP8.forward_native` group quantization (1, 128) slower than CUDA on H100/RTX5090
help wantedkeep-openneeds reproductionperformancetorch.compile
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
18 commenti3 reazioni2 assegnatari
Aperta
[Feature]: Support `Phi4Flash` model in V1
feature requestgood first issuehelp wantedstaleunstale
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
7 commenti0 reazioni0 assegnatari
Aperta
[Bug]: Add tests for all parallel sampling parameter combinations
buggood first issuekeep-openstale
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
7 commenti0 reazioni1 assegnatario
Aperta
[Feature]: Add Triton implementation of NVFP4 GEMM
feature requestgood first issueperformanceunstale
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
10 commenti1 reazione0 assegnatari
Aperta
[Feature]: `CustomOp` cleanup
feature requestgood first issuehelp wantedkeep-openstartup-ux
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
7 commenti0 reazioni1 assegnatario
Aperta
[Feature]: Run performance benchmarks for multi-modal models in CI
feature requesthelp wantedkeep-openmulti-modality
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
15 commenti0 reazioni0 assegnatari