Issues do repositório
vllm-project/vllm
A high-throughput and memory-efficient inference and serving engine for LLMs
Issues
Fechada
[Usage]: How to get query embeddings from ColBERT?
good first issueusage
Tem label amigável para iniciantesGuia de contribuição disponível
9 comentários0 reação1 responsável
Aberta
[Docs] Document NIXL KV connector metrics aggregation semantics
good first issue
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
8 comentários1 reação1 responsável
Aberta
[Feature]: Integrate fused `kMoEFinalizeARResidualRMSNorm` from FlashInfer
feature requesthelp wanted
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
5 comentários1 reação0 responsável
Aberta
[Feature]: Priority scheduling supports preemption of requests in the running queue by requests in the waiting queue
feature requesthelp wanted
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
6 comentários0 reação0 responsável
Aberta
[torch.compile] config hashing refactor follow-ups
feature requestgood first issuehelp wanted
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
16 comentários0 reação3 responsáveis
Aberta
[torch.compile] E2E correctness testing for fusions
help wantedtorch.compile
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
8 comentários0 reação0 responsável
Aberta
[Bug]: Certain Ranks Take a Look Time to Load Weights
bughelp wanted
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
3 comentários0 reação0 responsável
Fechada
[Transformers v5] Tarsier2ForConditionalGeneration
good first issuehelp wanted
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
4 comentários0 reação0 responsável
Fechada
[Transformers v5] SarvamMLAForCausalLM
good first issuehelp wanted
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
2 comentários0 reação1 responsável
Aberta
[Transformers v5] InternVL2
good first issuehelp wanted
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
5 comentários0 reação0 responsável
Fechada
[Transformers v5] IsaacForConditionalGeneration
good first issuehelp wanted
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
5 comentários0 reação0 responsável
Fechada
[Transformers v5] Base model and LoRA used in test has incorrect `tokenizer_config.json`
good first issuehelp wanted
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
9 comentários0 reação1 responsável
Fechada
[Transformers v5] MiniCPMV cannot apply processor
good first issuehelp wanted
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
8 comentários0 reação1 responsável
Aberta
Upgrade to Transformers v5
help wanted
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
4 comentários13 reações1 responsável
Aberta
[Feature]: Better Flashinfer compilation logging
feature requesthelp wanted
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
9 comentários0 reação0 responsável
Aberta
[RFC]: Support ViT Full CUDA Graph (Tracker)
RFChelp wantedmulti-modality
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
23 comentários1 reação0 responsável
Aberta
[Feature]: Unify MoE "Oracles" with Class Structure
feature requestgood first issuehelp wanted
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
8 comentários0 reação1 responsável
Aberta
[Feature]: Upstream DGX spark improvements from Avarok-Cybersecurity/dgx-vllm
feature requesthelp wantednvidiaquantization
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
13 comentários1 reação0 responsável
Fechada
[Performance]: qknorm+rope fusion slower than unfused on H100
help wantedperformancetorch.compile
Por que recomendamosTem label amigável para iniciantes · Guia de contribuição disponível
Tem label amigável para iniciantesGuia de contribuição disponível
12 comentários1 reação1 responsável
Aberta
[Roadmap]: PD Disaggregation with `NixlConnector` Roadmap
feature requesthelp wanted
Por que recomendamosAinda sem responsável · Tem label amigável para iniciantes
Ainda sem responsávelTem label amigável para iniciantesGuia de contribuição disponível
5 comentários15 reações0 responsável