Issue del repository
vllm-project/vllm-omni
A framework for efficient model inference with omni-modality models
Issue
Aperta
[New Model]: VoXtream2 (herimor/voxtream2)
good first issuehelp wantednew model
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
8 commenti0 reazioni1 assegnatario
Aperta
[RFC]: Continuous Quantization Support
good first issuehelp wantedhigh priority
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
60 commenti0 reazioni7 assegnatari
Aperta
[New Model]: Kimi-Audio-7B
good first issuehelp wantednew model
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
2 commenti0 reazioni1 assegnatario
Aperta
[Performance]: High VRAM overhead in Diffusion Stage and ineffectiveness of `gpu_memory_utilization`
enhancementgood first issuehigh priority
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
3 commenti0 reazioni1 assegnatario
Aperta
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
1 commento0 reazioni1 assegnatario
Aperta
[Feature]: Can support the model wan2.2-fun-a14b-inp use the tool vllm-omni?
good first issuenew model
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
5 commenti0 reazioni0 assegnatari
Aperta
[RFC]: FLUX.2-dev Model Acceleration Support
good first issuehelp wantednew model
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
4 commenti0 reazioni1 assegnatario
Aperta
[RFC]: TTS Development Roadmap - March 2026
good first issuehelp wanted
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
7 commenti12 reazioni1 assegnatario
Aperta
[RFC]: Ray Connector
enhancementhelp wantedhigh priority
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
10 commenti1 reazione1 assegnatario
Aperta
[RFC]: Low-Precision Quantization (MXFP4) Support for Multimodal Models in vLLM-Omni
enhancementgood first issuehelp wantedhigh priority
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
1 commento2 reazioni1 assegnatario
Aperta
[RFC]: Decouple Multimodal Output Channel & Simplify Output Processor
good first issuehelp wantedhigh priority
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
3 commenti2 reazioni3 assegnatari
Aperta
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
9 commenti0 reazioni1 assegnatario
Aperta
[RFC]: HunyuanImage 3.0 deployment
enhancementgood first issuehelp wantedhigh priority
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
9 commenti2 reazioni1 assegnatario
Aperta
[New Model]: inclusionAI/Ming-omni-tts-16.8B-A3B
help wantednew model
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
3 commenti0 reazioni1 assegnatario
Aperta
[New Model]: bitdance
good first issuehelp wantednew model
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
9 commenti0 reazioni1 assegnatario
Aperta
[RFC]: Rebase Additional Information into Model Intermediate Buffer
enhancementhelp wantedhigh priority
Perché consigliataNessun commento · Ha una label adatta ai principianti
Nessun commentoHa una label adatta ai principiantiGuida alla contribuzione disponibile
0 commenti1 reazione1 assegnatario
Aperta
[RFC]: Exit on OOM
enhancementhelp wanted
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
18 commenti4 reazioni1 assegnatario
Aperta
[New Model]: Add PersonaPlex (nvidia/personaplex-7b-v1) MVP support
help wantednew model
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
4 commenti0 reazioni1 assegnatario
Aperta
[RFC]: Diffusion Offline Examples Docs & Test
documentationenhancementgood first issuehelp wanted
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
27 commenti1 reazione1 assegnatario
Aperta
[RFC]: General TTS Model Implementation
enhancementgood first issuehelp wantedhigh prioritynew model
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
6 commenti9 reazioni3 assegnatari