Issue del repository
vllm-project/vllm-omni
A framework for efficient model inference with omni-modality models
Issue
Aperta
[New Model]: ovedrive/Qwen-Image-2512-4bit
help wantednew model
Nessun assegnatarioNessun commentoHa una label adatta ai principiantiGuida alla contribuzione disponibile
0 commenti0 reazioni0 assegnatari
Aperta
[New Model]: Add microsoft/Mage-VL with end-to-end full-duplex multimodal streaming inference
help wantednew model
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
2 commenti0 reazioni1 assegnatario
Aperta
[RFC]: Async Diffusion Output
RFCgood first issuehelp wanted
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
1 commento0 reazioni0 assegnatari
Aperta
[RFC]: Align vLLM-Omni error handling with vLLM
RFChelp wanted
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
2 commenti0 reazioni0 assegnatari
Aperta
/v1/realtime has no tool/function-calling support
enhancementgood first issuehelp wanted
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
2 commenti1 reazione1 assegnatario
Aperta
[Bug] Qwen3-Omni talker garbles one-word answers (~13-27%/request, seed-deterministic, pre-existing on main); Whisper-small judge inflates test_one_word_prompt_001 failures ~2x
bughelp wantedmedium priority
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
2 commenti0 reazioni1 assegnatario
Aperta
vLLM-Omni Q3 Config / Entrypoints Roadmap
help wanted
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
12 commenti7 reazioni5 assegnatari
Aperta
[RFC]: CI improvement plan — E2E layering, Acc, pinned deps, job matrix, pre-commit, CodeQL
CI/CDhelp wanted
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
7 commenti0 reazioni0 assegnatari
Aperta
[RFC]: MoE performance optimizations
Kernel optimizationRFCdiffusionhelp wanted
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
4 commenti1 reazione1 assegnatario
Aperta
[Feature]: TeaCache support for Wan2.2 V2V / VACE pipeline
RFCdiffusionenhancementhelp wanted
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
2 commenti0 reazioni1 assegnatario
Aperta
[Bug]: Qwen3-Omni-30B-A3B-Instruct run with error `AssertionError: DP adjusted local rank 1 is out of bounds for 1 devices.`
bughelp wantedmedium priorityomni
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
9 commenti0 reazioni0 assegnatari
Aperta
[New Model]: Lingbot-World 2.0
help wantednew model
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
2 commenti0 reazioni1 assegnatario
Aperta
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
5 commenti0 reazioni0 assegnatari
Aperta
[Feature]: Support for InternVL-U model
good first issuehelp wantednew model
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
4 commenti0 reazioni1 assegnatario
Aperta
[RFC]: Ref-Target KV Cache for Video Diffusion Models
RFChelp wantedhigh priority
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
20 commenti0 reazioni3 assegnatari
Aperta
[RFC]: Data Parallelism for Video Generation Models in vLLM-Omni
RFCenhancementhelp wantedhigh priority
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
12 commenti0 reazioni1 assegnatario
Aperta
[RFC]: MOSS-TTS-Local-v1.5 Serving Optimization
RFChelp wantedtts
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
10 commenti4 reazioni1 assegnatario
Aperta
[New Model]: DreamX-World
diffusionhelp wantedhigh prioritynew modelworld model
Perché consigliataHa una label adatta ai principianti · Guida alla contribuzione disponibile
Ha una label adatta ai principiantiGuida alla contribuzione disponibile
2 commenti0 reazioni1 assegnatario
Aperta
[RFC]: Unify example model usage — migrate all special-usage examples to standard task examples + declarative model_extras
criticalgood first issuehelp wantedhigh priority
Perché consigliataNessun commento · Ha una label adatta ai principianti
Nessun commentoHa una label adatta ai principiantiGuida alla contribuzione disponibile
0 commenti1 reazione1 assegnatario
Aperta
[RFC/Bug] Improve diffusion worker/engine control-plane reliability and output contracts
bughelp wantedhigh priority
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principiantiGuida alla contribuzione disponibile
3 commenti0 reazioni0 assegnatari