Repository Issues
vllm-project/vllm-omni
A framework for efficient model inference with omni-modality models
Issues
Offen
[New Model]: VoXtream2 (herimor/voxtream2)
good first issuehelp wantednew model
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
8 Kommentare0 Reaktionen1 zugewiesene Person
Offen
[RFC]: Continuous Quantization Support
good first issuehelp wantedhigh priority
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
60 Kommentare0 Reaktionen7 zugewiesene Personen
Offen
[New Model]: Kimi-Audio-7B
good first issuehelp wantednew model
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
2 Kommentare0 Reaktionen1 zugewiesene Person
Offen
[Performance]: High VRAM overhead in Diffusion Stage and ineffectiveness of `gpu_memory_utilization`
enhancementgood first issuehigh priority
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
3 Kommentare0 Reaktionen1 zugewiesene Person
Offen
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
1 Kommentar0 Reaktionen1 zugewiesene Person
Offen
[Feature]: Can support the model wan2.2-fun-a14b-inp use the tool vllm-omni?
good first issuenew model
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
5 Kommentare0 Reaktionen0 zugewiesene Personen
Offen
[RFC]: FLUX.2-dev Model Acceleration Support
good first issuehelp wantednew model
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
4 Kommentare0 Reaktionen1 zugewiesene Person
Offen
[RFC]: TTS Development Roadmap - March 2026
good first issuehelp wanted
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
7 Kommentare12 Reaktionen1 zugewiesene Person
Offen
[RFC]: Ray Connector
enhancementhelp wantedhigh priority
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
10 Kommentare1 Reaktion1 zugewiesene Person
Offen
[RFC]: Low-Precision Quantization (MXFP4) Support for Multimodal Models in vLLM-Omni
enhancementgood first issuehelp wantedhigh priority
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
1 Kommentar2 Reaktionen1 zugewiesene Person
Offen
[RFC]: Decouple Multimodal Output Channel & Simplify Output Processor
good first issuehelp wantedhigh priority
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
3 Kommentare2 Reaktionen3 zugewiesene Personen
Offen
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
9 Kommentare0 Reaktionen1 zugewiesene Person
Offen
[RFC]: HunyuanImage 3.0 deployment
enhancementgood first issuehelp wantedhigh priority
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
9 Kommentare2 Reaktionen1 zugewiesene Person
Offen
[New Model]: inclusionAI/Ming-omni-tts-16.8B-A3B
help wantednew model
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
3 Kommentare0 Reaktionen1 zugewiesene Person
Offen
[New Model]: bitdance
good first issuehelp wantednew model
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
9 Kommentare0 Reaktionen1 zugewiesene Person
Offen
[RFC]: Rebase Additional Information into Model Intermediate Buffer
enhancementhelp wantedhigh priority
Warum empfohlenNoch keine Kommentare · Einsteigerfreundliches Label vorhanden
Noch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
0 Kommentare1 Reaktion1 zugewiesene Person
Offen
[RFC]: Exit on OOM
enhancementhelp wanted
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
18 Kommentare4 Reaktionen1 zugewiesene Person
Offen
[New Model]: Add PersonaPlex (nvidia/personaplex-7b-v1) MVP support
help wantednew model
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
4 Kommentare0 Reaktionen1 zugewiesene Person
Offen
[RFC]: Diffusion Offline Examples Docs & Test
documentationenhancementgood first issuehelp wanted
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
27 Kommentare1 Reaktion1 zugewiesene Person
Offen
[RFC]: General TTS Model Implementation
enhancementgood first issuehelp wantedhigh prioritynew model
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar
6 Kommentare9 Reaktionen3 zugewiesene Personen