Repository Issues

vllm-project/semantic-router

System Level Intelligent Router for Mixture-of-Models at Cloud, Data Center and Edge

Auf GitHub ansehen
Stars
 (4.293 Sterne)
Forks
 (699 Forks)
Indexierte Issues
 (129 indexierte Issues)
offene Einsteiger-Issues
 (0 offene Einsteiger-Issues)
Zuletzt indexiert
30.07.2026
Letzter GitHub Push
08.06.2026
Lizenz
Apache License 2.0
Contributing Guide
Contributing Guide
Code of Conduct
Code of Conduct
Hauptsprache
Go
PR-Merge-Metriken
 (PR-Metriken ausstehend)
Einsteiger-Labels
Keine Einsteiger-Labels indexiert

Issues

122 offene indexierte Issues

Offen
feat: add tenant-aware quota, budget, and rate-limit policy
area/corearea/networkingenhancementhelp wantedoperationspriority/P1roadmap
Warum empfohlenNoch niemand zugewiesen · Noch keine Kommentare
Noch niemand zugewiesenNoch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2356 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen0 zugewiesene Personen
Offen
feat: add ROCm ATOM inference-aware backend adapter
area/model-selectionarea/observabilityenhancementenvironment/rocmhelp wantedoperationspriority/P2roadmap
Warum empfohlenNoch keine Kommentare · Einsteigerfreundliches Label vorhanden
Noch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2352 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen1 zugewiesene Person
Offen
feat: add SGLang inference-aware backend adapter
area/model-selectionarea/observabilityenhancementhelp wantedoperationspriority/P2roadmap
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2351 · 05.07.2026 · Go · 4.293 Sterne

3 Kommentare0 Reaktionen2 zugewiesene Personen
Offen
feat: add vLLM inference-aware backend adapter
area/model-selectionarea/observabilityenhancementhelp wantedoperationspriority/P1roadmap
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2350 · 05.07.2026 · Go · 4.293 Sterne

1 Kommentar0 Reaktionen1 zugewiesene Person
Offen
feat: harden multimodal and image-routing signal robustness
area/corearea/observabilityarea/testingenhancementhelp wantedpriority/P1roadmapsignal-decision-engine
Warum empfohlenNoch keine Kommentare · Einsteigerfreundliches Label vorhanden
Noch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2347 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen1 zugewiesene Person
Offen
feat: add adaptive thresholding and policy calibration
area/model-selectionarea/researchenhancementhelp wantedpriority/P2roadmapsignal-decision-engine
Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar
Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2341 · 05.07.2026 · Go · 4.293 Sterne

5 Kommentare0 Reaktionen1 zugewiesene Person
Offen
research: explore additional Looper-family routing algorithms
area/model-selectionarea/momarea/researchenhancementhelp wantedpriority/P2roadmap
Warum empfohlenNoch niemand zugewiesen · Noch keine Kommentare
Noch niemand zugewiesenNoch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2337 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen0 zugewiesene Personen