vllm-project/semantic-router Issues

Stars: (4.293 Sterne)
Forks: (699 Forks)
Indexierte Issues: (129 indexierte Issues)
offene Einsteiger-Issues: (0 offene Einsteiger-Issues)
Zuletzt indexiert: 30.07.2026
Letzter GitHub Push: 08.06.2026
Lizenz: Apache License 2.0
Contributing Guide: Contributing Guide
Code of Conduct: Code of Conduct
Hauptsprache: Go
PR-Merge-Metriken: (PR-Metriken ausstehend)
Einsteiger-Labels: Keine Einsteiger-Labels indexiert

Issues

121 offene indexierte Issues

Offen

test: revisit E2E framework and testcase matrix across Docker and Kubernetes

area/environmentarea/test-and-releasearea/testinge2eenhancementhelp wantedoperationspriority/P1roadmap

Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden

Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2379 · 05.07.2026 · Go · 4.293 Sterne

2 Kommentare0 Reaktionen0 zugewiesene Personen

Offen

feat: add TensorRT-LLM and Triton TensorRT-LLM inference-aware backend adapter

area/model-selectionarea/observabilityenhancementhelp wantedoperationspriority/P1roadmap

Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar

Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2377 · 05.07.2026 · Go · 4.293 Sterne

3 Kommentare0 Reaktionen1 zugewiesene Person

Offen

ops: revisit Docker and Kubernetes backend endpoint support completeness

area/dashboardarea/environmentarea/networkingenhancementhelp wantedoperationspriority/P1roadmap

Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar

Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2376 · 05.07.2026 · Go · 4.293 Sterne

1 Kommentar0 Reaktionen1 zugewiesene Person

Offen

quality: audit and harden router code quality, security, and API boundaries

area/corearea/testingenhancementhelp wantedpriority/P1roadmapsafety

Warum empfohlenNoch keine Kommentare · Einsteigerfreundliches Label vorhanden

Noch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2375 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen1 zugewiesene Person

Offen

feat: support NVIDIA DGX Spark edge deployments with local and external model routing

area/environmentarea/model-selectionarea/user-experienceenhancementhelp wantedoperationspriority/P2roadmap

Warum empfohlenNoch keine Kommentare · Einsteigerfreundliches Label vorhanden

Noch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2374 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen1 zugewiesene Person

Offen

feat: support AMD AI PC edge deployments with local and external model routing

area/environmentarea/model-selectionarea/user-experienceenhancementenvironment/rocmhelp wantedoperationspriority/P2roadmap

Warum empfohlenNoch keine Kommentare · Einsteigerfreundliches Label vorhanden

Noch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2373 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen1 zugewiesene Person

Offen

perf: analyze and optimize ROCm production performance for high concurrency and long context

area/bencharea/environmentenhancementenvironment/rocmevaluationhelp wantedoperationspriority/P1roadmap

Warum empfohlenNoch niemand zugewiesen · Noch keine Kommentare

Noch niemand zugewiesenNoch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2372 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen0 zugewiesene Personen

Offen

feat: add drift and unrouted-query clustering with privacy controls

area/dashboardarea/observabilityenhancementevaluationhelp wantedpriority/P2roadmap

Warum empfohlenNoch niemand zugewiesen · Noch keine Kommentare

Noch niemand zugewiesenNoch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2370 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen0 zugewiesene Personen

Offen

feat: add frontend routing analytics views for dashboard

area/dashboardarea/observabilityarea/user-experienceenhancementhelp wantedpriority/P2roadmap

Warum empfohlenNoch niemand zugewiesen · Noch keine Kommentare

Noch niemand zugewiesenNoch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2369 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen0 zugewiesene Personen

Offen

feat: add backend analytics read model for routing quality dashboards

area/dashboardarea/observabilityenhancementhelp wantedpriority/P2roadmap

Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar

Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2368 · 05.07.2026 · Go · 4.293 Sterne

1 Kommentar0 Reaktionen1 zugewiesene Person

Offen

feat: add approval, activation, and rollback flow for agentic config tuning

area/agentarea/model-selectionarea/researchenhancementhelp wantedoperationspriority/P2roadmap

Warum empfohlenNoch niemand zugewiesen · Noch keine Kommentare

Noch niemand zugewiesenNoch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2367 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen0 zugewiesene Personen

Offen

feat: define agentic config proposal and patch contract

area/agentarea/model-selectionarea/researchenhancementhelp wantedpriority/P2roadmap

Warum empfohlenNoch niemand zugewiesen · Noch keine Kommentare

Noch niemand zugewiesenNoch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2366 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen0 zugewiesene Personen

Offen

feat: add Router Memory diagnostics and fail-open runtime receipts

area/agentarea/corearea/observabilityenhancementhelp wantedpriority/P1roadmap

Warum empfohlenNoch niemand zugewiesen · Noch keine Kommentare

Noch niemand zugewiesenNoch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2365 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen0 zugewiesene Personen

Offen

feat: define shared-resource isolation and diagnostics for multi-tenancy

area/corearea/observabilityenhancementhelp wantedoperationspriority/P1roadmap

Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar

Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2364 · 05.07.2026 · Go · 4.293 Sterne

2 Kommentare0 Reaktionen1 zugewiesene Person

Offen

feat: add tenant-scoped config snapshots and recipe activation

area/corearea/dashboardenhancementhelp wantedoperationspriority/P1roadmap

Warum empfohlenNoch niemand zugewiesen · Noch keine Kommentare

Noch niemand zugewiesenNoch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2363 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen0 zugewiesene Personen

Offen

feat: add trusted tenant identity resolution for shared-router multi-tenancy

area/corearea/networkingenhancementhelp wantedoperationspriority/P1roadmap

Warum empfohlenEinsteigerfreundliches Label vorhanden · Beitragsleitfaden verfügbar

Einsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2362 · 05.07.2026 · Go · 4.293 Sterne

2 Kommentare0 Reaktionen1 zugewiesene Person

Offen

feat: explore tool- and MCP-aware routing contracts

area/agentarea/researcharea/tool-managementenhancementhelp wantedpriority/P2roadmap

Warum empfohlenNoch niemand zugewiesen · Noch keine Kommentare

Noch niemand zugewiesenNoch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2361 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen0 zugewiesene Personen

Offen

feat: define signal model lifecycle, datasets, and release provenance

area/researchenhancementenvironment/rocmevaluationhelp wantedpriority/P1roadmapsignal-decision-engine

Warum empfohlenNoch niemand zugewiesen · Noch keine Kommentare

Noch niemand zugewiesenNoch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2360 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen0 zugewiesene Personen

Offen

bench: connect fleet-sim capacity modeling to routing policy validation

area/bencharea/model-selectionenhancementevaluationhelp wantedoperationspriority/P2roadmap

Warum empfohlenNoch keine Kommentare · Einsteigerfreundliches Label vorhanden

Noch keine KommentareEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2359 · 05.07.2026 · Go · 4.293 Sterne

0 Kommentare0 Reaktionen1 zugewiesene Person

Offen

feat: define provider capability inventory and protocol conformance contract

area/corearea/networkingenhancementhelp wantedoperationspriority/P1roadmap

Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden

Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenBeitragsleitfaden verfügbar

vllm-project / semantic-router · #2358 · 05.07.2026 · Go · 4.293 Sterne

2 Kommentare0 Reaktionen0 zugewiesene Personen

vllm-project/semantic-router

Issues

Erhalte frische Easy Issues per E-Mail.