Issues du dépôt
vllm-project/semantic-router
System Level Intelligent Router for Mixture-of-Models at Cloud, Data Center and Edge
Issues
Ouverte
Modularize native router model bindings and runtime capability contracts
area/coreenhancementhelp wantedpriority/P1roadmap
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
1 commentaire0 réaction0 personne assignée
Ouverte
perf: define MIGraphX-first ONNX Runtime provider strategy for AMD router signal models
area/bencharea/environmentenhancementenvironment/rocmevaluationhelp wantedoperationspriority/P1roadmap
Pourquoi recommandéeAucun commentaire pour l'instant · Label adapté aux débutants
Aucun commentaire pour l'instantLabel adapté aux débutantsGuide de contribution disponible
0 commentaire0 réaction1 personne assignée
Ouverte
research: evaluate base + multi-LoRA serving for router classifier assets
area/bencharea/momarea/researchenhancementenvironment/rocmevaluationhelp wantedpriority/P1roadmapsignal-decision-engine
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
1 commentaire0 réaction1 personne assignée
Ouverte
feat: define preference-driven recipe objective spec for offline tuning
area/agentarea/model-selectionarea/researchenhancementevaluationhelp wantedpriority/P2roadmapsignal-decision-engine
Pourquoi recommandéeAucune personne assignée · Aucun commentaire pour l'instant
Aucune personne assignéeAucun commentaire pour l'instantLabel adapté aux débutantsGuide de contribution disponible
0 commentaire0 réaction0 personne assignée
Ouverte
research: define next-generation router base model and model family
area/bencharea/researchenhancementenvironment/rocmevaluationhelp wantedpriority/P1roadmapsignal-decision-engine
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
1 commentaire0 réaction0 personne assignée
Ouverte
test: revisit E2E framework and testcase matrix across Docker and Kubernetes
area/environmentarea/test-and-releasearea/testinge2eenhancementhelp wantedoperationspriority/P1roadmap
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
2 commentaires0 réaction0 personne assignée
Fermée
recipes: tune out-of-box presets for balance, cost, accuracy, speed, privacy, and grounding
area/docsarea/model-selectionarea/user-experiencedocumentationenhancementevaluationhelp wantedpriority/P1roadmap
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutantsGuide de contribution disponible
1 commentaire0 réaction0 personne assignée
Ouverte
feat: add TensorRT-LLM and Triton TensorRT-LLM inference-aware backend adapter
area/model-selectionarea/observabilityenhancementhelp wantedoperationspriority/P1roadmap
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
3 commentaires0 réaction1 personne assignée
Ouverte
ops: revisit Docker and Kubernetes backend endpoint support completeness
area/dashboardarea/environmentarea/networkingenhancementhelp wantedoperationspriority/P1roadmap
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
1 commentaire0 réaction1 personne assignée
Ouverte
quality: audit and harden router code quality, security, and API boundaries
area/corearea/testingenhancementhelp wantedpriority/P1roadmapsafety
Pourquoi recommandéeAucun commentaire pour l'instant · Label adapté aux débutants
Aucun commentaire pour l'instantLabel adapté aux débutantsGuide de contribution disponible
0 commentaire0 réaction1 personne assignée
Ouverte
feat: support NVIDIA DGX Spark edge deployments with local and external model routing
area/environmentarea/model-selectionarea/user-experienceenhancementhelp wantedoperationspriority/P2roadmap
Pourquoi recommandéeAucun commentaire pour l'instant · Label adapté aux débutants
Aucun commentaire pour l'instantLabel adapté aux débutantsGuide de contribution disponible
0 commentaire0 réaction1 personne assignée
Ouverte
feat: support AMD AI PC edge deployments with local and external model routing
area/environmentarea/model-selectionarea/user-experienceenhancementenvironment/rocmhelp wantedoperationspriority/P2roadmap
Pourquoi recommandéeAucun commentaire pour l'instant · Label adapté aux débutants
Aucun commentaire pour l'instantLabel adapté aux débutantsGuide de contribution disponible
0 commentaire0 réaction1 personne assignée
Ouverte
perf: analyze and optimize ROCm production performance for high concurrency and long context
area/bencharea/environmentenhancementenvironment/rocmevaluationhelp wantedoperationspriority/P1roadmap
Pourquoi recommandéeAucune personne assignée · Aucun commentaire pour l'instant
Aucune personne assignéeAucun commentaire pour l'instantLabel adapté aux débutantsGuide de contribution disponible
0 commentaire0 réaction0 personne assignée
Ouverte
feat: add drift and unrouted-query clustering with privacy controls
area/dashboardarea/observabilityenhancementevaluationhelp wantedpriority/P2roadmap
Pourquoi recommandéeAucune personne assignée · Aucun commentaire pour l'instant
Aucune personne assignéeAucun commentaire pour l'instantLabel adapté aux débutantsGuide de contribution disponible
0 commentaire0 réaction0 personne assignée
Ouverte
feat: add frontend routing analytics views for dashboard
area/dashboardarea/observabilityarea/user-experienceenhancementhelp wantedpriority/P2roadmap
Pourquoi recommandéeAucune personne assignée · Aucun commentaire pour l'instant
Aucune personne assignéeAucun commentaire pour l'instantLabel adapté aux débutantsGuide de contribution disponible
0 commentaire0 réaction0 personne assignée
Ouverte
feat: add backend analytics read model for routing quality dashboards
area/dashboardarea/observabilityenhancementhelp wantedpriority/P2roadmap
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
1 commentaire0 réaction1 personne assignée
Ouverte
feat: add approval, activation, and rollback flow for agentic config tuning
area/agentarea/model-selectionarea/researchenhancementhelp wantedoperationspriority/P2roadmap
Pourquoi recommandéeAucune personne assignée · Aucun commentaire pour l'instant
Aucune personne assignéeAucun commentaire pour l'instantLabel adapté aux débutantsGuide de contribution disponible
0 commentaire0 réaction0 personne assignée
Ouverte
feat: define agentic config proposal and patch contract
area/agentarea/model-selectionarea/researchenhancementhelp wantedpriority/P2roadmap
Pourquoi recommandéeAucune personne assignée · Aucun commentaire pour l'instant
Aucune personne assignéeAucun commentaire pour l'instantLabel adapté aux débutantsGuide de contribution disponible
0 commentaire0 réaction0 personne assignée
Ouverte
feat: add Router Memory diagnostics and fail-open runtime receipts
area/agentarea/corearea/observabilityenhancementhelp wantedpriority/P1roadmap
Pourquoi recommandéeAucune personne assignée · Aucun commentaire pour l'instant
Aucune personne assignéeAucun commentaire pour l'instantLabel adapté aux débutantsGuide de contribution disponible
0 commentaire0 réaction0 personne assignée
Ouverte
feat: define shared-resource isolation and diagnostics for multi-tenancy
area/corearea/observabilityenhancementhelp wantedoperationspriority/P1roadmap
Pourquoi recommandéeLabel adapté aux débutants · Guide de contribution disponible
Label adapté aux débutantsGuide de contribution disponible
2 commentaires0 réaction1 personne assignée