NVIDIA-NeMo/Switchyard

Ver en GitHub

Switchyard lets LLM applications route traffic across models and providers while preserving native OpenAI and Anthropic API compatibility - enabling flexible model selection, benchmarking, and cost/performance optimization.

Estrellas: 3.2k
Forks: 296
Issues abiertos para principiantes: 0
Issues indexados: 46
Merge medio: 1 d 4 h
PR fusionados (30 d): 187

Lenguaje dominante: Rust
Licencia: Apache-2.0
Último push a GitHub: 18/9/2026
Última indexación: 19/9/2026
Guía de contribución: Guía de contribución
Código de conducta: Código de conducta
Etiquetas para principiantes: Sin etiquetas para principiantes indexadas

Para principiantes Todo

Abierto Todos

[feature] Make Responses continuation state shareable across replicas Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100

NVIDIA-NeMo/Switchyard#832 · 1 comentario · Abierto el 23/9/2026
[feature] Bound upstream response bodies and SSE events Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100

NVIDIA-NeMo/Switchyard#819 · Abierto el 22/9/2026
[bug] Responses conversation continuation drops materialized cross-format history Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 78/100

NVIDIA-NeMo/Switchyard#802 · 1 comentario · Abierto el 20/9/2026
Add an optional GLiNER classifier sidecar for custom routing Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 38/100

NVIDIA-NeMo/Switchyard#735 · 1 comentario · Abierto el 17/9/2026
feat(routing): add a TypeSafe-backed classifier router Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100

NVIDIA-NeMo/Switchyard#723 · 15 comentarios · 2 reacciones · Abierto el 16/9/2026
bug(translation): normalized Chat replay loses reasoning field spelling Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100

NVIDIA-NeMo/Switchyard#698 · Abierto el 15/9/2026
[feature] add a native Python host driver Abierto

enhancement

Dificultad 4/5 3-5 días Aptitud para principiantes 48/100

NVIDIA-NeMo/Switchyard#683 · Abierto el 11/9/2026
feat(routing): add ensemble response synthesis Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 20/100

NVIDIA-NeMo/Switchyard#682 · Abierto el 11/9/2026
ci: evaluate a main-owned Rust dependency cache Abierto

enhancement

Dificultad 3/5 1-2 días Aptitud para principiantes 72/100

NVIDIA-NeMo/Switchyard#669 · Abierto el 10/9/2026
[feature] Serve intermediate judge calls in the LiteLLM routing plugin (classifier-backed routing) Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100

NVIDIA-NeMo/Switchyard#665 · 1 comentario · Abierto el 10/9/2026
[feature] Add optional de-escalation to the escalation router Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 64/100

NVIDIA-NeMo/Switchyard#661 · 1 comentario · Abierto el 10/9/2026
[feature] Support native Gemini generateContent translation Abierto

enhancement

Dificultad 3/5 1-2 días Aptitud para principiantes 68/100

NVIDIA-NeMo/Switchyard#642 · Abierto el 8/9/2026
[bug] OpenAI-to-Anthropic translation erases structured refusal text and emits empty text block Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 72/100

NVIDIA-NeMo/Switchyard#622 · 2 comentarios · Abierto el 4/9/2026
[bug] Keep upstream error content out of logs and traces Abierto

bug

Dificultad 4/5 3-5 días Aptitud para principiantes 45/100

NVIDIA-NeMo/Switchyard#615 · Abierto el 3/9/2026
[feature] Surface lossy translation diagnostics at runtime Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 55/100

NVIDIA-NeMo/Switchyard#607 · Abierto el 3/9/2026
[Research] Evaluate GZip-kNN for request routing Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 30/100

NVIDIA-NeMo/Switchyard#603 · 1 comentario · Abierto el 2/9/2026
[Proposal] Unified routing surface Abierto

enhancement

Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

NVIDIA-NeMo/Switchyard#601 · 3 reacciones · Abierto el 2/9/2026
Judge requests forward image content blocks verbatim, so a text-only judge fails every attached request open to the capable tier Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 54/100

NVIDIA-NeMo/Switchyard#598 · 1 comentario · Abierto el 2/9/2026
Decide the default bind address for switchyard-server Abierto

question

Dificultad 5/5 Más de una semana Aptitud para principiantes 42/100

NVIDIA-NeMo/Switchyard#596 · 2 comentarios · Abierto el 2/9/2026
[feature] Skip repeatedly unavailable routing candidates with circuit breakers Abierto

NVIDIA-NeMo/Switchyard#594 · 1 comentario · 1 asignado · Abierto el 1/9/2026
[feature] Decide where trusted request context should live Abierto

enhancement

Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100

NVIDIA-NeMo/Switchyard#583 · 3 comentarios · Abierto el 31/8/2026
[feature] Add VGSR as a first-class routing algorithm Abierto

enhancement

Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100

NVIDIA-NeMo/Switchyard#570 · 2 comentarios · Abierto el 27/8/2026
[bug] Responses codec emits adjacently-tagged ImageSource/FileSource into image_url/file Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 82/100

NVIDIA-NeMo/Switchyard#564 · 1 comentario · Abierto el 27/8/2026
Add a reproducible NeMo Gym example for comparing routing strategies Abierto

enhancement

Dificultad 4/5 3-5 días Aptitud para principiantes 55/100

NVIDIA-NeMo/Switchyard#559 · 2 comentarios · 2 reacciones · Abierto el 26/8/2026
[feature] Stackable / Hierarchical routers Abierto

enhancement

Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

NVIDIA-NeMo/Switchyard#522 · 2 comentarios · Abierto el 22/8/2026
[bug] Reused OpenAI tool-call IDs break multi-turn Anthropic tool workflows Abierto

bug

Dificultad 4/5 3-5 días Aptitud para principiantes 55/100

NVIDIA-NeMo/Switchyard#502 · 4 comentarios · Abierto el 20/8/2026
routing: make system prompts follow answer targets Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

NVIDIA-NeMo/Switchyard#496 · Abierto el 20/8/2026
docs/feat(libsy): classify_trigger = "user_turn" needs a session id, and cannot fall back to a message hash Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 62/100

NVIDIA-NeMo/Switchyard#495 · 1 comentario · Abierto el 20/8/2026
[feature] Support sub-agent-aware model routing Abierto

enhancement

Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100

NVIDIA-NeMo/Switchyard#493 · Abierto el 20/8/2026
Responses backend rejects plaintext reasoning after cross-provider routing Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

NVIDIA-NeMo/Switchyard#481 · 1 comentario · Abierto el 19/8/2026
Neutral IR does not record structured-output enforcement Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100

NVIDIA-NeMo/Switchyard#467 · Abierto el 18/8/2026
[feature] Define JSON Object contracts for custom classifiers Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 45/100

NVIDIA-NeMo/Switchyard#429 · Abierto el 14/8/2026
Escalation/capability judges: calibration knobs for tool-step (agentic) responses Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 48/100

NVIDIA-NeMo/Switchyard#375 · 1 comentario · Abierto el 11/8/2026
[Bug] A target's extra_body is applied to another target that shares its model id Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 72/100

NVIDIA-NeMo/Switchyard#354 · 5 comentarios · Abierto el 11/8/2026
feat(libsy): evict targets that reject a request as unservable Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 52/100

NVIDIA-NeMo/Switchyard#345 · 2 comentarios · Abierto el 11/8/2026
Session affinity keys on an empty session id, and is silent when it cannot key at all Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 45/100

NVIDIA-NeMo/Switchyard#301 · 1 comentario · Abierto el 5/8/2026
Emit physical provider and classifier attempt lifecycles through Relay Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

NVIDIA-NeMo/Switchyard#299 · 2 comentarios · Abierto el 5/8/2026
fix(libsy): cap the windowed judge payload and restate the routing instruction last Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 68/100

NVIDIA-NeMo/Switchyard#279 · 1 comentario · Abierto el 4/8/2026
feat: bound how long a routed request may take Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 38/100

NVIDIA-NeMo/Switchyard#277 · 1 comentario · Abierto el 4/8/2026
[Bug] stage_router: capable_first can't offload at the default confidence_threshold=0.5 Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 55/100

NVIDIA-NeMo/Switchyard#264 · 3 comentarios · Abierto el 3/8/2026
feat(libsy-llm-client): report rejected extra_body keys as a configuration error Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 74/100

NVIDIA-NeMo/Switchyard#260 · 2 comentarios · Abierto el 3/8/2026
[Feature] Separate the user's question from the context Claude Code injects around it Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 76/100

NVIDIA-NeMo/Switchyard#252 · 3 comentarios · Abierto el 3/8/2026
[Bug] Claude Code requests fail on Azure Opus when thinking parameters are not normalized per target Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 68/100

NVIDIA-NeMo/Switchyard#239 · 2 comentarios · Abierto el 2/8/2026
[bug] Filter unsupported input modalities per target Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

NVIDIA-NeMo/Switchyard#152 · 3 comentarios · Abierto el 27/7/2026

NVIDIA-NeMo/Switchyard

Recibe los nuevos issues en tu correo