NVIDIA-NeMo/Switchyard

Vedi su GitHub

Switchyard lets LLM applications route traffic across models and providers while preserving native OpenAI and Anthropic API compatibility - enabling flexible model selection, benchmarking, and cost/performance optimization.

Stelle: 3.2k
Fork: 296
Issue aperte per principianti: 0
Issue indicizzate: 46
Merge medio: 1g 4h
PR unite (30g): 187

Lingua principale: Rust
Licenza: Apache-2.0
Ultimo push su GitHub: 18/9/2026
Ultima indicizzazione: 19/9/2026
Guida per i contributori: Guida per i contributori
Codice di condotta: Codice di condotta
Label per principianti: Nessuna label per principianti indicizzata

Adatte ai principianti Tutto

Aperta Tutte

[feature] Make Responses continuation state shareable across replicas Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

NVIDIA-NeMo/Switchyard#832 · 1 commento · Aperta il 23/9/2026
[feature] Bound upstream response bodies and SSE events Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

NVIDIA-NeMo/Switchyard#819 · Aperta il 22/9/2026
[bug] Responses conversation continuation drops materialized cross-format history Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 78/100

NVIDIA-NeMo/Switchyard#802 · 1 commento · Aperta il 20/9/2026
Add an optional GLiNER classifier sidecar for custom routing Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 38/100

NVIDIA-NeMo/Switchyard#735 · 1 commento · Aperta il 17/9/2026
feat(routing): add a TypeSafe-backed classifier router Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

NVIDIA-NeMo/Switchyard#723 · 15 commenti · 2 reazioni · Aperta il 16/9/2026
bug(translation): normalized Chat replay loses reasoning field spelling Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

NVIDIA-NeMo/Switchyard#698 · Aperta il 15/9/2026
[feature] add a native Python host driver Aperta

enhancement

Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

NVIDIA-NeMo/Switchyard#683 · Aperta il 11/9/2026
feat(routing): add ensemble response synthesis Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 20/100

NVIDIA-NeMo/Switchyard#682 · Aperta il 11/9/2026
ci: evaluate a main-owned Rust dependency cache Aperta

enhancement

Difficoltà 3/5 1-2 giorni Idoneità per principianti 72/100

NVIDIA-NeMo/Switchyard#669 · Aperta il 10/9/2026
[feature] Serve intermediate judge calls in the LiteLLM routing plugin (classifier-backed routing) Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

NVIDIA-NeMo/Switchyard#665 · 1 commento · Aperta il 10/9/2026
[feature] Add optional de-escalation to the escalation router Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 64/100

NVIDIA-NeMo/Switchyard#661 · 1 commento · Aperta il 10/9/2026
[feature] Support native Gemini generateContent translation Aperta

enhancement

Difficoltà 3/5 1-2 giorni Idoneità per principianti 68/100

NVIDIA-NeMo/Switchyard#642 · Aperta il 8/9/2026
[bug] OpenAI-to-Anthropic translation erases structured refusal text and emits empty text block Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 72/100

NVIDIA-NeMo/Switchyard#622 · 2 commenti · Aperta il 4/9/2026
[bug] Keep upstream error content out of logs and traces Aperta

bug

Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100

NVIDIA-NeMo/Switchyard#615 · Aperta il 3/9/2026
[feature] Surface lossy translation diagnostics at runtime Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 55/100

NVIDIA-NeMo/Switchyard#607 · Aperta il 3/9/2026
[Research] Evaluate GZip-kNN for request routing Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 30/100

NVIDIA-NeMo/Switchyard#603 · 1 commento · Aperta il 2/9/2026
[Proposal] Unified routing surface Aperta

enhancement

Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

NVIDIA-NeMo/Switchyard#601 · 3 reazioni · Aperta il 2/9/2026
Judge requests forward image content blocks verbatim, so a text-only judge fails every attached request open to the capable tier Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 54/100

NVIDIA-NeMo/Switchyard#598 · 1 commento · Aperta il 2/9/2026
Decide the default bind address for switchyard-server Aperta

question

Difficoltà 5/5 Più di una settimana Idoneità per principianti 42/100

NVIDIA-NeMo/Switchyard#596 · 2 commenti · Aperta il 2/9/2026
[feature] Skip repeatedly unavailable routing candidates with circuit breakers Aperta

NVIDIA-NeMo/Switchyard#594 · 1 commento · 1 assegnatario · Aperta il 1/9/2026
[feature] Decide where trusted request context should live Aperta

enhancement

Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

NVIDIA-NeMo/Switchyard#583 · 3 commenti · Aperta il 31/8/2026
[feature] Add VGSR as a first-class routing algorithm Aperta

enhancement

Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

NVIDIA-NeMo/Switchyard#570 · 2 commenti · Aperta il 27/8/2026
[bug] Responses codec emits adjacently-tagged ImageSource/FileSource into image_url/file Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 82/100

NVIDIA-NeMo/Switchyard#564 · 1 commento · Aperta il 27/8/2026
Add a reproducible NeMo Gym example for comparing routing strategies Aperta

enhancement

Difficoltà 4/5 3-5 giorni Idoneità per principianti 55/100

NVIDIA-NeMo/Switchyard#559 · 2 commenti · 2 reazioni · Aperta il 26/8/2026
[feature] Stackable / Hierarchical routers Aperta

enhancement

Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

NVIDIA-NeMo/Switchyard#522 · 2 commenti · Aperta il 22/8/2026
[bug] Reused OpenAI tool-call IDs break multi-turn Anthropic tool workflows Aperta

bug

Difficoltà 4/5 3-5 giorni Idoneità per principianti 55/100

NVIDIA-NeMo/Switchyard#502 · 4 commenti · Aperta il 20/8/2026
routing: make system prompts follow answer targets Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100

NVIDIA-NeMo/Switchyard#496 · Aperta il 20/8/2026
docs/feat(libsy): classify_trigger = "user_turn" needs a session id, and cannot fall back to a message hash Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 62/100

NVIDIA-NeMo/Switchyard#495 · 1 commento · Aperta il 20/8/2026
[feature] Support sub-agent-aware model routing Aperta

enhancement

Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

NVIDIA-NeMo/Switchyard#493 · Aperta il 20/8/2026
Responses backend rejects plaintext reasoning after cross-provider routing Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100

NVIDIA-NeMo/Switchyard#481 · 1 commento · Aperta il 19/8/2026
Neutral IR does not record structured-output enforcement Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

NVIDIA-NeMo/Switchyard#467 · Aperta il 18/8/2026
[feature] Define JSON Object contracts for custom classifiers Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 45/100

NVIDIA-NeMo/Switchyard#429 · Aperta il 14/8/2026
Escalation/capability judges: calibration knobs for tool-step (agentic) responses Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

NVIDIA-NeMo/Switchyard#375 · 1 commento · Aperta il 11/8/2026
[Bug] A target's extra_body is applied to another target that shares its model id Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 72/100

NVIDIA-NeMo/Switchyard#354 · 5 commenti · Aperta il 11/8/2026
feat(libsy): evict targets that reject a request as unservable Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 52/100

NVIDIA-NeMo/Switchyard#345 · 2 commenti · Aperta il 11/8/2026
Session affinity keys on an empty session id, and is silent when it cannot key at all Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100

NVIDIA-NeMo/Switchyard#301 · 1 commento · Aperta il 5/8/2026
Emit physical provider and classifier attempt lifecycles through Relay Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

NVIDIA-NeMo/Switchyard#299 · 2 commenti · Aperta il 5/8/2026
fix(libsy): cap the windowed judge payload and restate the routing instruction last Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 68/100

NVIDIA-NeMo/Switchyard#279 · 1 commento · Aperta il 4/8/2026
feat: bound how long a routed request may take Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 38/100

NVIDIA-NeMo/Switchyard#277 · 1 commento · Aperta il 4/8/2026
[Bug] stage_router: capable_first can't offload at the default confidence_threshold=0.5 Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 55/100

NVIDIA-NeMo/Switchyard#264 · 3 commenti · Aperta il 3/8/2026
feat(libsy-llm-client): report rejected extra_body keys as a configuration error Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 74/100

NVIDIA-NeMo/Switchyard#260 · 2 commenti · Aperta il 3/8/2026
[Feature] Separate the user's question from the context Claude Code injects around it Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 76/100

NVIDIA-NeMo/Switchyard#252 · 3 commenti · Aperta il 3/8/2026
[Bug] Claude Code requests fail on Azure Opus when thinking parameters are not normalized per target Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 68/100

NVIDIA-NeMo/Switchyard#239 · 2 commenti · Aperta il 2/8/2026
[bug] Filter unsupported input modalities per target Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100

NVIDIA-NeMo/Switchyard#152 · 3 commenti · Aperta il 27/7/2026

NVIDIA-NeMo/Switchyard

Ricevi le nuove issue nella tua casella