NVIDIA-NeMo/Switchyard

Xem trên GitHub

Switchyard lets LLM applications route traffic across models and providers while preserving native OpenAI and Anthropic API compatibility - enabling flexible model selection, benchmarking, and cost/performance optimization.

Star: 3.2k
Fork: 296
Issue cho người mới đang mở: 0
Issue đã lập chỉ mục: 46
Merge trung bình: 1 ngày 4 giờ
Pull request đã merge (30 ngày): 187

Ngôn ngữ chính: Rust
Giấy phép: Apache-2.0
Lần push lên GitHub gần nhất: 18/9/2026
Lập chỉ mục gần nhất: 19/9/2026
Hướng dẫn đóng góp: Hướng dẫn đóng góp
Quy tắc ứng xử: Quy tắc ứng xử
Label cho người mới: Chưa lập chỉ mục label nào cho người mới

Phù hợp cho người mới Tất cả

Đang mở Tất cả

[bug] Responses conversation continuation drops materialized cross-format history Đang mở

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 78/100

NVIDIA-NeMo/Switchyard#802 · 1 bình luận · Mở ngày 20/9/2026
Add an optional GLiNER classifier sidecar for custom routing Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 38/100

NVIDIA-NeMo/Switchyard#735 · 1 bình luận · Mở ngày 17/9/2026
feat(routing): add a TypeSafe-backed classifier router Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

NVIDIA-NeMo/Switchyard#723 · 15 bình luận · 2 reaction · Mở ngày 16/9/2026
bug(translation): normalized Chat replay loses reasoning field spelling Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

NVIDIA-NeMo/Switchyard#698 · Mở ngày 15/9/2026
[feature] add a native Python host driver Đang mở

enhancement

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

NVIDIA-NeMo/Switchyard#683 · Mở ngày 11/9/2026
feat(routing): add ensemble response synthesis Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 20/100

NVIDIA-NeMo/Switchyard#682 · Mở ngày 11/9/2026
ci: evaluate a main-owned Rust dependency cache Đang mở

enhancement

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 72/100

NVIDIA-NeMo/Switchyard#669 · Mở ngày 10/9/2026
[feature] Serve intermediate judge calls in the LiteLLM routing plugin (classifier-backed routing) Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

NVIDIA-NeMo/Switchyard#665 · 1 bình luận · Mở ngày 10/9/2026
[feature] Add optional de-escalation to the escalation router Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 64/100

NVIDIA-NeMo/Switchyard#661 · 1 bình luận · Mở ngày 10/9/2026
[feature] Support native Gemini generateContent translation Đang mở

enhancement

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 68/100

NVIDIA-NeMo/Switchyard#642 · Mở ngày 8/9/2026
[bug] OpenAI-to-Anthropic translation erases structured refusal text and emits empty text block Đang mở

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 72/100

NVIDIA-NeMo/Switchyard#622 · 2 bình luận · Mở ngày 4/9/2026
[bug] Keep upstream error content out of logs and traces Đang mở

bug

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

NVIDIA-NeMo/Switchyard#615 · Mở ngày 3/9/2026
[feature] Surface lossy translation diagnostics at runtime Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100

NVIDIA-NeMo/Switchyard#607 · Mở ngày 3/9/2026
[Research] Evaluate GZip-kNN for request routing Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 30/100

NVIDIA-NeMo/Switchyard#603 · 1 bình luận · Mở ngày 2/9/2026
[Proposal] Unified routing surface Đang mở

enhancement

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

NVIDIA-NeMo/Switchyard#601 · 3 reaction · Mở ngày 2/9/2026
Judge requests forward image content blocks verbatim, so a text-only judge fails every attached request open to the capable tier Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 54/100

NVIDIA-NeMo/Switchyard#598 · 1 bình luận · Mở ngày 2/9/2026
Decide the default bind address for switchyard-server Đang mở

question

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 42/100

NVIDIA-NeMo/Switchyard#596 · 2 bình luận · Mở ngày 2/9/2026
[feature] Skip repeatedly unavailable routing candidates with circuit breakers Đang mở

NVIDIA-NeMo/Switchyard#594 · 1 bình luận · 1 người được giao · Mở ngày 1/9/2026
[feature] Decide where trusted request context should live Đang mở

enhancement

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

NVIDIA-NeMo/Switchyard#583 · 3 bình luận · Mở ngày 31/8/2026
[feature] Add VGSR as a first-class routing algorithm Đang mở

enhancement

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

NVIDIA-NeMo/Switchyard#570 · 2 bình luận · Mở ngày 27/8/2026
[bug] Responses codec emits adjacently-tagged ImageSource/FileSource into image_url/file Đang mở

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 82/100

NVIDIA-NeMo/Switchyard#564 · 1 bình luận · Mở ngày 27/8/2026
Add a reproducible NeMo Gym example for comparing routing strategies Đang mở

enhancement

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100

NVIDIA-NeMo/Switchyard#559 · 2 bình luận · 2 reaction · Mở ngày 26/8/2026
[feature] Stackable / Hierarchical routers Đang mở

enhancement

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

NVIDIA-NeMo/Switchyard#522 · 2 bình luận · Mở ngày 22/8/2026
[bug] Reused OpenAI tool-call IDs break multi-turn Anthropic tool workflows Đang mở

bug

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100

NVIDIA-NeMo/Switchyard#502 · 4 bình luận · Mở ngày 20/8/2026
routing: make system prompts follow answer targets Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

NVIDIA-NeMo/Switchyard#496 · Mở ngày 20/8/2026
docs/feat(libsy): classify_trigger = "user_turn" needs a session id, and cannot fall back to a message hash Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 62/100

NVIDIA-NeMo/Switchyard#495 · 1 bình luận · Mở ngày 20/8/2026
[feature] Support sub-agent-aware model routing Đang mở

enhancement

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

NVIDIA-NeMo/Switchyard#493 · Mở ngày 20/8/2026
Responses backend rejects plaintext reasoning after cross-provider routing Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

NVIDIA-NeMo/Switchyard#481 · 1 bình luận · Mở ngày 19/8/2026
Neutral IR does not record structured-output enforcement Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

NVIDIA-NeMo/Switchyard#467 · Mở ngày 18/8/2026
[feature] Define JSON Object contracts for custom classifiers Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 45/100

NVIDIA-NeMo/Switchyard#429 · Mở ngày 14/8/2026
Escalation/capability judges: calibration knobs for tool-step (agentic) responses Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

NVIDIA-NeMo/Switchyard#375 · 1 bình luận · Mở ngày 11/8/2026
[Bug] A target's extra_body is applied to another target that shares its model id Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 72/100

NVIDIA-NeMo/Switchyard#354 · 5 bình luận · Mở ngày 11/8/2026
feat(libsy): evict targets that reject a request as unservable Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 52/100

NVIDIA-NeMo/Switchyard#345 · 2 bình luận · Mở ngày 11/8/2026
Session affinity keys on an empty session id, and is silent when it cannot key at all Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

NVIDIA-NeMo/Switchyard#301 · 1 bình luận · Mở ngày 5/8/2026
Emit physical provider and classifier attempt lifecycles through Relay Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

NVIDIA-NeMo/Switchyard#299 · 2 bình luận · Mở ngày 5/8/2026
fix(libsy): cap the windowed judge payload and restate the routing instruction last Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 68/100

NVIDIA-NeMo/Switchyard#279 · 1 bình luận · Mở ngày 4/8/2026
feat: bound how long a routed request may take Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 38/100

NVIDIA-NeMo/Switchyard#277 · 1 bình luận · Mở ngày 4/8/2026
[Bug] stage_router: capable_first can't offload at the default confidence_threshold=0.5 Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100

NVIDIA-NeMo/Switchyard#264 · 3 bình luận · Mở ngày 3/8/2026
feat(libsy-llm-client): report rejected extra_body keys as a configuration error Đang mở

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 74/100

NVIDIA-NeMo/Switchyard#260 · 2 bình luận · Mở ngày 3/8/2026
[Feature] Separate the user's question from the context Claude Code injects around it Đang mở

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 76/100

NVIDIA-NeMo/Switchyard#252 · 3 bình luận · Mở ngày 3/8/2026
[Bug] Claude Code requests fail on Azure Opus when thinking parameters are not normalized per target Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 68/100

NVIDIA-NeMo/Switchyard#239 · 2 bình luận · Mở ngày 2/8/2026
[bug] Filter unsupported input modalities per target Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

NVIDIA-NeMo/Switchyard#152 · 3 bình luận · Mở ngày 27/7/2026

NVIDIA-NeMo/Switchyard

Nhận issue mới trong hộp thư của bạn