NVIDIA-NeMo/Switchyard

在 GitHub 查看

Switchyard lets LLM applications route traffic across models and providers while preserving native OpenAI and Anthropic API compatibility - enabling flexible model selection, benchmarking, and cost/performance optimization.

星标: 3.2k
派生: 296
开放的新手 issue: 0
已索引 issue: 46
平均合并: 1 天 4 小时
30 天内合并 PR: 187

主要语言: Rust
许可证: Apache-2.0
最近 GitHub push: 2026年9月18日
最近索引: 2026年9月19日
贡献指南: 贡献指南
行为准则: 行为准则
新手标签: 没有已索引的新手标签

适合新手全部

未关闭全部

[feature] Make Responses continuation state shareable across replicas 未关闭

难度 5/5 一周以上新手友好度 35/100

NVIDIA-NeMo/Switchyard#832 · 1 条评论 · 2026年9月23日创建
[feature] Bound upstream response bodies and SSE events 未关闭

难度 5/5 一周以上新手友好度 35/100

NVIDIA-NeMo/Switchyard#819 · 2026年9月22日创建
[bug] Responses conversation continuation drops materialized cross-format history 未关闭

难度 3/5 1-2 天新手友好度 78/100

NVIDIA-NeMo/Switchyard#802 · 1 条评论 · 2026年9月20日创建
Add an optional GLiNER classifier sidecar for custom routing 未关闭

难度 5/5 一周以上新手友好度 38/100

NVIDIA-NeMo/Switchyard#735 · 1 条评论 · 2026年9月17日创建
feat(routing): add a TypeSafe-backed classifier router 未关闭

难度 5/5 一周以上新手友好度 35/100

NVIDIA-NeMo/Switchyard#723 · 15 条评论 · 2 个 reaction · 2026年9月16日创建
bug(translation): normalized Chat replay loses reasoning field spelling 未关闭

难度 5/5 一周以上新手友好度 35/100

NVIDIA-NeMo/Switchyard#698 · 2026年9月15日创建
[feature] add a native Python host driver 未关闭

enhancement

难度 4/5 3-5 天新手友好度 48/100

NVIDIA-NeMo/Switchyard#683 · 2026年9月11日创建
feat(routing): add ensemble response synthesis 未关闭

难度 5/5 一周以上新手友好度 20/100

NVIDIA-NeMo/Switchyard#682 · 2026年9月11日创建
ci: evaluate a main-owned Rust dependency cache 未关闭

enhancement

难度 3/5 1-2 天新手友好度 72/100

NVIDIA-NeMo/Switchyard#669 · 2026年9月10日创建
[feature] Serve intermediate judge calls in the LiteLLM routing plugin (classifier-backed routing) 未关闭

难度 5/5 一周以上新手友好度 35/100

NVIDIA-NeMo/Switchyard#665 · 1 条评论 · 2026年9月10日创建
[feature] Add optional de-escalation to the escalation router 未关闭

难度 4/5 3-5 天新手友好度 64/100

NVIDIA-NeMo/Switchyard#661 · 1 条评论 · 2026年9月10日创建
[feature] Support native Gemini generateContent translation 未关闭

enhancement

难度 3/5 1-2 天新手友好度 68/100

NVIDIA-NeMo/Switchyard#642 · 2026年9月8日创建
[bug] OpenAI-to-Anthropic translation erases structured refusal text and emits empty text block 未关闭

难度 3/5 1-2 天新手友好度 72/100

NVIDIA-NeMo/Switchyard#622 · 2 条评论 · 2026年9月4日创建
[bug] Keep upstream error content out of logs and traces 未关闭

bug

难度 4/5 3-5 天新手友好度 45/100

NVIDIA-NeMo/Switchyard#615 · 2026年9月3日创建
[feature] Surface lossy translation diagnostics at runtime 未关闭

难度 4/5 3-5 天新手友好度 55/100

NVIDIA-NeMo/Switchyard#607 · 2026年9月3日创建
[Research] Evaluate GZip-kNN for request routing 未关闭

难度 5/5 一周以上新手友好度 30/100

NVIDIA-NeMo/Switchyard#603 · 1 条评论 · 2026年9月2日创建
[Proposal] Unified routing surface 未关闭

enhancement

难度 5/5 一周以上新手友好度 25/100

NVIDIA-NeMo/Switchyard#601 · 3 个 reaction · 2026年9月2日创建
Judge requests forward image content blocks verbatim, so a text-only judge fails every attached request open to the capable tier 未关闭

难度 4/5 3-5 天新手友好度 54/100

NVIDIA-NeMo/Switchyard#598 · 1 条评论 · 2026年9月2日创建
Decide the default bind address for switchyard-server 未关闭

question

难度 5/5 一周以上新手友好度 42/100

NVIDIA-NeMo/Switchyard#596 · 2 条评论 · 2026年9月2日创建
[feature] Skip repeatedly unavailable routing candidates with circuit breakers 未关闭

NVIDIA-NeMo/Switchyard#594 · 1 条评论 · 已指派 1 人 · 2026年9月1日创建
[feature] Decide where trusted request context should live 未关闭

enhancement

难度 5/5 一周以上新手友好度 35/100

NVIDIA-NeMo/Switchyard#583 · 3 条评论 · 2026年8月31日创建
[feature] Add VGSR as a first-class routing algorithm 未关闭

enhancement

难度 5/5 一周以上新手友好度 35/100

NVIDIA-NeMo/Switchyard#570 · 2 条评论 · 2026年8月27日创建
[bug] Responses codec emits adjacently-tagged ImageSource/FileSource into image_url/file 未关闭

难度 3/5 1-2 天新手友好度 82/100

NVIDIA-NeMo/Switchyard#564 · 1 条评论 · 2026年8月27日创建
Add a reproducible NeMo Gym example for comparing routing strategies 未关闭

enhancement

难度 4/5 3-5 天新手友好度 55/100

NVIDIA-NeMo/Switchyard#559 · 2 条评论 · 2 个 reaction · 2026年8月26日创建
[feature] Stackable / Hierarchical routers 未关闭

enhancement

难度 5/5 一周以上新手友好度 25/100

NVIDIA-NeMo/Switchyard#522 · 2 条评论 · 2026年8月22日创建
[bug] Reused OpenAI tool-call IDs break multi-turn Anthropic tool workflows 未关闭

bug

难度 4/5 3-5 天新手友好度 55/100

NVIDIA-NeMo/Switchyard#502 · 4 条评论 · 2026年8月20日创建
routing: make system prompts follow answer targets 未关闭

难度 4/5 3-5 天新手友好度 35/100

NVIDIA-NeMo/Switchyard#496 · 2026年8月20日创建
docs/feat(libsy): classify_trigger = "user_turn" needs a session id, and cannot fall back to a message hash 未关闭

难度 4/5 3-5 天新手友好度 62/100

NVIDIA-NeMo/Switchyard#495 · 1 条评论 · 2026年8月20日创建
[feature] Support sub-agent-aware model routing 未关闭

enhancement

难度 5/5 一周以上新手友好度 35/100

NVIDIA-NeMo/Switchyard#493 · 2026年8月20日创建
Responses backend rejects plaintext reasoning after cross-provider routing 未关闭

难度 4/5 3-5 天新手友好度 35/100

NVIDIA-NeMo/Switchyard#481 · 1 条评论 · 2026年8月19日创建
Neutral IR does not record structured-output enforcement 未关闭

难度 5/5 一周以上新手友好度 35/100

NVIDIA-NeMo/Switchyard#467 · 2026年8月18日创建
[feature] Define JSON Object contracts for custom classifiers 未关闭

难度 5/5 一周以上新手友好度 45/100

NVIDIA-NeMo/Switchyard#429 · 2026年8月14日创建
Escalation/capability judges: calibration knobs for tool-step (agentic) responses 未关闭

难度 4/5 3-5 天新手友好度 48/100

NVIDIA-NeMo/Switchyard#375 · 1 条评论 · 2026年8月11日创建
[Bug] A target's extra_body is applied to another target that shares its model id 未关闭

难度 4/5 3-5 天新手友好度 72/100

NVIDIA-NeMo/Switchyard#354 · 5 条评论 · 2026年8月11日创建
feat(libsy): evict targets that reject a request as unservable 未关闭

难度 4/5 3-5 天新手友好度 52/100

NVIDIA-NeMo/Switchyard#345 · 2 条评论 · 2026年8月11日创建
Session affinity keys on an empty session id, and is silent when it cannot key at all 未关闭

难度 4/5 3-5 天新手友好度 45/100

NVIDIA-NeMo/Switchyard#301 · 1 条评论 · 2026年8月5日创建
Emit physical provider and classifier attempt lifecycles through Relay 未关闭

难度 5/5 一周以上新手友好度 25/100

NVIDIA-NeMo/Switchyard#299 · 2 条评论 · 2026年8月5日创建
fix(libsy): cap the windowed judge payload and restate the routing instruction last 未关闭

难度 4/5 3-5 天新手友好度 68/100

NVIDIA-NeMo/Switchyard#279 · 1 条评论 · 2026年8月4日创建
feat: bound how long a routed request may take 未关闭

难度 5/5 一周以上新手友好度 38/100

NVIDIA-NeMo/Switchyard#277 · 1 条评论 · 2026年8月4日创建
[Bug] stage_router: capable_first can't offload at the default confidence_threshold=0.5 未关闭

难度 4/5 3-5 天新手友好度 55/100

NVIDIA-NeMo/Switchyard#264 · 3 条评论 · 2026年8月3日创建
feat(libsy-llm-client): report rejected extra_body keys as a configuration error 未关闭

难度 3/5 1-2 天新手友好度 74/100

NVIDIA-NeMo/Switchyard#260 · 2 条评论 · 2026年8月3日创建
[Feature] Separate the user's question from the context Claude Code injects around it 未关闭

难度 3/5 1-2 天新手友好度 76/100

NVIDIA-NeMo/Switchyard#252 · 3 条评论 · 2026年8月3日创建
[Bug] Claude Code requests fail on Azure Opus when thinking parameters are not normalized per target 未关闭

难度 4/5 3-5 天新手友好度 68/100

NVIDIA-NeMo/Switchyard#239 · 2 条评论 · 2026年8月2日创建
[bug] Filter unsupported input modalities per target 未关闭

难度 4/5 3-5 天新手友好度 35/100

NVIDIA-NeMo/Switchyard#152 · 3 条评论 · 2026年7月27日创建

NVIDIA-NeMo/Switchyard

把新 issue 发到你的邮箱