Owner
ai-dynamo
已索引 4 个仓库 · 在 GitHub 查看
-
dynamo
A Datacenter Scale Distributed Inference Serving Framework
Rust · 8135 个 star
-
aiperf
AIPerf is a comprehensive benchmarking tool that measures the performance of generative AI models served by your preferred inference solu...
Python · 750 个 star
-
snapshot
Snapshot gets GPU pods ready in seconds instead of minutes — by restoring a fully initialized GPU worker instead of starting one from scr...
Go · 60 个 star
-
Rust · 22 个 star
可能已有人在做的 issue 排在最后。 全部按时间排序
-
dep:draft epp performance router
难度 5/5 一周以上 新手友好度 1/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 77/100
维护者通常 2 天内回复
-
[BUG]: MiniMax M3 required tool choice can return text with explicit thinking可能重新可做 关联的 PR 已关闭且未合并。 未关闭backend::vllm bug dynamo-llm frontend tool-calling
难度 4/5 1-2 天 新手友好度 48/100
维护者通常 1 天内回复
-
backend::sglang backend::trtllm backend::vllm dep:draft deployment::k8s dynamo-runtime enhancement frontend language::rust operator runtime
难度 5/5 一周以上 新手友好度 25/100
维护者通常 1 天内回复
-
contribution-request performance
难度 4/5 3-5 天 新手友好度 42/100
维护者通常 1 天内回复
-
backend::vllm build cherry-pick:approved cherry-pick:rc7 dependencies nixl xpu
难度 2/5 1-3 小时 新手友好度 15/100
维护者通常 1 天内回复
-
[Cherry-Pick Request] [release/1.6.0]: chore(xpu): upgrade SGLang XPU to v0.5.19 on oneAPI 2026.0未关闭cherry-pick:approved cherry-pick:rc7 dependencies xpu
难度 2/5 1-3 小时 新手友好度 20/100
维护者通常 1 天内回复
-
backend::trtllm container nixl performance
难度 4/5 3-5 天 新手友好度 30/100
维护者通常 1 天内回复
-
dep:draft deployment::k8s dynamo-deploy enhancement operator
难度 5/5 一周以上 新手友好度 12/100
维护者通常 1 天内回复
-
deployment::k8s documentation enhancement nixl
难度 4/5 3-5 天 新手友好度 30/100
维护者通常 1 天内回复
-
bug dynamo-llm frontend language::rust
难度 4/5 3-5 天 新手友好度 25/100
ai-dynamo/dynamo#16601 · 1 条评论 ·
维护者通常 1 天内回复
-
dep:draft deployment::k8s epp router
难度 5/5 一周以上 新手友好度 8/100
维护者通常 1 天内回复
-
epp frontend router
难度 4/5 一周以上 新手友好度 22/100
维护者通常 1 天内回复
-
dynamo-runtime enhancement epp language::rust router runtime
难度 5/5 一周以上 新手友好度 18/100
维护者通常 1 天内回复
-
epp multimodal router
难度 4/5 3-5 天 新手友好度 25/100
维护者通常 1 天内回复
-
enhancement epp language::rust router
难度 5/5 一周以上 新手友好度 15/100
维护者通常 1 天内回复
-
epp language::rust router
难度 4/5 3-5 天 新手友好度 35/100
维护者通常 1 天内回复
-
epp language::rust router
难度 4/5 3-5 天 新手友好度 45/100
维护者通常 1 天内回复
-
epp language::rust multimodal router
难度 4/5 3-5 天 新手友好度 38/100
维护者通常 1 天内回复
-
enhancement epp frontend language::rust
难度 4/5 3-5 天 新手友好度 35/100
维护者通常 1 天内回复
-
enhancement epp frontend language::rust router
难度 4/5 3-5 天 新手友好度 52/100
维护者通常 1 天内回复
-
dynamo-runtime enhancement epp language::rust router
难度 4/5 3-5 天 新手友好度 22/100
维护者通常 1 天内回复
-
deployment::k8s epp language::rust router
难度 4/5 3-5 天 新手友好度 28/100
维护者通常 1 天内回复
-
enhancement epp language::rust router
难度 2/5 1-3 小时 新手友好度 72/100
维护者通常 1 天内回复
-
test
难度 4/5 3-5 天 新手友好度 35/100
ai-dynamo/frontend-crates#423 ·
维护者通常 1 天内回复
-
难度 4/5 3-5 天 新手友好度 35/100
ai-dynamo/snapshot#624 · 1 条评论 ·
维护者通常 2 天内回复
-
难度 4/5 3-5 天 新手友好度 25/100
维护者通常 2 天内回复
-
bug deployment::k8s dynamo-deploy operator
难度 4/5 3-5 天 新手友好度 20/100
维护者通常 1 天内回复
-
backend::vllm ci xpu
难度 4/5 3-5 天 新手友好度 22/100
维护者通常 1 天内回复
-
dep:draft dep:lightweight dynamo-runtime enhancement language::rust router
难度 5/5 一周以上 新手友好度 8/100
ai-dynamo/dynamo#16543 · 1 条评论 ·
维护者通常 1 天内回复
-
backend::sglang bug dynamo-llm language::python
难度 2/5 1-3 小时 新手友好度 72/100
维护者通常 1 天内回复
-
难度 4/5 3-5 天 新手友好度 22/100
维护者通常 2 天内回复
-
bug parsers-v2
难度 4/5 3-5 天 新手友好度 22/100
ai-dynamo/frontend-crates#411 ·
维护者通常 1 天内回复
-
feat(router): implement gated decode-to-prefill KV reuse可能已有人在做 @yifjiang 今天认领。 未关闭backend::vllm enhancement kv-memory kvbm language::rust router
难度 5/5 一周以上 新手友好度 25/100
维护者通常 1 天内回复
-
DEP (light): Demand-driven decode-to-prefill KV reuse可能已有人在做 关联的 PR 仍在进行中或已合并。 未关闭dep:draft dep:lightweight enhancement frontend kvbm router
难度 5/5 一周以上 新手友好度 25/100
维护者通常 1 天内回复
-
FpmEventRelay construction holds the GIL while waiting on the secondary runtime可能已有人在做 @WyattJia 今天认领。 未关闭language::python language::rust runtime
难度 3/5 1-2 天 新手友好度 55/100
维护者通常 1 天内回复
-
[BUG]: vLLM chat processor drops priority hints, so priority routing and scheduling are ignored可能已有人在做 @Shabonasar 于 19 天前认领。 未关闭backend::vllm bug frontend language::python router
难度 2/5 1-3 小时 新手友好度 38/100
维护者通常 1 天内回复
-
Frontend HTTP listener polls shared shutdown Notifies on every connection wakeup (axum-server, since #15564)可能已有人在做 @jthomson04 于 1 天前认领。 未关闭dynamo-runtime frontend language::rust performance
难度 4/5 3-5 天 新手友好度 25/100
维护者通常 1 天内回复
-
feat(replay): consume canonical AISimulate speculative decoding可能已有人在做 @Harrilee 于 14 天前认领。 未关闭language::python language::rust
难度 4/5 3-5 天 新手友好度 20/100
维护者通常 1 天内回复
-
Synthetic prompts silently repeat across runs (default --num-dataset-entries 100 + fixed seed), so prefix caching inflates TTFT and throughput可能已有人在做 @jontb 于 1 天前认领。 未关闭bug dataset
难度 4/5 3-5 天 新手友好度 48/100
维护者通常 2 天内回复
-
[BUG]: Builtin soft-affinity fallback carries an old DP rank to a different worker可能已有人在做 关联的 PR 仍在进行中或已合并。 未关闭dynamo-llm dynamo-runtime language::rust router
难度 3/5 1-2 天 新手友好度 68/100
维护者通常 1 天内回复
-
bug(frontend): Muse tool calls leak after an answer preamble in SGLang processing可能已有人在做 @peihan-dev 于 2 天前认领。 未关闭backend::sglang bug frontend language::python tool-calling
难度 3/5 1-2 天 新手友好度 25/100
维护者通常 1 天内回复
-
[BUG]: The vLLM MP init container lacks security contexts and resource limits可能已有人在做 @treydock 于 93 天前认领。 未关闭backend::vllm bug deployment::k8s operator
难度 2/5 1-3 小时 新手友好度 30/100
维护者通常 1 天内回复
-
vLLM pure-TP MoE self-benchmarks skip required real-KV warm-up可能已有人在做 @simone-chen 于 2 天前认领。 未关闭backend::vllm bug dynamo-llm language::python
难度 4/5 3-5 天 新手友好度 18/100
维护者通常 1 天内回复
-
[BUG]: Multinode worker metrics fail on non-leader可能已有人在做 @treydock 于 90 天前认领。 未关闭bug deployment::k8s metrics observability
难度 3/5 1-2 天 新手友好度 25/100
维护者通常 1 天内回复
-
[BUG]: Dynamo worker metrics missing "dynamo_namespace" label可能已有人在做 @treydock 于 120 天前认领。 未关闭bug metrics observability
难度 3/5 1-2 天 新手友好度 22/100
维护者通常 1 天内回复
-
fix(mocker): compare Tokio sleep deadlines on Tokio's clock可能已有人在做 @GuanLuo 于 2 天前认领。 未关闭bug language::rust needs-triage performance
难度 2/5 1-3 小时 新手友好度 35/100
维护者通常 1 天内回复
-
[BUG]: Planner never finishes startup while any worker replica is Pending (30-min wait, then crash-restart loop)可能已有人在做 @TailinLyu 于 1 天前认领。 未关闭bug deployment::k8s dynamo-planner planner
难度 4/5 3-5 天 新手友好度 35/100
ai-dynamo/dynamo#16678 · 2 条评论 ·
维护者通常 1 天内回复
-
refactor(frontend): unify native generate handlers behind format plugins可能已有人在做 @Aphoh 于 2 天前认领。 未关闭backend::sglang backend::vllm enhancement frontend language::rust
难度 5/5 一周以上 新手友好度 12/100
维护者通常 1 天内回复
只显示最新的 100 条
这个页面只列出最近收录的部分。完整清单在高级筛选里，可以按语言、难度和预计耗时筛选。