Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

Chủ sở hữu

llm-d

Đăng nhập để theo dõi

Đã lập chỉ mục 3 kho mã nguồn · Xem trên GitHub

Phù hợp cho người mới Tất cả
Đang mở Tất cả

Các issue có thể đã có người làm được xếp cuối danh sách. Sắp xếp tất cả theo ngày

  • coordinator: bump the llm-d-async producer and api modules to v1.0.0 when it is released
    Đang mở
    • Có gì không ổn?
    needs-triage

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 35/100

    llm-d/llm-d-router#3407 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [Feature]: Support llm-d-inference-sim overlays in well-lit path guides (starting with optimized-baseline)
    Đang mở
    • Có gì không ổn?
    enhancement

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 30/100

    llm-d/llm-d#2775 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • vllm:lora_requests_info is published before the first request and without lora, unlike vLLM
    Đang mở
    • Có gì không ổn?

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 62/100

    llm-d/llm-d-inference-sim#778 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [Feature]: selective tracing for llm-d
    Đang mở
    • Có gì không ổn?
    enhancement

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 15/100

    llm-d/llm-d#2758 · 2 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Run CodeQL on pull requests
    Đang mở
    • Có gì không ổn?
    area/dev kind/test triage/accepted

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

    llm-d/llm-d-router#3353 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [Feature] Support /v1/decisions and /v1/systemone APIs
    Đang mở
    • Có gì không ổn?
    needs-triage

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 30/100

    llm-d/llm-d-router#3343 · 1 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [Feature]: Support /v1/systemone decision requests
    Đang mở
    • Có gì không ổn?

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

    llm-d/llm-d#2740 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Share decodeRequestBody between the sidecar and the coordinator
    Đang mở
    • Có gì không ổn?
    needs-triage

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 50/100

    llm-d/llm-d-router#3308 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [P/D Disaggregation] Support NIXL push mode in the sidecar
    Đang mở
    • Có gì không ổn?

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 22/100

    llm-d/llm-d#2720 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [RFC]: Dynamic runtime PD router infrastructure and strategy for llm-d
    Đang mở
    • Có gì không ổn?

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

    llm-d/llm-d#2699 · 5 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • thunder-agent: refactoring to fit the current plugin and flow control framework
    Đang mở
    • Có gì không ổn?
    needs-triage

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

    llm-d/llm-d-router#3221 · 4 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Track remaining Trivy alerts on the builder image
    Đang mở
    • Có gì không ổn?
    needs-triage

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 45/100

    llm-d/llm-d-router#3214 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Migration from InferenceObjective v1alpha2 to v1
    Đang mở
    • Có gì không ổn?

    Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 25/100

    llm-d/llm-d-router#3205 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [RFC] coordinator: make kv-offloading work (vLLM OffloadingConnector P2P tier)
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    area/coordinator area/epp area/scheduling kind/feature needs-triage

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 32/100

    llm-d/llm-d-router#3165 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Feature request: capacity-aware scoring based on per-endpoint occupancy
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    needs-triage

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

    llm-d/llm-d-router#3129 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [Bug]: pd-disaggregation CoreWeave overlay caches weights on a 15 GB ramdisk, so gpt-oss-120b fails with ENOSPC
    Đang mở
    • Có gì không ổn?

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 72/100

    llm-d/llm-d#2637 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • EPP: scrape vLLM NIXL transfer failure counters per endpoint
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    needs-triage

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 65/100

    llm-d/llm-d-router#3104 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [Prometheus] Incorrect Metrics for /messages API
    Đang mở
    • Có gì không ổn?
    kind/bug needs-triage

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 55/100

    llm-d/llm-d-router#3097 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [Guides] An operational guide for safe rollout of disagg deployments using DisaggregatedSet
    Đang mở
    • Có gì không ổn?

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 42/100

    llm-d/llm-d#2621 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [Tracking] llm-d 1.0 Release — State-of-the-art inference. Ready for Day 2.
    Đang mở
    • Có gì không ổn?

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 20/100

    llm-d/llm-d#2619 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • SGLang does not support conditional aggregation to decode workers
    Đang mở
    • Có gì không ổn?
    area/coordinator area/epp kind/feature needs-triage

    Độ khó 1/5 1-3 giờ Mức phù hợp với người mới 84/100

    llm-d/llm-d-router#3075 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Responses API e2e tests
    Đang mở
    • Có gì không ổn?
    needs-triage

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 67/100

    llm-d/llm-d-router#3059 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Bump golangci-lint in Dockerfile.builder to v2.13.0+ (fixes goconst false negatives)
    Đang mở
    • Có gì không ổn?

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

    llm-d/llm-d-router#3049 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [Feature]: Agent-Aware KV Cache Affinity Scheduling and Cache Management
    Đang mở
    • Có gì không ổn?
    enhancement

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

    llm-d/llm-d#2584 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Detect vLLM or SGLang backend in epp
    Đang mở
    • Có gì không ổn?
    needs-triage

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

    llm-d/llm-d-router#3030 · 6 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [Proposal] Upstream llm-d Unified Model Server Telemetry to OpenTelemetry GenAI Semantic Conventions (gen_ai.server.*)
    Đang mở
    • Có gì không ổn?
    enhancement

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

    llm-d/llm-d#2569 · 3 bình luận · 1 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Expose inference-pool endpoint labels through a read-only discovery API - useful for a stateless ModelExpress
    Đang mở
    • Có gì không ổn?

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

    llm-d/llm-d-router#2999 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • v0.7.0 release references a removed GHCR scheduler image
    Đang mở
    • Có gì không ổn?

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

    llm-d/llm-d-router#2988 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Support sglang renderer backend
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    needs-triage sglang

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

    llm-d/llm-d-router#2982 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [Docs]: Propose a Kthena variant of the P/D disaggregation guide
    Đang mở
    • Có gì không ổn?

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

    llm-d/llm-d#2550 · 2 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Per-worker KV event subscription without Kubernetes
    Đang mở
    • Có gì không ổn?
    area/datalayer area/kvcache kind/feature

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

    llm-d/llm-d-router#2959 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Proposal: Add an official Chinese/English bilingual documentation plan
    Đang mở
    • Có gì không ổn?

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

    llm-d/llm-d#2546 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • coordinator: report the prefill worker's cached-token count in decode usage
    Có thể đã có người làm Đang mở
    • Có gì không ổn?
    area/coordinator needs-triage

    llm-d/llm-d-router#3396 · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • --dataset-in-memory: concurrent requests fail with "no such table", and datasets over 256 MB crash at startup
    Có thể đã có người làm Đang mở
    • Có gì không ổn?

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 62/100

    llm-d/llm-d-inference-sim#779 · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Add a LoRA scorer that prices adapter residency and eviction
    Có thể đã có người làm Đang mở
    • Có gì không ổn?
    needs-triage

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 18/100

    llm-d/llm-d-router#3391 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • epp: no-hit-lru-scorer scores every used candidate 0 when its LRU holds other endpoints
    Có thể đã có người làm Đang mở
    • Có gì không ổn?
    needs-triage

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 70/100

    llm-d/llm-d-router#3383 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • tracing: add OTEL_TRACES_ENABLED_SCOPES allowlist for selective recording
    Có thể đã có người làm Đang mở
    • Có gì không ổn?
    needs-triage

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 65/100

    llm-d/llm-d-router#3372 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • thunder-agent: tell subagent requests apart within a session
    Có thể đã có người làm Đang mở
    • Có gì không ổn?
    needs-triage

    llm-d/llm-d-router#3371 · 1 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [Bug][async-broker] enqueue keeps a request queued after the client disconnects without learning its id
    Có thể đã có người làm Đang mở
    • Có gì không ổn?
    kind/bug needs-triage

    Độ khó 4/5 1-2 ngày Mức phù hợp với người mới 25/100

    llm-d/llm-d-router#3362 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • lora-affinity-scorer starves a vLLM pod that has not served a request yet (MaxActiveModels reads as 0)
    Có thể đã có người làm Đang mở
    • Có gì không ổn?
    needs-triage

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 57/100

    llm-d/llm-d-router#3361 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • guides: update precise prefix-cache routing guide with features from llm-d-router#2513
    Có thể đã có người làm Đang mở
    • Có gì không ổn?

    llm-d/llm-d#2745 · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • gosec gate follow-ups: run in presubmit and after a govulncheck failure
    Có thể đã có người làm Đang mở
    • Có gì không ổn?
    area/dev kind/test triage/accepted

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100

    llm-d/llm-d-router#3354 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Global flow control admission limits with multiple active EPP replicas
    Có thể đã có người làm Đang mở
    • Có gì không ổn?
    area/epp area/flowcontrol kind/feature needs-triage

    llm-d/llm-d-router#3348 · 3 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Batch Redis syncer publishes per publication cycle
    Có thể đã có người làm Đang mở
    • Có gì không ổn?
    area/datalayer area/epp kind/performance needs-triage

    llm-d/llm-d-router#3347 · 2 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Connect EPP peer discovery to a CrossReplicaSyncer
    Có thể đã có người làm Đang mở
    • Có gì không ổn?
    area/datalayer area/epp kind/feature needs-triage

    llm-d/llm-d-router#3346 · 1 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 1 ngày

Đang hiển thị 100 mục mới nhất

Trang này chỉ liệt kê những gì được lập chỉ mục gần đây. Bộ lọc nâng cao có toàn bộ kho, thu hẹp theo ngôn ngữ, độ khó và thời lượng.

Mở bộ lọc nâng cao

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.