inference-sim

Le issue su cui forse qualcuno sta già lavorando sono in fondo alla lista. Ordina tutto per data

• Queue requests for the render thread by the tokenizer's time, not the whole admission overhead

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 68/100

  inference-sim/inference-sim#2112 · Aperta il 12/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Result carries interactivity_of_mean_tpot

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100

  inference-sim/inference-sim#2110 · Aperta il 12/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Tier-copy links share capacity with P/D pulls (SIM-13)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100

  inference-sim/inference-sim#2108 · Aperta il 12/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Behavioural test cleanup

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

  inference-sim/inference-sim#2107 · Aperta il 11/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Add inference-sim metrics: print the metric registry with scope and aggregate (DEV-8)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  inference-sim/inference-sim#2102 · Aperta il 10/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Add inference-sim ledger: print the published fit, anchor and report lists and the unit list offline (D7, COV-2)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 54/100

  inference-sim/inference-sim#2101 · Aperta il 10/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Add inference-sim fields: print the registered engine's own field list (X19, SUB-1)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  inference-sim/inference-sim#2100 · Aperta il 10/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Judge the named-stream change on held-out data through the released scoring harness (DEV-6, X13)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 5/100

  inference-sim/inference-sim#2095 · Aperta il 9/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Systematic Latency Under-Pricing

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 8/100

  inference-sim/inference-sim#2094 · 1 commento · Aperta il 9/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Write the request and session state machine: intermediate P/D states, and register every planned session round (SIM-8)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 8/100

  inference-sim/inference-sim#2093 · Aperta il 9/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Process each instant in the three phases of design §8.2 (DEV-2)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 15/100

  inference-sim/inference-sim#2092 · Aperta il 9/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Clear the documentation references and version literals the shared check reports, so the check can be required (X23, X26)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

  inference-sim/inference-sim#2091 · 1 commento · Aperta il 9/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Forward the engine's LoRA, extra-key, cache-salt and group identity to the router in KV events

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 43/100

  inference-sim/inference-sim#2089 · Aperta il 8/11/2026

  I maintainer di solito rispondono entro 1 giorno

• RFC: Simulate peer KV-cache reuse in BLIS

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 15/100

  inference-sim/inference-sim#2088 · 1 commento · Aperta il 6/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Emit per-instance measured-window metrics in engine.instances (today they are whole-run only)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  enhancement

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 53/100

  inference-sim/inference-sim#2087 · Aperta il 6/11/2026

  I maintainer di solito rispondono entro 1 giorno

• AgentX corpus cache is keyed on the binary's SHA-256, so every new build/pod re-parses the corpus

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  performance

  Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100

  inference-sim/inference-sim#2086 · Aperta il 6/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Feature: report how busy each GPU is in the simulation results

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  enhancement

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  inference-sim/inference-sim#2081 · Aperta il 6/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Record whether a run's speculative acceptance was measured or borrowed

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  enhancement

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  inference-sim/inference-sim#2079 · 1 commento · Aperta il 5/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Remove fused multiply-adds from output paths (X6)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 55/100

  inference-sim/inference-sim#2078 · Aperta il 5/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Simulate Certus: a vLLM-connected KV offload service

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  cross-repo enhancement

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

  inference-sim/inference-sim#2074 · Aperta il 4/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Result: fill the engine section from engine.Engine.Metrics, and reference the server series instead of inlining it

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/config-schema hardening

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 30/100

  inference-sim/inference-sim#2070 · Aperta il 4/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Bug: Nemotron can't run on engine 0.32.0

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  bug

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 12/100

  inference-sim/inference-sim#2066 · 1 commento · Aperta il 3/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Autoscaler: make the analyzer selectable, and add a threshold (target-value) analyzer

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100

  inference-sim/inference-sim#2063 · Aperta il 2/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Result: record output-only flags that change the document, and give closed-loop follow-ups a field

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  hardening

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  inference-sim/inference-sim#2062 · Aperta il 30/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Carry request priority across the engine contract for 0.32.0

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

  inference-sim/inference-sim#2052 · Aperta il 28/10/2026

  I maintainer di solito rispondono entro 1 giorno

• llm-d-router fork: CI never ran on fork PR #3; flow-control processor waits without parking

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/llm-d-parity determinism hardening

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

  inference-sim/inference-sim#2043 · Aperta il 27/10/2026

  I maintainer di solito rispondono entro 1 giorno

• 23 Go files on main are not gofmt-clean, and CI does not check formatting

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/code-hygiene hardening

  Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100

  inference-sim/inference-sim#2042 · Aperta il 27/10/2026

  I maintainer di solito rispondono entro 1 giorno

• vLLM options not in v0.32.0 but on vLLM main: trtllm_ragged_backend cute-dsl and decode_backend latency_specialized

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/vllm-parity upstream after 0.32.0

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100

  inference-sim/inference-sim#2039 · Aperta il 25/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Remove the remaining engine-knob CLI flags: the scenario is the only source (#2021 B6)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  hardening

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

  inference-sim/inference-sim#2037 · 3 commenti · Aperta il 25/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Apply vLLM's stream_interval to client-side token delivery

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/vllm-parity enhancement

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 52/100

  inference-sim/inference-sim#2035 · Aperta il 24/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Prefix-cache block hash: add vLLM's multimodal extra keys (after LoRA and cache salt)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/kv-cache area/vllm-parity enhancement

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  inference-sim/inference-sim#2031 · Aperta il 24/10/2026

  I maintainer di solito rispondono entro 1 giorno

• deliver-issue-refinements.sh hangs on macOS bash 3.2 for a large digest (whitespace check is superlinear)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/ci-tooling bug

  Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100

  inference-sim/inference-sim#2029 · 1 commento · Aperta il 24/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Cover the Dynamo and vLLM routers InferenceX uses (inference-sim embeds only the llm-d router)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/llm-d-parity design enhancement

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

  inference-sim/inference-sim#2028 · Aperta il 24/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Re-baseline scenarios to vLLM 0.32.0 and remove blis-vllm's 0.29/0.31 compatibility behaviour

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/vllm-parity cross-repo design

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

  inference-sim/inference-sim#2027 · 10 commenti · Aperta il 24/10/2026

  I maintainer di solito rispondono entro 1 giorno

• vLLM settings InferenceX runs use that exist only in custom images, not in v0.32.0

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/vllm-parity custom-image only

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 48/100

  inference-sim/inference-sim#2026 · 2 commenti · Aperta il 24/10/2026

  I maintainer di solito rispondono entro 1 giorno

• vLLM option not in v0.32.0: --monokernel (KernelConfig.monokernel), used by an InferenceX ROCm nightly run

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/vllm-parity upstream after 0.32.0

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  inference-sim/inference-sim#2025 · Aperta il 24/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Model separate prefill and decode workers on one GPU node

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 39/100

  inference-sim/inference-sim#2017 · 1 commento · Aperta il 23/10/2026

  I maintainer di solito rispondono entro 1 giorno

• InferenceModelRewrite silently serves unknown/full-model targets with base-model physics

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 1-2 giorni Idoneità per principianti 48/100

  inference-sim/inference-sim#2008 · Aperta il 21/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Prometheus renderer reuses stale engine state after same-timestamp eviction

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/llm-d-parity area/metrics-invariants bug

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 73/100

  inference-sim/inference-sim#2003 · Aperta il 21/10/2026

  I maintainer di solito rispondono entro 1 giorno

• P/D pools ignore per-pool data-parallel load-balancing mode

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  inference-sim/inference-sim#1988 · Aperta il 20/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Remove or replace the vendored third-party AgentX trace slice

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 1-2 giorni Idoneità per principianti 48/100

  inference-sim/inference-sim#1989 · Aperta il 20/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Replay YAML silently ignores unknown fields

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 65/100

  inference-sim/inference-sim#1990 · Aperta il 20/10/2026

  I maintainer di solito rispondono entro 1 giorno

• llm-d router: model vLLM's native disk-offload KV tier (medium storage)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/llm-d-parity enhancement

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 42/100

  inference-sim/inference-sim#1981 · Aperta il 19/10/2026

  I maintainer di solito rispondono entro 1 giorno

• KV tiering: CPU + NVMe (fs) under-predicts the NVMe benefit at large working sets, and vLLM's p2p secondary tier is refused

  Forse di nuovo libera @rayhanmemon l’ha presa 9 giorni fa e non c’è nessuna pull request aperta. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

  inference-sim/inference-sim#1974 · 2 commenti · Aperta il 18/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Emit vLLM's per-engine server time series and per-request cached-token / queue events

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 38/100

  inference-sim/inference-sim#1973 · Aperta il 18/10/2026

  I maintainer di solito rispondono entro 1 giorno

• InferenceX scorer: KV pool compared in the wrong unit for multi-group caches (DeepSeek-V4-Pro "27x"), and client-limited c512 runs cannot be replayed

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  inference-sim/inference-sim#1969 · Aperta il 18/10/2026

  I maintainer di solito rispondono entro 1 giorno

• llm-d router: topology-aware P/D (host/rack/zone identity)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/llm-d-parity enhancement

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 12/100

  inference-sim/inference-sim#1962 · 5 commenti · Aperta il 16/10/2026

  I maintainer di solito rispondono entro 1 giorno

• llm-d router: simulator-backed predicted latency (PredictorInterface)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/llm-d-parity enhancement

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 8/100

  inference-sim/inference-sim#1961 · 1 commento · Aperta il 16/10/2026

  I maintainer di solito rispondono entro 1 giorno

• llm-d router: session affinity (session_id and encoded_endpoint_header)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/llm-d-parity enhancement

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 22/100

  inference-sim/inference-sim#1960 · 1 commento · Aperta il 16/10/2026

  I maintainer di solito rispondono entro 1 giorno

• llm-d router: conditional decode (Prefer: if-available -> 412)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area/llm-d-parity enhancement

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 12/100

  inference-sim/inference-sim#1959 · 1 commento · Aperta il 16/10/2026

  I maintainer di solito rispondono entro 1 giorno