NVIDIA/hyperflare-inference

Le issue su cui forse qualcuno sta già lavorando sono in fondo alla lista. Ordina tutto per data

• BUG: nemotron-bolt-24gb export fails during kernel tuning on SM120: b12x

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 15/100

  NVIDIA/hyperflare-inference#278 · Aperta il 12/11/2026

  I maintainer di solito rispondono entro 1 giorno

• GLM-5.3 Flash across two hosts: compiled-forward binding fails on a rank-local guard

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 25/100

  NVIDIA/hyperflare-inference#276 · Aperta il 12/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Multi-host RoCE cores exported at 0572fd12 do not start: pinned FlashInfer 7b35510b records proxy ABI 14, the runtime provides 11

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100

  NVIDIA/hyperflare-inference#271 · Aperta il 12/11/2026

  I maintainer di solito rispondono entro 1 giorno

• GB10 TP3: DeepSeek V4.1 Flash export at 0572fd12 fails kernel tuning with a 0-byte scratch limit; 7.1-7.9 GiB available, below the 8 GiB floor

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

  NVIDIA/hyperflare-inference#270 · 1 commento · Aperta il 12/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Engram row cache: four-way sets evict or refuse re-read rows while a third of slots are free (87 % vs 99.8 % re-read hit rate at 1 vs 4 GiB)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 12/100

  NVIDIA/hyperflare-inference#269 · Aperta il 12/11/2026

  I maintainer di solito rispondono entro 1 giorno

• BUG: qwen3.8-27b export fails warming compiled forwards on SM120

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100

  NVIDIA/hyperflare-inference#268 · Aperta il 12/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Can we get c2606aa merged in?

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

  NVIDIA/hyperflare-inference#267 · 2 commenti · Aperta il 11/11/2026

  I maintainer di solito rispondono entro 1 giorno

• First captured graph keeps a transient cuBLAS split-K workspace: Xid 31 on DeepSeek V4.1 TP4 with --prefill-chunk-size 8192 at 7f534bb6

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 43/100

  NVIDIA/hyperflare-inference#266 · 3 commenti · Aperta il 11/11/2026

  I maintainer di solito rispondono entro 1 giorno

• GB10 TP1 (Qwen3.8 Flash Next): alpha package at `--max-concurrency 16` gives +47% KV and faster C1/C4; one-box DFlash2+A16 export does not beat MTP

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 48/100

  NVIDIA/hyperflare-inference#263 · 1 commento · Aperta il 11/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Host prefix cache: ~30 % of hits dropped as capacity_rejected and fully recomputed

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 42/100

  NVIDIA/hyperflare-inference#255 · Aperta il 10/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Retrospective DCO confirmation by Martin Vit for 131 commits

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 1/5 Meno di un'ora Idoneità per principianti 1/100

  NVIDIA/hyperflare-inference#254 · Aperta il 10/11/2026

  I maintainer di solito rispondono entro 1 giorno

• DeepSeek-V4-Flash-Vision-Exp TP2/TP4: b12x tiny-decode MoE kernel skips `swiglu_limit` (fix in local-inference-lab/flashinfer#83)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 38/100

  NVIDIA/hyperflare-inference#249 · 1 commento · Aperta il 10/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Multi-host export compiles for 22 minutes, then fails, when one rank has no memory for a forward compiler

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 49/100

  NVIDIA/hyperflare-inference#242 · 1 commento · Aperta il 9/11/2026

  I maintainer di solito rispondono entro 1 giorno

• break out engram wait time

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:caching area:engram enhancement performance triage:design-review

  Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100

  NVIDIA/hyperflare-inference#230 · 1 commento · Aperta il 8/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Multi-host prefix cache: startup row thinning of a recovered disk store overflows the 64-frame record backlog and stops the server

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:caching area:selene bug model:deepseek-v4.1 priority:P1 triage:investigate

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 42/100

  NVIDIA/hyperflare-inference#189 · 1 commento · Aperta il 3/11/2026

  I maintainer di solito rispondono entro 1 giorno

• DeepSeek 4.1 TP3 on GB10: 0.46 GiB/GPU less prefill scratch gave +7.6 % KV tokens (measurement only)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:memory area:preparation model:deepseek-v4.1 performance triage:design-review

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

  NVIDIA/hyperflare-inference#186 · 2 commenti · Aperta il 3/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Roadmap question: prefill/decode disaggregation roles, now that the prefix cache pool exists?

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:caching area:selene triage:design-review

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 12/100

  NVIDIA/hyperflare-inference#160 · Aperta il 31/10/2026

  I maintainer di solito rispondono entro 1 giorno

• DeepSeek V4.1 Flash TP3 on GB10: a speculative round costs 1.4-2x a width-one round, a fixed draft cost plus about 4 ms per verified row

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:kernels area:scheduling model:deepseek-v4.1 performance triage:design-review

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

  NVIDIA/hyperflare-inference#153 · 1 commento · Aperta il 30/10/2026

  I maintainer di solito rispondono entro 1 giorno

• DeepSeek V4.1 Flash TP3 on GB10: with four requests, the balanced policy verifies most rounds at width one; throughput is 8% faster on prose

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:scheduling model:deepseek-v4.1 performance triage:design-review

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 38/100

  NVIDIA/hyperflare-inference#152 · 1 commento · Aperta il 30/10/2026

  I maintainer di solito rispondono entro 1 giorno

• GB10 TP2 serving: first request times out on RoCE collective (HCA 0, sequence 1) when both CX-7 rails are active; single rail works

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:rocenante bug model:glm-5.3 priority:P2 triage:investigate

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

  NVIDIA/hyperflare-inference#151 · 2 commenti · Aperta il 30/10/2026

  I maintainer di solito rispondono entro 1 giorno

• GB10 TP2 export: b12x RoCE prep hard-defaults to GID index 3 and fails when the IPv4 RoCE v2 GID is elsewhere (Helios already scans)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:preparation area:rocenante bug model:qwen3.8-flash-next priority:P2 triage:investigate

  Difficoltà 4/5 1-2 giorni Idoneità per principianti 54/100

  NVIDIA/hyperflare-inference#143 · Aperta il 29/10/2026

  I maintainer di solito rispondono entro 1 giorno

• DeepSeek V4.1 TP4 export on GB10: Xid 13 "Illegal Instruction Encoding" while warming compiled forwards at eb71702b (bce032c works)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:preparation bug model:deepseek-v4.1 priority:P2 triage:investigate

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 36/100

  NVIDIA/hyperflare-inference#137 · 10 commenti · Aperta il 29/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Let preparation peers read their own checkpoint copy (multi-host load 252 s -> 45-50 s on GB10)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:preparation model:deepseek-v4.1 performance triage:design-review

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

  NVIDIA/hyperflare-inference#126 · 4 commenti · Aperta il 28/10/2026

  I maintainer di solito rispondono entro 1 giorno

• DeepSeek V4.1 Flash: positions before token 128 return context-free logits when the reasoning-effort prefix is present

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  bug model:deepseek-v4.1 priority:P2 triage:investigate

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  NVIDIA/hyperflare-inference#118 · 9 commenti · Aperta il 28/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Qwen3.8 `--mixed-prefill` exports fail on main: two regressions (317c1ecc, bce032c0)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:preparation bug model:qwen3.8-flash-next priority:P1 triage:review

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100

  NVIDIA/hyperflare-inference#115 · 2 commenti · 1 reazione · Aperta il 27/10/2026

  I maintainer di solito rispondono entro 1 giorno

• b12x CompilePool: compiling in a worker that already described the job publishes nothing (lru_cache in mla_compress escapes evict_planning_artifacts)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:preparation bug model:deepseek-v4.1 priority:P2 triage:investigate

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  NVIDIA/hyperflare-inference#112 · Aperta il 27/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Warm multi-host start re-hashes each peer's cached rank on one thread (7 min for a 280 GB DeepSeek V4.1 TP4 rank)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:caching area:packaging model:deepseek-v4.1 performance triage:design-review

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100

  NVIDIA/hyperflare-inference#93 · 1 commento · Aperta il 26/10/2026

  I maintainer di solito rispondono entro 1 giorno

• DS4.1 Flash disk Engram: 8–32 GiB cache leaves long first-touch prefill unchanged; warmed controls recover throughput

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:caching area:engram model:deepseek-v4.1 performance triage:investigate

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

  NVIDIA/hyperflare-inference#78 · 1 commento · Aperta il 25/10/2026

  I maintainer di solito rispondono entro 1 giorno

• qwen38: support compressed-tensors NVFP4 expert-only checkpoints such as ThinkingCap-Qwen3.8-Flash-Next-NVFP4

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  model:qwen3.8-flash-next triage:design-review

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 20/100

  NVIDIA/hyperflare-inference#74 · Aperta il 24/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Nemotron 3.5 Bolt on GB10: intermittent "prepared model reported device error 6" mid-stream at concurrency 1

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  bug model:nemotron-3.5-bolt priority:P2 triage:investigate

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  NVIDIA/hyperflare-inference#52 · Aperta il 23/10/2026

  I maintainer di solito rispondono entro 1 giorno

• 128 shared snapshot slots cap multi-user prefix reuse on a 4-Spark DeepSeek TP4 ring

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:caching area:memory area:selene enhancement model:deepseek-v4.1 performance triage:verify-for-closure

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

  NVIDIA/hyperflare-inference#47 · 2 commenti · Aperta il 23/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Dense Qwen retains duplicate attention and FP8 input staging across graph capacities

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:memory area:preparation model:qwen3.8-27b performance triage:verify-for-closure

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

  NVIDIA/hyperflare-inference#46 · 1 commento · Aperta il 23/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Dense Qwen retains duplicate MLP intermediates across serialized graph capacities

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:memory area:preparation model:qwen3.8-27b performance triage:verify-for-closure

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100

  NVIDIA/hyperflare-inference#45 · 1 commento · Aperta il 23/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Proposal: dense Qwen3.8-27B DFlash2 with BF16 and calibrated NVFP4 drafters

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  enhancement model:qwen3.8-27b triage:design-review

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 18/100

  NVIDIA/hyperflare-inference#44 · 1 commento · Aperta il 23/10/2026

  I maintainer di solito rispondono entro 1 giorno

• RoCE ring: distant ranks have no fabric path — forward 2-hop transfers via flow label 16383 instead of the CPU relay

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:rocenante performance triage:design-review

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

  NVIDIA/hyperflare-inference#34 · Aperta il 23/10/2026

  I maintainer di solito rispondono entro 1 giorno

• OpenAI tool-call compatibility issue in flare that kills agentic loops

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:api bug triage:verify-for-closure

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  NVIDIA/hyperflare-inference#32 · 1 commento · Aperta il 22/10/2026

  I maintainer di solito rispondono entro 1 giorno

• DeepSeek V4.1 Flash (gb10): draft acceptance 24.5%/32.8% and draft depth locked to 5 — widths 2-5 reported by inspect but not servable

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:scheduling bug model:deepseek-v4.1 performance priority:P2 triage:investigate

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100

  NVIDIA/hyperflare-inference#24 · Aperta il 22/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Proposal: native BF16 MTP speculative decoding for dense Qwen3.8-27B (qwen38_dense), with results on SM120

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  model:qwen3.8-27b triage:design-review

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 15/100

  NVIDIA/hyperflare-inference#20 · Aperta il 22/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Add an embeddable Rust SDK for in-process Flare inference

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  triage:design-review

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

  NVIDIA/hyperflare-inference#6 · 1 commento · 1 reazione · Aperta il 21/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Congratulations!

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  community

  Difficoltà 1/5 Meno di un'ora Idoneità per principianti 1/100

  NVIDIA/hyperflare-inference#1 · 2 commenti · 11 reazioni · Aperta il 20/10/2026

  I maintainer di solito rispondono entro 1 giorno

• WARM prefix-cache regression under KV pressure on DGX Spark (Qwen3.8 Flash Next, TP1)

  Forse già presa @shadownetX l’ha presa 6 giorni fa. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:caching area:scheduling area:selene bug model:qwen3.8-flash-next performance priority:P2 triage:review

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100

  NVIDIA/hyperflare-inference#225 · 1 commento · Aperta il 7/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Qwen3.8 Flash Next DFlash2: mixed prefill rounds, YaRN serving, and served measurements from a fork

  Forse già presa Una pull request collegata a questa issue è aperta o già unita. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  model:qwen3.8-flash-next triage:design-review

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 20/100

  NVIDIA/hyperflare-inference#210 · Aperta il 5/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Payload inspection omits the selected deployment rebuild manifest

  Forse già presa @0z5a l’ha presa 9 giorni fa. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:packaging bug priority:P2 triage:review

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 25/100

  NVIDIA/hyperflare-inference#195 · Aperta il 4/11/2026

  I maintainer di solito rispondono entro 1 giorno

• DeepSeek V4.1 Flash gb202 TP4: next-token logits intermittently corrupt mid-reply (stray "##", "-", "<ds_safety>" classifier text in answers)

  Forse già presa @voipmonitor l’ha presa 7 giorni fa. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  bug model:deepseek-v4.1 priority:P1 triage:investigate

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

  NVIDIA/hyperflare-inference#193 · 9 commenti · 1 assegnatario · Aperta il 4/11/2026

  I maintainer di solito rispondono entro 1 giorno

• Multi-host export: when rank zero rejects a peer's checkpoint completion, the reason is never reported

  Forse già presa Una pull request collegata a questa issue è aperta o già unita. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:preparation bug model:deepseek-v4.1 priority:P2 triage:review

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  NVIDIA/hyperflare-inference#156 · Aperta il 30/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Orbit agent eviction removes `flare download`'s default model store in `~/.cache/flare/packages`

  Forse già presa @efegokdemir l’ha presa 15 giorni fa. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:caching area:orbit bug model:deepseek-v4.1 priority:P1 triage:review

  Difficoltà 4/5 1-2 giorni Idoneità per principianti 45/100

  NVIDIA/hyperflare-inference#119 · Aperta il 28/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Released snapshot aliases hand KV pages back with stale row bytes; masked attention turns them into NaN (device error 6 under KV pressure)

  Forse già presa @mark-yong l’ha presa 10 giorni fa. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:caching area:kernels bug model:deepseek-v4.1 model:qwen3.8-27b priority:P1 triage:partial

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  NVIDIA/hyperflare-inference#116 · 5 commenti · Aperta il 27/10/2026

  I maintainer di solito rispondono entro 1 giorno

• GB10 TP2: kernel tuning MemoryError with MTP (glm-5.3-flash); vm.min_free_kbytes hides ~6.6 GB from the headroom check

  Forse già presa Una pull request collegata a questa issue è aperta o già unita. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:memory area:preparation bug model:glm-5.3 priority:P2 triage:review

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100

  NVIDIA/hyperflare-inference#73 · 2 commenti · Aperta il 24/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Export fails with EINVAL when the package cache is on mergerfs (renameat2 RENAME_NOREPLACE unsupported)

  Forse già presa @efegokdemir l’ha presa 19 giorni fa. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  area:caching area:packaging bug model:gemma4 priority:P2 triage:review

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 54/100

  NVIDIA/hyperflare-inference#54 · Aperta il 23/10/2026

  I maintainer di solito rispondono entro 1 giorno