FlashML-org

Le issue su cui forse qualcuno sta già lavorando sono in fondo alla lista. Ordina tutto per data

• error when installing engine update

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  bug Desktop windows

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 48/100

  FlashML-org/FreeToken#826 · 1 commento · Aperta il 26/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Performance regression from v0.1.3 to v0.2.0 on RTX4060 8GB

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  bug windows

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 46/100

  FlashML-org/FreeToken#822 · 3 commenti · Aperta il 24/10/2026

  I maintainer di solito rispondono entro 1 giorno

• "Mamba State Slot" is easy to misread — suggest "session snapshots (GDN state)" with a tooltip about the VRAM budget

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  Desktop feature

  Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100

  FlashML-org/FreeToken#800 · 1 commento · Aperta il 22/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Engine crash with high KV profile

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  bug linux

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100

  FlashML-org/FreeToken#798 · 2 commenti · Aperta il 22/10/2026

  I maintainer di solito rispondono entro 1 giorno

• GGUF vision towers (mmproj): survey and plan

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  gguf

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

  FlashML-org/FreeToken#794 · Aperta il 22/10/2026

  I maintainer di solito rispondono entro 1 giorno

• New architecture request: Recursive Flint (RecursiveSI/flint — 39.8B MoE coding model, ~2.5B active)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

  FlashML-org/FreeToken#786 · 2 reazioni · Aperta il 22/10/2026

  I maintainer di solito rispondono entro 1 giorno

• [Desktop] weights failed to load: Qwen3.6-35B-A3B NVFP4

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  duplicate

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 55/100

  FlashML-org/FreeToken#784 · 2 commenti · Aperta il 21/10/2026

  I maintainer di solito rispondono entro 1 giorno

• perf(qsa): prefill indexer scoring pads 4 heads to 16 per row; 16-row tiles are ~5x faster and bitwise identical

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 55/100

  FlashML-org/FreeToken#783 · Aperta il 21/10/2026

  I maintainer di solito rispondono entro 1 giorno

• [Desktop] weights failed to load: Qwen3.6-35B-A3B NVFP4

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  bug

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 43/100

  FlashML-org/FreeToken#782 · 2 commenti · Aperta il 21/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Capture-time cuGraphUpload (#697) widens inter-kernel gaps in replayed decode graphs: ~1-2% slower decode

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 1-2 giorni Idoneità per principianti 48/100

  FlashML-org/FreeToken#775 · Aperta il 21/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Proposal: isolate logprob reads (max_tokens 1) from batch composition and the prefix cache so scoring is reproducible

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 40/100

  FlashML-org/FreeToken#772 · Aperta il 20/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Proposal: load an FTW with fp16 NVFP4 global scales (upcast with a warning) instead of refusing it after #739

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  FlashML-org/FreeToken#769 · Aperta il 20/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Proposal: vLLM scoring fields on /v1/completions (allowed_token_ids, return_tokens_as_token_ids, token-id prompts) for classifier-style clients

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

  FlashML-org/FreeToken#768 · Aperta il 20/10/2026

  I maintainer di solito rispondono entro 1 giorno

• /v1/completions: `prompt: []` returns 200 with no choices, and both completions paths drop the error code (context_length_exceeded)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 2/5 1-3 ore Idoneità per principianti 84/100

  FlashML-org/FreeToken#767 · Aperta il 20/10/2026

  I maintainer di solito rispondono entro 1 giorno

• An FTW checkpoint can never serve the W4A4 NVFP4 MoE prefill, and the refusal tells you to reconvert with the option that produced it

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

  FlashML-org/FreeToken#766 · Aperta il 20/10/2026

  I maintainer di solito rispondono entro 1 giorno

• [Perf] Offloaded decode: overlap the expert-miss gather with the same layer's shared expert, event-ordered inside the CUDA graph (bit-exact implementation)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

  FlashML-org/FreeToken#753 · Aperta il 19/10/2026

  I maintainer di solito rispondono entro 1 giorno

• [Perf] Offloaded prefill: keep buffer invalidation off the prefill copy stream and give that stream top priority (short-prompt H2D 21 -> 42 GB/s under Nsight)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 46/100

  FlashML-org/FreeToken#752 · Aperta il 19/10/2026

  I maintainer di solito rispondono entro 1 giorno

• [Perf] Offloaded decode: gather missed experts with a few TMA bulk-copy CTAs (`cp.async.bulk`, `.shared::cta`) instead of 48 x 1024 LDG threads

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 32/100

  FlashML-org/FreeToken#751 · Aperta il 19/10/2026

  I maintainer di solito rispondono entro 1 giorno

• [Perf] Layer-major prefill for offloaded MoE: stream each expert layer once per prompt, not once per chunk (qwen3_5_moe)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

  FlashML-org/FreeToken#750 · Aperta il 19/10/2026

  I maintainer di solito rispondono entro 1 giorno

• [Bug] Context overflow is checked only after tokenization in the worker: a streamed request gets 200 plus an in-stream error, and an oversized `max_tokens` is silently clamped

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 25/100

  FlashML-org/FreeToken#749 · Aperta il 19/10/2026

  I maintainer di solito rispondono entro 1 giorno

• [Feature] Hybrid radix cache: greedy outputs depend on request history even when `cached_tokens` is 0 (request: cache flush endpoint / deterministic mode)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

  FlashML-org/FreeToken#748 · Aperta il 19/10/2026

  I maintainer di solito rispondono entro 1 giorno

• [Desktop] weights failed to load: DeepSeek-V4.1-Flash-1017 FP8

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  new-model

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 52/100

  FlashML-org/FreeToken#745 · 1 commento · Aperta il 19/10/2026

  I maintainer di solito rispondono entro 1 giorno

• hybrid decode halves (23 → 11 tok/s) whenever a foreign thread lands on a pinned spinning CPU-MoE pool CPU; please detect/warn, consider SCHED_FIFO or a yielding spin

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 42/100

  FlashML-org/FreeToken#744 · Aperta il 19/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Design: how chat logprobs should behave when a reasoning or tool parser is active

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 12/100

  FlashML-org/FreeToken#719 · Aperta il 16/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Streaming /v1/messages: message_start reports input_tokens 0 and no cache fields

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 62/100

  FlashML-org/FreeToken#718 · Aperta il 16/10/2026

  I maintainer di solito rispondono entro 1 giorno

• /v1/responses reports usage.output_tokens_details.reasoning_tokens = 0 even when the reply has reasoning

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 3/5 Mezza giornata Idoneità per principianti 62/100

  FlashML-org/FreeToken#717 · Aperta il 16/10/2026

  I maintainer di solito rispondono entro 1 giorno

• qwen3_coder streaming: a literal <tool_call> in prose hides the rest of the answer

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 38/100

  FlashML-org/FreeToken#716 · Aperta il 16/10/2026

  I maintainer di solito rispondono entro 1 giorno

• qwen3_coder: non-streaming cuts a tool-call argument at a literal </tool_call>, </function> or <parameter= inside the value

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100

  FlashML-org/FreeToken#715 · Aperta il 16/10/2026

  I maintainer di solito rispondono entro 1 giorno

• qwen3_coder: a bare `<function=NAME>` block without `<tool_call>` is a call plus raw markup in non-streaming, and only text in streaming

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100

  FlashML-org/FreeToken#714 · Aperta il 16/10/2026

  I maintainer di solito rispondono entro 1 giorno

• qwen3 reasoning parser: streamed content starts with "\n\n" after </think> and streamed reasoning keeps its trailing newline; non-streaming strips both

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 62/100

  FlashML-org/FreeToken#712 · Aperta il 16/10/2026

  I maintainer di solito rispondono entro 1 giorno

• qwen3_coder: non-streaming drops the text between two tool calls (streaming keeps it)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 30/100

  FlashML-org/FreeToken#713 · Aperta il 16/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Reasoning parsers re-enter reasoning on a `<think>` after `</think>` when streaming, and delete it when not (qwen3, glm, minimax, deepseekv32, gemma4, minimax_m3)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 28/100

  FlashML-org/FreeToken#711 · Aperta il 16/10/2026

  I maintainer di solito rispondono entro 1 giorno

• qwen3_coder: max_tokens truncation leaks raw tool-call markup into content and arguments

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  bug linux

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 42/100

  FlashML-org/FreeToken#710 · Aperta il 16/10/2026

  I maintainer di solito rispondono entro 1 giorno

• gpt-oss: the raw Harmony tool-call block is returned as `message.content` when a call is cut by `max_tokens` (non-streaming) or when `tool_choice` is `"none"`

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  bug linux

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 50/100

  FlashML-org/FreeToken#709 · Aperta il 16/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Support Nemotron 3.5 Super VL 120B A12B

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  new-model

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 10/100

  FlashML-org/FreeToken#695 · 2 commenti · Aperta il 15/10/2026

  I maintainer di solito rispondono entro 1 giorno

• seed and chat logprobs are silently ignored (200 with no effect); proposal for per-request seeded sampling

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

  FlashML-org/FreeToken#693 · 1 commento · Aperta il 15/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Forced tool calls and JSON output are not enforced: tool_choice "required"/named (OpenAI), "any"/"tool" (Anthropic), response_format

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 18/100

  FlashML-org/FreeToken#692 · Aperta il 15/10/2026

  I maintainer di solito rispondono entro 1 giorno

• [Desktop] weights failed to load: Agents-A1-NVFP4

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  new-model

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 22/100

  FlashML-org/FreeToken#684 · 2 commenti · Aperta il 14/10/2026

  I maintainer di solito rispondono entro 1 giorno

• (SWA radix cache) Prompt committed beneath a running request's expired prefix frees the tree's own slots at finish

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  bug linux

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 12/100

  FlashML-org/FreeToken#683 · Aperta il 13/10/2026

  I maintainer di solito rispondono entro 1 giorno

• A request field msgpack cannot pack answers 500 and leaks one `requests.active` permanently (`new_user` runs before `send_one`)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  bug linux

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 62/100

  FlashML-org/FreeToken#681 · Aperta il 13/10/2026

  I maintainer di solito rispondono entro 1 giorno

• perf(ple): skip the device n-gram hash when the PLE table is the disk backend

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 45/100

  FlashML-org/FreeToken#679 · 1 commento · Aperta il 13/10/2026

  I maintainer di solito rispondono entro 1 giorno

• perf(moe): prefetch the next layer's experts from a router lookahead during offloaded decode

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 18/100

  FlashML-org/FreeToken#677 · 1 commento · Aperta il 13/10/2026

  I maintainer di solito rispondono entro 1 giorno

• perf(moe): run the shared expert beside the routed-expert miss copy in offloaded decode

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 22/100

  FlashML-org/FreeToken#678 · 3 commenti · Aperta il 13/10/2026

  I maintainer di solito rispondono entro 1 giorno

• NVFP4 QSA sparse attention (#408) spills under Triton 3.8: ~10x slower prefill and ~550 MiB local memory

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 12/100

  FlashML-org/FreeToken#675 · Aperta il 13/10/2026

  I maintainer di solito rispondono entro 1 giorno

• DeepSeek-V4.1's fp4_e4m3_b16 pack rounds a tied scale up on pre-sm_89 GPUs

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  WSL

  Difficoltà 4/5 Mezza giornata Idoneità per principianti 42/100

  FlashML-org/FreeToken#673 · Aperta il 13/10/2026

  I maintainer di solito rispondono entro 1 giorno

• MiniCPM-V 4.7 35B-A3B

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  Desktop feature

  Difficoltà 3/5 1-2 giorni Idoneità per principianti 50/100

  FlashML-org/FreeToken#666 · 1 reazione · Aperta il 12/10/2026

  I maintainer di solito rispondono entro 1 giorno

• bench bw verdict misses in the other direction: auto stays on offload (ratio ~1.9), while hybrid decodes 21% / 55% faster (Qwen3.8-Flash-Next NVFP4, RTX 4090 + dual Xeon)

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 4/5 3-5 giorni Idoneità per principianti 42/100

  FlashML-org/FreeToken#664 · Aperta il 12/10/2026

  I maintainer di solito rispondono entro 1 giorno

• sm75 (Turing) fork: 35B MoE on an 8 GB RTX 2080 — 350/25 t/s, 64K context

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 20/100

  FlashML-org/FreeToken#663 · Aperta il 12/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Requests stall and time out above `--max-running-requests 8`; GPU stays at ~28% of TDP and only one CPU thread is busy

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

  FlashML-org/FreeToken#661 · 2 commenti · Aperta il 11/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Support Qwen3.8-Flash-Next-GSQ-RCO GGUF and integrate Strata + KVMem

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  Desktop feature

  Difficoltà 5/5 Più di una settimana Idoneità per principianti 10/100

  FlashML-org/FreeToken#658 · 2 reazioni · Aperta il 10/10/2026

  I maintainer di solito rispondono entro 1 giorno