Why int4 quant use special data size setting ?

I maintainer di solito rispondono entro 2 giorni

Valutazione

Direzione di ricerca

Descrizione

Preparare l'ambiente

Come iniziare

1. Leggi tutta la issue e poi la guida ai contributi del progetto.
2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
3. Fai un fork del repository e lavora su un branch.
4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di NVIDIA/Model-Optimizer

• [Bug] modelopt-mcp: all launcher subprocesses hang when the server runs as a stdio MCP server — missing stdin=DEVNULL

  Forse già presa @ChenhanYu l’ha presa 14 giorni fa. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100

  NVIDIA/Model-Optimizer#2551 · 1 commento · 1 assegnatario · Aperta il 26/9/2026

  I maintainer di solito rispondono entro 2 giorni

• Puzzletron Progress 6/8 (calculating one block scores) takes 10 to 20 times more than in tutorial

  Forse di nuovo libera @tejasng053 l’ha presa 21 giorni fa e non c’è nessuna pull request aperta. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  bug

  Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100

  NVIDIA/Model-Optimizer#1667 · Aperta il 10/6/2026

  I maintainer di solito rispondono entro 2 giorni

• fp4_kernel_hopper.py uses tl.make_block_ptr, which is removed in Triton main (breaks NVFP4 fake quant)

  Forse già presa @kinjalpatel27 l’ha presa 1 giorno fa. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 3/5 Mezza giornata Idoneità per principianti 72/100

  NVIDIA/Model-Optimizer#2810 · 1 assegnatario · Aperta il 14/10/2026

  I maintainer di solito rispondono entro 2 giorni

• test_cast_fp4_impl_gpu_mem is flaky on Jetson Thor: mem_get_info reports system-wide memory on integrated GPUs

  Forse già presa @LinCanNerd l’ha presa 8 giorni fa. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 2/5 1-3 ore Idoneità per principianti 25/100

  NVIDIA/Model-Optimizer#2706 · Aperta il 8/10/2026

  I maintainer di solito rispondono entro 2 giorni

• test_cuda_pack_reconstruction_matches_pytorch_at_scale[iq1_m] fails on Jetson Thor: exact ties exceed the blocks // 1000 bound

  Forse già presa @LinCanNerd l’ha presa 8 giorni fa. Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla

  Difficoltà 2/5 1-3 ore Idoneità per principianti 35/100

  NVIDIA/Model-Optimizer#2705 · Aperta il 8/10/2026

  I maintainer di solito rispondono entro 2 giorni

Tutte le issue di NVIDIA/Model-Optimizer

Issue simili

• CyclicLR.load_state_dict makes its checkpoint unusable for a second load

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  bot-triaged module: LrScheduler module: optimizer triaged

  Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100

  pytorch/pytorch#201270 · Aperta il 17/10/2026

  I maintainer di solito rispondono entro 1 giorno

• [Doc]: Feedback for `/en/latest/tutorials/mo[Doc]: GLM5.3-Flash §5.3 1P1D PD (A2, 4-node) prefill launch combo (P1 --headless + --data-parallel-rank) cannot start on the paired vLLM v0.30.0dels/GLM5.3-Flash.html`

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  documentation glm5 llm-model

  Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100

  vllm-project/vllm-ascend#19062 · Aperta il 17/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Author Page: shuai-zhao-llm

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  author-page correction

  Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100

  acl-org/acl-anthology#10496 · 1 commento · Aperta il 17/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Worker executes task after rejecting it when ETA timestamp conversion fails

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  Issue Type: Bug Report

  Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100

  celery/celery#10875 · 1 commento · Aperta il 17/10/2026

  I maintainer di solito rispondono entro 1 giorno

• Add Build script for Python related code changes which runs with PR

  Aperta

  ⋯Segnala un problema con questa issue

  • Qualcosa non va?

  • Già presa in carico
  • Non adatta ai principianti
  • Obsoleta o non valida
  • Altro…
  • Invia Annulla
  enhancement good first issue

  Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100

  SasanLabs/VulnerableApp#836 · Aperta il 17/10/2026

  I maintainer di solito rispondono entro 1 giorno

Altre issue su Python