NVIDIA/Model-Optimizer
A unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.
NVIDIA/Model-Optimizer è adatto ai principianti?
Negli ultimi 30 giorni NVIDIA/Model-Optimizer ha accettato 100 delle 254 pull request di contributori esterni, e i suoi maintainer di solito rispondono entro 2 giorni. In questo momento sono aperte 2 issue adatte ai principianti.
- Stelle
- 5.2k
- Fork
- 736
- Issue aperte per principianti
- 2
- Issue indicizzate
- 106
- Merge medio
- 3g 14h
- PR unite (30g)
- 160
- Lingua principale
- Python
- Licenza
- Apache-2.0
- Ultimo push su GitHub
- 7/10/2026
- Ultima indicizzazione
- 19/9/2026
- Guida per i contributori
- Guida per i contributori
- Codice di condotta
- Codice di condotta
- Label per principianti
- Nessuna label per principianti indicizzata
Come contribuire a NVIDIA/Model-Optimizer
- Leggi prima la guida per contribuire: spiega come i maintainer vogliono che le modifiche siano proposte, testate e revisionate.
- Leggi il suo codice di condotta: vale per issue e pull request tanto quanto per la chat.
- I tuoi contributi saranno pubblicati con la licenza Apache-2.0 del progetto.
- Scegli una delle 2 issue aperte adatte ai principianti qui sotto e, prima di iniziare, scrivi in un commento che vuoi occupartene.
Le issue su cui forse qualcuno sta già lavorando sono in fondo alla lista. Ordina tutto per data
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 1/100
NVIDIA/Model-Optimizer#2481 ·
I maintainer di solito rispondono entro 2 giorni
-
calling mtq.quantize causes AttributeError: 'tuple' object has no attribute 'dim'Forse di nuovo libera @jingyu-ml l’ha presa 28 giorni fa e non c’è nessuna pull request aperta. Apertaquestion
NVIDIA/Model-Optimizer#2424 · 2 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
hf_ptq.py: deprecated --auto_quantize_bits CLI flag silently no-ops instead of enabling AutoQuantizeForse di nuovo libera @meenchen l’ha presa 51 giorni fa e non c’è nessuna pull request aperta. Aperta
NVIDIA/Model-Optimizer#2230 · 1 commento · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
feature request
Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100
NVIDIA/Model-Optimizer#2220 · 2 commenti ·
I maintainer di solito rispondono entro 2 giorni
-
[Bug] init_quantized_weights / --low_memory_mode exports numerically broken NVFP4 (quantizes meta tensors before weights load)Forse di nuovo libera @cjluo-nv l’ha presa 58 giorni fa e non c’è nessuna pull request aperta. Aperta
NVIDIA/Model-Optimizer#2160 · 1 commento · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
Can `auto_quant` calculate the score for `kv-cache` separately?Forse di nuovo libera @meenchen l’ha presa 58 giorni fa e non c’è nessuna pull request aperta. Apertaquestion
NVIDIA/Model-Optimizer#2158 · 1 commento · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
Support MiniMax-H3 Visual VAE quantization in ModelOptForse di nuovo libera @cjluo-nv l’ha presa 58 giorni fa e non c’è nessuna pull request aperta. Apertafeature request
NVIDIA/Model-Optimizer#2137 · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
# [ONNX][Autotune] Integrated quantization does not preserve AutoTune Q/DQ placement on ViTForse di nuovo libera @ajrasane l’ha presa 58 giorni fa e non c’è nessuna pull request aperta. Apertabug
NVIDIA/Model-Optimizer#2123 · 1 commento · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
Recommended FP8 recipe for Blackwell (B200)? Per-tensor `FP8_DEFAULT_CFG` underperforms BF16 at prefill; NVFP4 much faster. Also: exported FP8 checkpoint has no KV `q/k/v_scale`Forse di nuovo libera @jenchen13 l’ha presa 82 giorni fa e non c’è nessuna pull request aperta. Apertabug
NVIDIA/Model-Optimizer#2015 · 4 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
NVFP4 support for Qwen3_5MoeExperts (fused MoE): quantizer registration + export serializerForse di nuovo libera @meenchen l’ha presa 82 giorni fa e non c’è nessuna pull request aperta. Aperta
NVIDIA/Model-Optimizer#2011 · 10 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
[QAD] Request for exact training configurations used in arXiv:2601.20088Forse di nuovo libera @mxinO l’ha presa 84 giorni fa e non c’è nessuna pull request aperta. Aperta
NVIDIA/Model-Optimizer#2002 · 5 commenti · 2 assegnatari ·
I maintainer di solito rispondono entro 2 giorni
-
Nvidia Modelopt structured 2:4 weight sparsity showing no speed improvement compared to dense modelForse di nuovo libera @kaix-nv l’ha presa 92 giorni fa e non c’è nessuna pull request aperta. Apertabug
NVIDIA/Model-Optimizer#1974 · 6 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
NVIDIA/Model-Optimizer#1926 · 4 commenti ·
I maintainer di solito rispondono entro 2 giorni
-
[Coverage] Direct unit-test suites for five untested core modules (conversion, core_utils, tensor_quantizer, model_calib, export/postprocess) — plus bugs found along the wayForse di nuovo libera @kevalmorabia97 l’ha presa 85 giorni fa e non c’è nessuna pull request aperta. Aperta
NVIDIA/Model-Optimizer#1902 · 5 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
bug investigating torch.quantization
Difficoltà 4/5 3-5 giorni Idoneità per principianti 55/100
NVIDIA/Model-Optimizer#1875 · 4 commenti ·
I maintainer di solito rispondono entro 2 giorni
-
Support for INT4_AWQ quantization for Nemotron-3-Nano-30B-A3BForse di nuovo libera @jenchen13 l’ha presa 82 giorni fa e non c’è nessuna pull request aperta. Apertabug fw-megatron torch.quantization
NVIDIA/Model-Optimizer#1865 · 4 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
Do not getting access to Nemotron-Pretraining-SFT-v1 (needed for a mintron distillation tutorial)Forse di nuovo libera @danielkorzekwa l’ha presa 84 giorni fa e non c’è nessuna pull request aperta. Apertainvestigating question
NVIDIA/Model-Optimizer#1852 · 5 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
[Puzzletron] Standalone export fails for heterogeneous distilled checkpointsForse di nuovo libera @kevalmorabia97 l’ha presa 101 giorni fa e non c’è nessuna pull request aperta. Apertabug investigating torch.pruning
NVIDIA/Model-Optimizer#1848 · 4 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
Nested Local Distillation for PuzzletronForse di nuovo libera @Separius l’ha presa 111 giorni fa e non c’è nessuna pull request aperta. Apertafeature request
NVIDIA/Model-Optimizer#1822 · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
Lazy Checkpoint Creation for PuzzletronForse di nuovo libera @Separius l’ha presa 111 giorni fa e non c’è nessuna pull request aperta. Apertafeature request
NVIDIA/Model-Optimizer#1821 · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
Improve Activation Scoring of PuzzletronForse di nuovo libera @Separius l’ha presa 111 giorni fa e non c’è nessuna pull request aperta. Apertafeature request
NVIDIA/Model-Optimizer#1820 · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
distill.py fails with AttributeError: DistillQwen3VLModel has no attribute 'output_layer' when using Qwen3.5-0.8B as student/teacherForse di nuovo libera @kevalmorabia97 l’ha presa 111 giorni fa e non c’è nessuna pull request aperta. Apertafeature request
NVIDIA/Model-Optimizer#1819 · 1 commento · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
feature request
Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100
NVIDIA/Model-Optimizer#1814 · 1 commento ·
I maintainer di solito rispondono entro 2 giorni
-
Currently no support for pruning Qwen3.5 and Qwen3.6 with PuzzletronForse di nuovo libera @j-rausch l’ha presa 112 giorni fa e non c’è nessuna pull request aperta. Apertafeature request
NVIDIA/Model-Optimizer#1813 · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
Clarify recommended QAD configs for full-quality recovery in diffusers examplesForse di nuovo libera @ynankani l’ha presa 112 giorni fa e non c’è nessuna pull request aperta. Apertaquestion windows
NVIDIA/Model-Optimizer#1812 · 5 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
Create a claude tutorial for adding a new model to puzzletron (qwen 3.5)Forse di nuovo libera @danielkorzekwa l’ha presa 115 giorni fa e non c’è nessuna pull request aperta. Apertafeature request torch.pruning
NVIDIA/Model-Optimizer#1780 · 1 commento · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
Puzzletron OOM during step 6 (one-block scoring) for Qwen 3.5-2B VLMForse di nuovo libera @danielkorzekwa l’ha presa 115 giorni fa e non c’è nessuna pull request aperta. Apertabug
NVIDIA/Model-Optimizer#1779 · 1 commento · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
bug
Difficoltà 5/5 Più di una settimana Idoneità per principianti 28/100
NVIDIA/Model-Optimizer#1772 · 1 commento ·
I maintainer di solito rispondono entro 2 giorni
-
Create a claude skill for puzzletron compression algorithmForse di nuovo libera @danielkorzekwa l’ha presa 119 giorni fa e non c’è nessuna pull request aperta. Apertafeature request
NVIDIA/Model-Optimizer#1762 · 1 commento · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 48/100
NVIDIA/Model-Optimizer#1732 · 2 commenti ·
I maintainer di solito rispondono entro 2 giorni
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100
NVIDIA/Model-Optimizer#1723 ·
I maintainer di solito rispondono entro 2 giorni
-
MiniMax M3 nvfp4 ckptApertafeature request
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
NVIDIA/Model-Optimizer#1708 · 1 commento · 2 reazioni ·
I maintainer di solito rispondono entro 2 giorni
-
[RFC] NVIDIA Model Optimizer — Product RoadmapForse di nuovo libera @Trenton-Starkey l’ha presa 123 giorni fa e non c’è nessuna pull request aperta. Apertaroadmap
NVIDIA/Model-Optimizer#1699 · 4 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
bug
Difficoltà 5/5 Più di una settimana Idoneità per principianti 30/100
NVIDIA/Model-Optimizer#1668 · 1 commento ·
I maintainer di solito rispondono entro 2 giorni
-
Puzzletron Progress 6/8 (calculating one block scores) takes 10 to 20 times more than in tutorialForse di nuovo libera @tejasng053 l’ha presa 18 giorni fa e non c’è nessuna pull request aperta. Apertabug
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
NVIDIA/Model-Optimizer#1667 ·
I maintainer di solito rispondono entro 2 giorni
-
Does Model Optimizer support QAT for GLM-5 with FP8, INT4, and NVFP4 quantization?Forse di nuovo libera @kevalmorabia97 l’ha presa 92 giorni fa e non c’è nessuna pull request aperta. Apertaquestion
NVIDIA/Model-Optimizer#1666 · 6 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
Puzzletron README initial setup fails with number of issuesForse di nuovo libera @kevalmorabia97 l’ha presa 131 giorni fa e non c’è nessuna pull request aperta. Apertabug documentation triaged
NVIDIA/Model-Optimizer#1637 · 1 commento · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
[Bug] NVFP4 W4A4 export: per-block weight_scale contains NaN bytes from unclamped FP32 → FP8 E4M3 castForse di nuovo libera @chadvoegele l’ha presa 131 giorni fa e non c’è nessuna pull request aperta. Apertaauto-fixable bug torch.quantization triaged
NVIDIA/Model-Optimizer#1633 · 1 commento · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
INT4 Quantization ExportForse di nuovo libera @ajrasane l’ha presa 131 giorni fa e non c’è nessuna pull request aperta. Apertabug torch.quantization triaged
NVIDIA/Model-Optimizer#1615 · 2 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
bug
Difficoltà 4/5 3-5 giorni Idoneità per principianti 55/100
NVIDIA/Model-Optimizer#1577 · 1 commento ·
I maintainer di solito rispondono entro 2 giorni
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 45/100
NVIDIA/Model-Optimizer#1539 ·
I maintainer di solito rispondono entro 2 giorni
-
question
Difficoltà 5/5 Più di una settimana Idoneità per principianti 30/100
NVIDIA/Model-Optimizer#1533 ·
I maintainer di solito rispondono entro 2 giorni
-
NVFP4 ONNX export fails when rotate=True (FWHT trace + post-processor)Forse di nuovo libera @ajrasane l’ha presa 155 giorni fa e non c’è nessuna pull request aperta. Apertabug feature onnx.quantization torch.quantization
NVIDIA/Model-Optimizer#1424 · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
Add VLM components to _default_disabled_quantizer_cfg?Forse di nuovo libera @Edwardf0t1 l’ha presa 160 giorni fa e non c’è nessuna pull request aperta. Apertafeature request
NVIDIA/Model-Optimizer#1396 · 3 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
Do you have plans to support Qwen Image Edit?Forse di nuovo libera @chadvoegele l’ha presa 168 giorni fa e non c’è nessuna pull request aperta. Apertafeature request
NVIDIA/Model-Optimizer#1366 · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
[Feature Request] DeepSeek-V4-Flash & DeepSeek-V4-Pro NVFP4 checkpointForse di nuovo libera @mxinO l’ha presa 170 giorni fa e non c’è nessuna pull request aperta. Apertafeature request
NVIDIA/Model-Optimizer#1346 · 1 commento · 1 reazione · 2 assegnatari ·
I maintainer di solito rispondono entro 2 giorni
-
[Feature Request] Kimi-K2.6 NVFP4 checkpoint and corresponding EAGLE3 draft model for offline speculative decodingForse di nuovo libera @yeyu-nvidia l’ha presa 176 giorni fa e non c’è nessuna pull request aperta. Apertafeature request
NVIDIA/Model-Optimizer#1308 · 24 commenti · 1 reazione · 2 assegnatari ·
I maintainer di solito rispondono entro 2 giorni
-
Attention-only LoRA fine-tuning on NVFP4-quantized 122B MoE — community implementation + preprintForse di nuovo libera @ChenhanYu l’ha presa 177 giorni fa e non c’è nessuna pull request aperta. Apertaquestion
NVIDIA/Model-Optimizer#1294 · 1 commento · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
What’s the Correct Way to Quantize Qwen3.5 (MoE/Dense) to NVFP4?Forse di nuovo libera @Edwardf0t1 l’ha presa 181 giorni fa e non c’è nessuna pull request aperta. Apertaquestion
NVIDIA/Model-Optimizer#1255 · 4 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
-
Pre-Quantized Checkpoints: Gemma 4 modelsForse di nuovo libera @yueshen2016 l’ha presa 180 giorni fa e non c’è nessuna pull request aperta. Apertafeature request
NVIDIA/Model-Optimizer#1237 · 2 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 2 giorni
Vengono mostrati i 100 più recenti
Questa pagina elenca solo ciò che è stato indicizzato di recente. Il filtro avanzato contiene l'inventario completo, ristretto per linguaggio, difficoltà e durata.