NVIDIA/Model-Optimizer
A unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.
NVIDIA/Model-Optimizer est-il accessible aux débutants ?
Ces 30 derniers jours, NVIDIA/Model-Optimizer a fusionné 98 des 236 pull requests de contributeurs externes, et ses mainteneurs répondent en général sous 2 jours. 2 issues accessibles aux débutants sont ouvertes en ce moment.
- Étoiles
- 5.3k
- Forks
- 745
- Issues débutants ouvertes
- 2
- Issues indexées
- 107
- Merge moyen
- 4 j 2 h
- PR mergées (30 j)
- 160
- Langage dominant
- Python
- Licence
- Apache-2.0
- Dernier push GitHub
- 15/10/2026
- Dernière indexation
- 19/9/2026
- Guide de contribution
- Guide de contribution
- Code de conduite
- Code de conduite
- Labels débutants
- Aucun label débutant indexé
Comment contribuer à NVIDIA/Model-Optimizer
- Lisez d'abord le guide de contribution : il explique comment les mainteneurs veulent que les changements soient proposés, testés et relus.
- Lisez son code de conduite : il s'applique aux issues et aux pull requests autant qu'au chat.
- Vos contributions seront publiées sous la licence Apache-2.0 du projet.
- Choisissez l'une des 2 issues ouvertes accessibles aux débutants ci-dessous et indiquez en commentaire que vous voulez la prendre avant de commencer.
Les issues sur lesquelles quelqu’un travaille peut-être déjà sont listées en dernier. Tout trier par date
-
Difficulté 3/5 Une demi-journée Accessibilité débutants 72/100
NVIDIA/Model-Optimizer#2810 ·
Les mainteneurs répondent en général sous 2 jours
-
Difficulté 1/5 Moins d'une heure Accessibilité débutants 1/100
NVIDIA/Model-Optimizer#2481 ·
Les mainteneurs répondent en général sous 2 jours
-
calling mtq.quantize causes AttributeError: 'tuple' object has no attribute 'dim'Peut-être à nouveau libre @jingyu-ml l’a pris il y a 29 jours, et aucune pull request n’est ouverte. Ouvertequestion
NVIDIA/Model-Optimizer#2424 · 2 commentaires · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
hf_ptq.py: deprecated --auto_quantize_bits CLI flag silently no-ops instead of enabling AutoQuantizePeut-être à nouveau libre @meenchen l’a pris il y a 52 jours, et aucune pull request n’est ouverte. Ouverte
NVIDIA/Model-Optimizer#2230 · 1 commentaire · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
feature request
Difficulté 4/5 3-5 jours Accessibilité débutants 48/100
NVIDIA/Model-Optimizer#2220 · 2 commentaires ·
Les mainteneurs répondent en général sous 2 jours
-
[Bug] init_quantized_weights / --low_memory_mode exports numerically broken NVFP4 (quantizes meta tensors before weights load)Peut-être à nouveau libre @cjluo-nv l’a pris il y a 58 jours, et aucune pull request n’est ouverte. Ouverte
NVIDIA/Model-Optimizer#2160 · 1 commentaire · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
Can `auto_quant` calculate the score for `kv-cache` separately?Peut-être à nouveau libre @meenchen l’a pris il y a 58 jours, et aucune pull request n’est ouverte. Ouvertequestion
NVIDIA/Model-Optimizer#2158 · 1 commentaire · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
Support MiniMax-H3 Visual VAE quantization in ModelOptPeut-être à nouveau libre @cjluo-nv l’a pris il y a 58 jours, et aucune pull request n’est ouverte. Ouvertefeature request
NVIDIA/Model-Optimizer#2137 · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
# [ONNX][Autotune] Integrated quantization does not preserve AutoTune Q/DQ placement on ViTPeut-être à nouveau libre @ajrasane l’a pris il y a 58 jours, et aucune pull request n’est ouverte. Ouvertebug
NVIDIA/Model-Optimizer#2123 · 1 commentaire · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
Recommended FP8 recipe for Blackwell (B200)? Per-tensor `FP8_DEFAULT_CFG` underperforms BF16 at prefill; NVFP4 much faster. Also: exported FP8 checkpoint has no KV `q/k/v_scale`Peut-être à nouveau libre @jenchen13 l’a pris il y a 83 jours, et aucune pull request n’est ouverte. Ouvertebug
NVIDIA/Model-Optimizer#2015 · 4 commentaires · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
NVFP4 support for Qwen3_5MoeExperts (fused MoE): quantizer registration + export serializerPeut-être à nouveau libre @meenchen l’a pris il y a 83 jours, et aucune pull request n’est ouverte. Ouverte
NVIDIA/Model-Optimizer#2011 · 10 commentaires · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
[QAD] Request for exact training configurations used in arXiv:2601.20088Peut-être à nouveau libre @mxinO l’a pris il y a 85 jours, et aucune pull request n’est ouverte. Ouverte
NVIDIA/Model-Optimizer#2002 · 5 commentaires · 2 personnes assignées ·
Les mainteneurs répondent en général sous 2 jours
-
Nvidia Modelopt structured 2:4 weight sparsity showing no speed improvement compared to dense modelPeut-être à nouveau libre @kaix-nv l’a pris il y a 93 jours, et aucune pull request n’est ouverte. Ouvertebug
NVIDIA/Model-Optimizer#1974 · 6 commentaires · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 35/100
NVIDIA/Model-Optimizer#1926 · 4 commentaires ·
Les mainteneurs répondent en général sous 2 jours
-
[Coverage] Direct unit-test suites for five untested core modules (conversion, core_utils, tensor_quantizer, model_calib, export/postprocess) — plus bugs found along the wayPeut-être à nouveau libre @kevalmorabia97 l’a pris il y a 85 jours, et aucune pull request n’est ouverte. Ouverte
NVIDIA/Model-Optimizer#1902 · 5 commentaires · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
bug investigating torch.quantization
Difficulté 4/5 3-5 jours Accessibilité débutants 55/100
NVIDIA/Model-Optimizer#1875 · 4 commentaires ·
Les mainteneurs répondent en général sous 2 jours
-
Support for INT4_AWQ quantization for Nemotron-3-Nano-30B-A3BPeut-être à nouveau libre @jenchen13 l’a pris il y a 83 jours, et aucune pull request n’est ouverte. Ouvertebug fw-megatron torch.quantization
NVIDIA/Model-Optimizer#1865 · 4 commentaires · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
Do not getting access to Nemotron-Pretraining-SFT-v1 (needed for a mintron distillation tutorial)Peut-être à nouveau libre @danielkorzekwa l’a pris il y a 84 jours, et aucune pull request n’est ouverte. Ouverteinvestigating question
NVIDIA/Model-Optimizer#1852 · 5 commentaires · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
[Puzzletron] Standalone export fails for heterogeneous distilled checkpointsPeut-être à nouveau libre @kevalmorabia97 l’a pris il y a 102 jours, et aucune pull request n’est ouverte. Ouvertebug investigating torch.pruning
NVIDIA/Model-Optimizer#1848 · 4 commentaires · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
Nested Local Distillation for PuzzletronPeut-être à nouveau libre @Separius l’a pris il y a 112 jours, et aucune pull request n’est ouverte. Ouvertefeature request
NVIDIA/Model-Optimizer#1822 · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
Lazy Checkpoint Creation for PuzzletronPeut-être à nouveau libre @Separius l’a pris il y a 112 jours, et aucune pull request n’est ouverte. Ouvertefeature request
NVIDIA/Model-Optimizer#1821 · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
Improve Activation Scoring of PuzzletronPeut-être à nouveau libre @Separius l’a pris il y a 112 jours, et aucune pull request n’est ouverte. Ouvertefeature request
NVIDIA/Model-Optimizer#1820 · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
distill.py fails with AttributeError: DistillQwen3VLModel has no attribute 'output_layer' when using Qwen3.5-0.8B as student/teacherPeut-être à nouveau libre @kevalmorabia97 l’a pris il y a 112 jours, et aucune pull request n’est ouverte. Ouvertefeature request
NVIDIA/Model-Optimizer#1819 · 1 commentaire · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
feature request
Difficulté 4/5 3-5 jours Accessibilité débutants 45/100
NVIDIA/Model-Optimizer#1814 · 1 commentaire ·
Les mainteneurs répondent en général sous 2 jours
-
Currently no support for pruning Qwen3.5 and Qwen3.6 with PuzzletronPeut-être à nouveau libre @j-rausch l’a pris il y a 113 jours, et aucune pull request n’est ouverte. Ouvertefeature request
NVIDIA/Model-Optimizer#1813 · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
Clarify recommended QAD configs for full-quality recovery in diffusers examplesPeut-être à nouveau libre @ynankani l’a pris il y a 113 jours, et aucune pull request n’est ouverte. Ouvertequestion windows
NVIDIA/Model-Optimizer#1812 · 5 commentaires · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
Create a claude tutorial for adding a new model to puzzletron (qwen 3.5)Peut-être à nouveau libre @danielkorzekwa l’a pris il y a 116 jours, et aucune pull request n’est ouverte. Ouvertefeature request torch.pruning
NVIDIA/Model-Optimizer#1780 · 1 commentaire · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
Puzzletron OOM during step 6 (one-block scoring) for Qwen 3.5-2B VLMPeut-être à nouveau libre @danielkorzekwa l’a pris il y a 116 jours, et aucune pull request n’est ouverte. Ouvertebug
NVIDIA/Model-Optimizer#1779 · 1 commentaire · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
bug
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 28/100
NVIDIA/Model-Optimizer#1772 · 1 commentaire ·
Les mainteneurs répondent en général sous 2 jours
-
Create a claude skill for puzzletron compression algorithmPeut-être à nouveau libre @danielkorzekwa l’a pris il y a 120 jours, et aucune pull request n’est ouverte. Ouvertefeature request
NVIDIA/Model-Optimizer#1762 · 1 commentaire · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
Difficulté 3/5 1-2 jours Accessibilité débutants 48/100
NVIDIA/Model-Optimizer#1732 · 2 commentaires ·
Les mainteneurs répondent en général sous 2 jours
-
How to set the right quant cfg ?Ouverte
Difficulté 4/5 3-5 jours Accessibilité débutants 35/100
NVIDIA/Model-Optimizer#1723 ·
Les mainteneurs répondent en général sous 2 jours
-
MiniMax M3 nvfp4 ckptOuvertefeature request
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 25/100
NVIDIA/Model-Optimizer#1708 · 1 commentaire · 2 réactions ·
Les mainteneurs répondent en général sous 2 jours
-
[RFC] NVIDIA Model Optimizer — Product RoadmapPeut-être à nouveau libre @Trenton-Starkey l’a pris il y a 124 jours, et aucune pull request n’est ouverte. Ouverteroadmap
NVIDIA/Model-Optimizer#1699 · 4 commentaires · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
bug
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 30/100
NVIDIA/Model-Optimizer#1668 · 1 commentaire ·
Les mainteneurs répondent en général sous 2 jours
-
Puzzletron Progress 6/8 (calculating one block scores) takes 10 to 20 times more than in tutorialPeut-être à nouveau libre @tejasng053 l’a pris il y a 19 jours, et aucune pull request n’est ouverte. Ouvertebug
Difficulté 2/5 1-3 heures Accessibilité débutants 68/100
NVIDIA/Model-Optimizer#1667 ·
Les mainteneurs répondent en général sous 2 jours
-
Does Model Optimizer support QAT for GLM-5 with FP8, INT4, and NVFP4 quantization?Peut-être à nouveau libre @kevalmorabia97 l’a pris il y a 93 jours, et aucune pull request n’est ouverte. Ouvertequestion
NVIDIA/Model-Optimizer#1666 · 6 commentaires · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
Puzzletron README initial setup fails with number of issuesPeut-être à nouveau libre @kevalmorabia97 l’a pris il y a 131 jours, et aucune pull request n’est ouverte. Ouvertebug documentation triaged
NVIDIA/Model-Optimizer#1637 · 1 commentaire · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
[Bug] NVFP4 W4A4 export: per-block weight_scale contains NaN bytes from unclamped FP32 → FP8 E4M3 castPeut-être à nouveau libre @chadvoegele l’a pris il y a 131 jours, et aucune pull request n’est ouverte. Ouverteauto-fixable bug torch.quantization triaged
NVIDIA/Model-Optimizer#1633 · 1 commentaire · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
INT4 Quantization ExportPeut-être à nouveau libre @ajrasane l’a pris il y a 131 jours, et aucune pull request n’est ouverte. Ouvertebug torch.quantization triaged
NVIDIA/Model-Optimizer#1615 · 2 commentaires · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
bug
Difficulté 4/5 3-5 jours Accessibilité débutants 55/100
NVIDIA/Model-Optimizer#1577 · 1 commentaire ·
Les mainteneurs répondent en général sous 2 jours
-
Difficulté 3/5 1-2 jours Accessibilité débutants 45/100
NVIDIA/Model-Optimizer#1539 ·
Les mainteneurs répondent en général sous 2 jours
-
question
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 30/100
NVIDIA/Model-Optimizer#1533 ·
Les mainteneurs répondent en général sous 2 jours
-
NVFP4 ONNX export fails when rotate=True (FWHT trace + post-processor)Peut-être à nouveau libre @ajrasane l’a pris il y a 156 jours, et aucune pull request n’est ouverte. Ouvertebug feature onnx.quantization torch.quantization
NVIDIA/Model-Optimizer#1424 · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
Add VLM components to _default_disabled_quantizer_cfg?Peut-être à nouveau libre @Edwardf0t1 l’a pris il y a 161 jours, et aucune pull request n’est ouverte. Ouvertefeature request
NVIDIA/Model-Optimizer#1396 · 3 commentaires · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
Do you have plans to support Qwen Image Edit?Peut-être à nouveau libre @chadvoegele l’a pris il y a 169 jours, et aucune pull request n’est ouverte. Ouvertefeature request
NVIDIA/Model-Optimizer#1366 · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
[Feature Request] DeepSeek-V4-Flash & DeepSeek-V4-Pro NVFP4 checkpointPeut-être à nouveau libre @mxinO l’a pris il y a 170 jours, et aucune pull request n’est ouverte. Ouvertefeature request
NVIDIA/Model-Optimizer#1346 · 1 commentaire · 1 réaction · 2 personnes assignées ·
Les mainteneurs répondent en général sous 2 jours
-
[Feature Request] Kimi-K2.6 NVFP4 checkpoint and corresponding EAGLE3 draft model for offline speculative decodingPeut-être à nouveau libre @yeyu-nvidia l’a pris il y a 176 jours, et aucune pull request n’est ouverte. Ouvertefeature request
NVIDIA/Model-Optimizer#1308 · 24 commentaires · 1 réaction · 2 personnes assignées ·
Les mainteneurs répondent en général sous 2 jours
-
Attention-only LoRA fine-tuning on NVFP4-quantized 122B MoE — community implementation + preprintPeut-être à nouveau libre @ChenhanYu l’a pris il y a 178 jours, et aucune pull request n’est ouverte. Ouvertequestion
NVIDIA/Model-Optimizer#1294 · 1 commentaire · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
-
What’s the Correct Way to Quantize Qwen3.5 (MoE/Dense) to NVFP4?Peut-être à nouveau libre @Edwardf0t1 l’a pris il y a 182 jours, et aucune pull request n’est ouverte. Ouvertequestion
NVIDIA/Model-Optimizer#1255 · 4 commentaires · 1 personne assignée ·
Les mainteneurs répondent en général sous 2 jours
Affichage des 100 plus récents
Cette page ne liste que les entrées les plus récentes. Le filtre avancé contient l'inventaire complet, affiné par langage, difficulté et durée.