NVIDIA/Model-Optimizer
A unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.
¿Es NVIDIA/Model-Optimizer apto para principiantes?
En los últimos 30 días, NVIDIA/Model-Optimizer fusionó 100 de 254 pull requests de colaboradores externos, y sus mantenedores suelen responder en 2 días. Ahora mismo hay 2 issues aptos para principiantes abiertos.
- Estrellas
- 5.2k
- Forks
- 736
- Issues abiertos para principiantes
- 2
- Issues indexados
- 106
- Merge medio
- 3 d 14 h
- PR fusionados (30 d)
- 160
- Lenguaje dominante
- Python
- Licencia
- Apache-2.0
- Último push a GitHub
- 7/10/2026
- Última indexación
- 19/9/2026
- Guía de contribución
- Guía de contribución
- Código de conducta
- Código de conducta
- Etiquetas para principiantes
- Sin etiquetas para principiantes indexadas
Cómo contribuir a NVIDIA/Model-Optimizer
- Lee primero la guía de contribución: explica cómo quieren los mantenedores que se propongan, prueben y revisen los cambios.
- Lee su código de conducta: se aplica a los issues y pull requests igual que al chat.
- Tus contribuciones se publicarán bajo la licencia Apache-2.0 del proyecto.
- Elige uno de los 2 issues abiertos aptos para principiantes de abajo y comenta que quieres trabajar en él antes de empezar.
Las issues en las que quizá ya trabaja alguien aparecen al final. Ordenar todo por fecha
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 1/100
NVIDIA/Model-Optimizer#2481 ·
Los mantenedores suelen responder en 2 días
-
calling mtq.quantize causes AttributeError: 'tuple' object has no attribute 'dim'Quizá libre de nuevo @jingyu-ml la tomó hace 28 días y no hay ningún pull request abierto. Abiertoquestion
NVIDIA/Model-Optimizer#2424 · 2 comentarios · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
hf_ptq.py: deprecated --auto_quantize_bits CLI flag silently no-ops instead of enabling AutoQuantizeQuizá libre de nuevo @meenchen la tomó hace 50 días y no hay ningún pull request abierto. Abierto
NVIDIA/Model-Optimizer#2230 · 1 comentario · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
feature request
Dificultad 4/5 3-5 días Aptitud para principiantes 48/100
NVIDIA/Model-Optimizer#2220 · 2 comentarios ·
Los mantenedores suelen responder en 2 días
-
[Bug] init_quantized_weights / --low_memory_mode exports numerically broken NVFP4 (quantizes meta tensors before weights load)Quizá libre de nuevo @cjluo-nv la tomó hace 57 días y no hay ningún pull request abierto. Abierto
NVIDIA/Model-Optimizer#2160 · 1 comentario · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
Can `auto_quant` calculate the score for `kv-cache` separately?Quizá libre de nuevo @meenchen la tomó hace 57 días y no hay ningún pull request abierto. Abiertoquestion
NVIDIA/Model-Optimizer#2158 · 1 comentario · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
Support MiniMax-H3 Visual VAE quantization in ModelOptQuizá libre de nuevo @cjluo-nv la tomó hace 57 días y no hay ningún pull request abierto. Abiertofeature request
NVIDIA/Model-Optimizer#2137 · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
# [ONNX][Autotune] Integrated quantization does not preserve AutoTune Q/DQ placement on ViTQuizá libre de nuevo @ajrasane la tomó hace 57 días y no hay ningún pull request abierto. Abiertobug
NVIDIA/Model-Optimizer#2123 · 1 comentario · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
Recommended FP8 recipe for Blackwell (B200)? Per-tensor `FP8_DEFAULT_CFG` underperforms BF16 at prefill; NVFP4 much faster. Also: exported FP8 checkpoint has no KV `q/k/v_scale`Quizá libre de nuevo @jenchen13 la tomó hace 81 días y no hay ningún pull request abierto. Abiertobug
NVIDIA/Model-Optimizer#2015 · 4 comentarios · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
NVFP4 support for Qwen3_5MoeExperts (fused MoE): quantizer registration + export serializerQuizá libre de nuevo @meenchen la tomó hace 82 días y no hay ningún pull request abierto. Abierto
NVIDIA/Model-Optimizer#2011 · 10 comentarios · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
[QAD] Request for exact training configurations used in arXiv:2601.20088Quizá libre de nuevo @mxinO la tomó hace 84 días y no hay ningún pull request abierto. Abierto
NVIDIA/Model-Optimizer#2002 · 5 comentarios · 2 asignados ·
Los mantenedores suelen responder en 2 días
-
Nvidia Modelopt structured 2:4 weight sparsity showing no speed improvement compared to dense modelQuizá libre de nuevo @kaix-nv la tomó hace 92 días y no hay ningún pull request abierto. Abiertobug
NVIDIA/Model-Optimizer#1974 · 6 comentarios · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100
NVIDIA/Model-Optimizer#1926 · 4 comentarios ·
Los mantenedores suelen responder en 2 días
-
[Coverage] Direct unit-test suites for five untested core modules (conversion, core_utils, tensor_quantizer, model_calib, export/postprocess) — plus bugs found along the wayQuizá libre de nuevo @kevalmorabia97 la tomó hace 84 días y no hay ningún pull request abierto. Abierto
NVIDIA/Model-Optimizer#1902 · 5 comentarios · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
bug investigating torch.quantization
Dificultad 4/5 3-5 días Aptitud para principiantes 55/100
NVIDIA/Model-Optimizer#1875 · 4 comentarios ·
Los mantenedores suelen responder en 2 días
-
Support for INT4_AWQ quantization for Nemotron-3-Nano-30B-A3BQuizá libre de nuevo @jenchen13 la tomó hace 81 días y no hay ningún pull request abierto. Abiertobug fw-megatron torch.quantization
NVIDIA/Model-Optimizer#1865 · 4 comentarios · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
Do not getting access to Nemotron-Pretraining-SFT-v1 (needed for a mintron distillation tutorial)Quizá libre de nuevo @danielkorzekwa la tomó hace 83 días y no hay ningún pull request abierto. Abiertoinvestigating question
NVIDIA/Model-Optimizer#1852 · 5 comentarios · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
[Puzzletron] Standalone export fails for heterogeneous distilled checkpointsQuizá libre de nuevo @kevalmorabia97 la tomó hace 101 días y no hay ningún pull request abierto. Abiertobug investigating torch.pruning
NVIDIA/Model-Optimizer#1848 · 4 comentarios · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
Nested Local Distillation for PuzzletronQuizá libre de nuevo @Separius la tomó hace 111 días y no hay ningún pull request abierto. Abiertofeature request
NVIDIA/Model-Optimizer#1822 · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
Lazy Checkpoint Creation for PuzzletronQuizá libre de nuevo @Separius la tomó hace 111 días y no hay ningún pull request abierto. Abiertofeature request
NVIDIA/Model-Optimizer#1821 · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
Improve Activation Scoring of PuzzletronQuizá libre de nuevo @Separius la tomó hace 111 días y no hay ningún pull request abierto. Abiertofeature request
NVIDIA/Model-Optimizer#1820 · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
distill.py fails with AttributeError: DistillQwen3VLModel has no attribute 'output_layer' when using Qwen3.5-0.8B as student/teacherQuizá libre de nuevo @kevalmorabia97 la tomó hace 111 días y no hay ningún pull request abierto. Abiertofeature request
NVIDIA/Model-Optimizer#1819 · 1 comentario · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
feature request
Dificultad 4/5 3-5 días Aptitud para principiantes 45/100
NVIDIA/Model-Optimizer#1814 · 1 comentario ·
Los mantenedores suelen responder en 2 días
-
Currently no support for pruning Qwen3.5 and Qwen3.6 with PuzzletronQuizá libre de nuevo @j-rausch la tomó hace 112 días y no hay ningún pull request abierto. Abiertofeature request
NVIDIA/Model-Optimizer#1813 · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
Clarify recommended QAD configs for full-quality recovery in diffusers examplesQuizá libre de nuevo @ynankani la tomó hace 112 días y no hay ningún pull request abierto. Abiertoquestion windows
NVIDIA/Model-Optimizer#1812 · 5 comentarios · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
Create a claude tutorial for adding a new model to puzzletron (qwen 3.5)Quizá libre de nuevo @danielkorzekwa la tomó hace 114 días y no hay ningún pull request abierto. Abiertofeature request torch.pruning
NVIDIA/Model-Optimizer#1780 · 1 comentario · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
Puzzletron OOM during step 6 (one-block scoring) for Qwen 3.5-2B VLMQuizá libre de nuevo @danielkorzekwa la tomó hace 114 días y no hay ningún pull request abierto. Abiertobug
NVIDIA/Model-Optimizer#1779 · 1 comentario · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
bug
Dificultad 5/5 Más de una semana Aptitud para principiantes 28/100
NVIDIA/Model-Optimizer#1772 · 1 comentario ·
Los mantenedores suelen responder en 2 días
-
Create a claude skill for puzzletron compression algorithmQuizá libre de nuevo @danielkorzekwa la tomó hace 119 días y no hay ningún pull request abierto. Abiertofeature request
NVIDIA/Model-Optimizer#1762 · 1 comentario · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
Dificultad 3/5 1-2 días Aptitud para principiantes 48/100
NVIDIA/Model-Optimizer#1732 · 2 comentarios ·
Los mantenedores suelen responder en 2 días
-
How to set the right quant cfg ?Abierto
Dificultad 4/5 3-5 días Aptitud para principiantes 35/100
NVIDIA/Model-Optimizer#1723 ·
Los mantenedores suelen responder en 2 días
-
MiniMax M3 nvfp4 ckptAbiertofeature request
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
NVIDIA/Model-Optimizer#1708 · 1 comentario · 2 reacciones ·
Los mantenedores suelen responder en 2 días
-
[RFC] NVIDIA Model Optimizer — Product RoadmapQuizá libre de nuevo @Trenton-Starkey la tomó hace 123 días y no hay ningún pull request abierto. Abiertoroadmap
NVIDIA/Model-Optimizer#1699 · 4 comentarios · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
bug
Dificultad 5/5 Más de una semana Aptitud para principiantes 30/100
NVIDIA/Model-Optimizer#1668 · 1 comentario ·
Los mantenedores suelen responder en 2 días
-
Puzzletron Progress 6/8 (calculating one block scores) takes 10 to 20 times more than in tutorialQuizá libre de nuevo @tejasng053 la tomó hace 18 días y no hay ningún pull request abierto. Abiertobug
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
NVIDIA/Model-Optimizer#1667 ·
Los mantenedores suelen responder en 2 días
-
Does Model Optimizer support QAT for GLM-5 with FP8, INT4, and NVFP4 quantization?Quizá libre de nuevo @kevalmorabia97 la tomó hace 92 días y no hay ningún pull request abierto. Abiertoquestion
NVIDIA/Model-Optimizer#1666 · 6 comentarios · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
Puzzletron README initial setup fails with number of issuesQuizá libre de nuevo @kevalmorabia97 la tomó hace 130 días y no hay ningún pull request abierto. Abiertobug documentation triaged
NVIDIA/Model-Optimizer#1637 · 1 comentario · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
[Bug] NVFP4 W4A4 export: per-block weight_scale contains NaN bytes from unclamped FP32 → FP8 E4M3 castQuizá libre de nuevo @chadvoegele la tomó hace 130 días y no hay ningún pull request abierto. Abiertoauto-fixable bug torch.quantization triaged
NVIDIA/Model-Optimizer#1633 · 1 comentario · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
INT4 Quantization ExportQuizá libre de nuevo @ajrasane la tomó hace 130 días y no hay ningún pull request abierto. Abiertobug torch.quantization triaged
NVIDIA/Model-Optimizer#1615 · 2 comentarios · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
bug
Dificultad 4/5 3-5 días Aptitud para principiantes 55/100
NVIDIA/Model-Optimizer#1577 · 1 comentario ·
Los mantenedores suelen responder en 2 días
-
Dificultad 3/5 1-2 días Aptitud para principiantes 45/100
NVIDIA/Model-Optimizer#1539 ·
Los mantenedores suelen responder en 2 días
-
question
Dificultad 5/5 Más de una semana Aptitud para principiantes 30/100
NVIDIA/Model-Optimizer#1533 ·
Los mantenedores suelen responder en 2 días
-
NVFP4 ONNX export fails when rotate=True (FWHT trace + post-processor)Quizá libre de nuevo @ajrasane la tomó hace 155 días y no hay ningún pull request abierto. Abiertobug feature onnx.quantization torch.quantization
NVIDIA/Model-Optimizer#1424 · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
Add VLM components to _default_disabled_quantizer_cfg?Quizá libre de nuevo @Edwardf0t1 la tomó hace 159 días y no hay ningún pull request abierto. Abiertofeature request
NVIDIA/Model-Optimizer#1396 · 3 comentarios · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
Do you have plans to support Qwen Image Edit?Quizá libre de nuevo @chadvoegele la tomó hace 167 días y no hay ningún pull request abierto. Abiertofeature request
NVIDIA/Model-Optimizer#1366 · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
[Feature Request] DeepSeek-V4-Flash & DeepSeek-V4-Pro NVFP4 checkpointQuizá libre de nuevo @mxinO la tomó hace 169 días y no hay ningún pull request abierto. Abiertofeature request
NVIDIA/Model-Optimizer#1346 · 1 comentario · 1 reacción · 2 asignados ·
Los mantenedores suelen responder en 2 días
-
[Feature Request] Kimi-K2.6 NVFP4 checkpoint and corresponding EAGLE3 draft model for offline speculative decodingQuizá libre de nuevo @yeyu-nvidia la tomó hace 175 días y no hay ningún pull request abierto. Abiertofeature request
NVIDIA/Model-Optimizer#1308 · 24 comentarios · 1 reacción · 2 asignados ·
Los mantenedores suelen responder en 2 días
-
Attention-only LoRA fine-tuning on NVFP4-quantized 122B MoE — community implementation + preprintQuizá libre de nuevo @ChenhanYu la tomó hace 177 días y no hay ningún pull request abierto. Abiertoquestion
NVIDIA/Model-Optimizer#1294 · 1 comentario · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
What’s the Correct Way to Quantize Qwen3.5 (MoE/Dense) to NVFP4?Quizá libre de nuevo @Edwardf0t1 la tomó hace 181 días y no hay ningún pull request abierto. Abiertoquestion
NVIDIA/Model-Optimizer#1255 · 4 comentarios · 1 asignado ·
Los mantenedores suelen responder en 2 días
-
Pre-Quantized Checkpoints: Gemma 4 modelsQuizá libre de nuevo @yueshen2016 la tomó hace 180 días y no hay ningún pull request abierto. Abiertofeature request
NVIDIA/Model-Optimizer#1237 · 2 comentarios · 1 asignado ·
Los mantenedores suelen responder en 2 días
Mostrando los 100 más recientes
Esta página solo lista lo indexado más recientemente. El filtro avanzado tiene el inventario completo, acotado por lenguaje, dificultad y duración.