Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

NVIDIA/Model-Optimizer

Đăng nhập để theo dõi Xem trên GitHub

A unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.

NVIDIA/Model-Optimizer có thân thiện với người mới không?

Trong 30 ngày gần nhất, NVIDIA/Model-Optimizer đã merge 112 trên 239 pull request của người đóng góp bên ngoài, và maintainer thường phản hồi trong vòng 2 ngày. Hiện có 2 issue phù hợp với người mới đang mở.

Star
5.3k
Fork
745
Issue cho người mới đang mở
2
Issue đã lập chỉ mục
109
Merge trung bình
3 ngày 17 giờ
Pull request đã merge (30 ngày)
177
Ngôn ngữ chính
Python
Giấy phép
Apache-2.0
Lần push lên GitHub gần nhất
15/10/2026
Lập chỉ mục gần nhất
19/9/2026
Hướng dẫn đóng góp
Quy tắc ứng xử
Label cho người mới
Chưa lập chỉ mục label nào cho người mới

Cách đóng góp cho NVIDIA/Model-Optimizer

  1. Hãy đọc hướng dẫn đóng góp trước: nó cho biết maintainer muốn thay đổi được đề xuất, kiểm thử và review ra sao.
  2. Hãy đọc quy tắc ứng xử: nó áp dụng cho issue và pull request cũng như trò chuyện.
  3. Đóng góp của bạn sẽ được phát hành theo giấy phép Apache-2.0 của dự án.
  4. Chọn một trong 2 issue phù hợp với người mới đang mở bên dưới và bình luận rằng bạn muốn làm nó trước khi bắt đầu.
Phù hợp cho người mới Tất cả
Đang mở Tất cả

Các issue có thể đã có người làm được xếp cuối danh sách. Sắp xếp tất cả theo ngày

  • XiaomiMiMo/MiMo-V2.6-Flash-RL & XiaomiMiMo/MiMo-V2.6-Pro-RL nvfp4
    Đang mở
    • Có gì không ổn?
    feature request

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

    NVIDIA/Model-Optimizer#2865 ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • GGML fake-quant keeps stale codes after a bitsandbytes optimizer step, so QAT/QAD silently stops training the quantized weights
    Đang mở
    • Có gì không ổn?

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 54/100

    NVIDIA/Model-Optimizer#2857 ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Your project is on StackMap — a curated map of the AI stack
    Đang mở
    • Có gì không ổn?

    Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 1/100

    NVIDIA/Model-Optimizer#2481 ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • calling mtq.quantize causes AttributeError: 'tuple' object has no attribute 'dim'
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    question

    NVIDIA/Model-Optimizer#2424 · 2 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • hf_ptq.py: deprecated --auto_quantize_bits CLI flag silently no-ops instead of enabling AutoQuantize
    Có thể làm lại được Đang mở
    • Có gì không ổn?

    NVIDIA/Model-Optimizer#2230 · 1 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • [Feature Request] DeepSeek-V4-Flash-0731 NVFP4 checkpoint
    Đang mở
    • Có gì không ổn?
    feature request

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

    NVIDIA/Model-Optimizer#2220 · 2 bình luận ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • [Bug] init_quantized_weights / --low_memory_mode exports numerically broken NVFP4 (quantizes meta tensors before weights load)
    Có thể làm lại được Đang mở
    • Có gì không ổn?

    NVIDIA/Model-Optimizer#2160 · 1 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Can `auto_quant` calculate the score for `kv-cache` separately?
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    question

    NVIDIA/Model-Optimizer#2158 · 1 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Support MiniMax-H3 Visual VAE quantization in ModelOpt
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    feature request

    NVIDIA/Model-Optimizer#2137 · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • # [ONNX][Autotune] Integrated quantization does not preserve AutoTune Q/DQ placement on ViT
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    bug

    NVIDIA/Model-Optimizer#2123 · 1 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Recommended FP8 recipe for Blackwell (B200)? Per-tensor `FP8_DEFAULT_CFG` underperforms BF16 at prefill; NVFP4 much faster. Also: exported FP8 checkpoint has no KV `q/k/v_scale`
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    bug

    NVIDIA/Model-Optimizer#2015 · 4 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • NVFP4 support for Qwen3_5MoeExperts (fused MoE): quantizer registration + export serializer
    Có thể làm lại được Đang mở
    • Có gì không ổn?

    NVIDIA/Model-Optimizer#2011 · 10 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • [QAD] Request for exact training configurations used in arXiv:2601.20088
    Có thể làm lại được Đang mở
    • Có gì không ổn?

    NVIDIA/Model-Optimizer#2002 · 5 bình luận · 2 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Nvidia Modelopt structured 2:4 weight sparsity showing no speed improvement compared to dense model
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    bug

    NVIDIA/Model-Optimizer#1974 · 6 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • [Bugs] Second batch of verified findings from the unit-coverage initiative (fold_weight crash on Llama-4/GPT-OSS MoE, KD-loss default footgun, and smaller items)
    Đang mở
    • Có gì không ổn?

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

    NVIDIA/Model-Optimizer#1926 · 4 bình luận ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • [Coverage] Direct unit-test suites for five untested core modules (conversion, core_utils, tensor_quantizer, model_calib, export/postprocess) — plus bugs found along the way
    Có thể làm lại được Đang mở
    • Có gì không ổn?

    NVIDIA/Model-Optimizer#1902 · 5 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • NVFP4 quantized (shared) lm_head fails fake-quant in training forward: ScaledE4M3Function 'Only support E=4 & M=3'
    Đang mở
    • Có gì không ổn?
    bug investigating torch.quantization

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100

    NVIDIA/Model-Optimizer#1875 · 4 bình luận ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Support for INT4_AWQ quantization for Nemotron-3-Nano-30B-A3B
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    bug fw-megatron torch.quantization

    NVIDIA/Model-Optimizer#1865 · 4 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Do not getting access to Nemotron-Pretraining-SFT-v1 (needed for a mintron distillation tutorial)
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    investigating question

    NVIDIA/Model-Optimizer#1852 · 5 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • [Puzzletron] Standalone export fails for heterogeneous distilled checkpoints
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    bug investigating torch.pruning

    NVIDIA/Model-Optimizer#1848 · 4 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Nested Local Distillation for Puzzletron
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    feature request

    NVIDIA/Model-Optimizer#1822 · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Lazy Checkpoint Creation for Puzzletron
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    feature request

    NVIDIA/Model-Optimizer#1821 · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Improve Activation Scoring of Puzzletron
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    feature request

    NVIDIA/Model-Optimizer#1820 · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • distill.py fails with AttributeError: DistillQwen3VLModel has no attribute 'output_layer' when using Qwen3.5-0.8B as student/teacher
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    feature request

    NVIDIA/Model-Optimizer#1819 · 1 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Currently no support for pruning Nemotron Nano v3 with Puzzletron
    Đang mở
    • Có gì không ổn?
    feature request

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

    NVIDIA/Model-Optimizer#1814 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Currently no support for pruning Qwen3.5 and Qwen3.6 with Puzzletron
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    feature request

    NVIDIA/Model-Optimizer#1813 · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Clarify recommended QAD configs for full-quality recovery in diffusers examples
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    question windows

    NVIDIA/Model-Optimizer#1812 · 5 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Create a claude tutorial for adding a new model to puzzletron (qwen 3.5)
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    feature request torch.pruning

    NVIDIA/Model-Optimizer#1780 · 1 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Puzzletron OOM during step 6 (one-block scoring) for Qwen 3.5-2B VLM
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    bug

    NVIDIA/Model-Optimizer#1779 · 1 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • When creating a claude skill for puzzletron, quantization tests fails slowing down development process
    Đang mở
    • Có gì không ổn?
    bug

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 28/100

    NVIDIA/Model-Optimizer#1772 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Create a claude skill for puzzletron compression algorithm
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    feature request

    NVIDIA/Model-Optimizer#1762 · 1 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Test puzzletron tutorial step by step and collect feedback
    Đang mở
    • Có gì không ổn?

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 48/100

    NVIDIA/Model-Optimizer#1732 · 2 bình luận ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • How to set the right quant cfg ?
    Đang mở
    • Có gì không ổn?

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

    NVIDIA/Model-Optimizer#1723 ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • MiniMax M3 nvfp4 ckpt
    Đang mở
    • Có gì không ổn?
    feature request

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

    NVIDIA/Model-Optimizer#1708 · 1 bình luận · 2 reaction ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • [RFC] NVIDIA Model Optimizer — Product Roadmap
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    roadmap

    NVIDIA/Model-Optimizer#1699 · 4 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Restarting torchrun --nproc_per_node 2 examples/puzzletron/main.py fails
    Đang mở
    • Có gì không ổn?
    bug

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 30/100

    NVIDIA/Model-Optimizer#1668 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Puzzletron Progress 6/8 (calculating one block scores) takes 10 to 20 times more than in tutorial
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    bug

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100

    NVIDIA/Model-Optimizer#1667 ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Does Model Optimizer support QAT for GLM-5 with FP8, INT4, and NVFP4 quantization?
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    question

    NVIDIA/Model-Optimizer#1666 · 6 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Puzzletron README initial setup fails with number of issues
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    bug documentation triaged

    NVIDIA/Model-Optimizer#1637 · 1 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • [Bug] NVFP4 W4A4 export: per-block weight_scale contains NaN bytes from unclamped FP32 → FP8 E4M3 cast
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    auto-fixable bug torch.quantization triaged

    NVIDIA/Model-Optimizer#1633 · 1 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • INT4 Quantization Export
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    bug torch.quantization triaged

    NVIDIA/Model-Optimizer#1615 · 2 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • generate_context_logits returns truncated logits when KV prefix cache is enabled, causing silently wrong loglikelihood evaluation
    Đang mở
    • Có gì không ổn?
    bug

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100

    NVIDIA/Model-Optimizer#1577 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Why int4 quant use special data size setting ?
    Đang mở
    • Có gì không ổn?

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100

    NVIDIA/Model-Optimizer#1539 ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Why introduce the design of an `output_quantizer` within quantization operators?
    Đang mở
    • Có gì không ổn?
    question

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 30/100

    NVIDIA/Model-Optimizer#1533 ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • NVFP4 ONNX export fails when rotate=True (FWHT trace + post-processor)
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    bug feature onnx.quantization torch.quantization

    NVIDIA/Model-Optimizer#1424 · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Add VLM components to _default_disabled_quantizer_cfg?
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    feature request

    NVIDIA/Model-Optimizer#1396 · 3 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Do you have plans to support Qwen Image Edit?
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    feature request

    NVIDIA/Model-Optimizer#1366 · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • [Feature Request] DeepSeek-V4-Flash & DeepSeek-V4-Pro NVFP4 checkpoint
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    feature request

    NVIDIA/Model-Optimizer#1346 · 1 bình luận · 1 reaction · 2 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • [Feature Request] Kimi-K2.6 NVFP4 checkpoint and corresponding EAGLE3 draft model for offline speculative decoding
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    feature request

    NVIDIA/Model-Optimizer#1308 · 24 bình luận · 1 reaction · 2 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

  • Attention-only LoRA fine-tuning on NVFP4-quantized 122B MoE — community implementation + preprint
    Có thể làm lại được Đang mở
    • Có gì không ổn?
    question

    NVIDIA/Model-Optimizer#1294 · 1 bình luận · 1 người được giao ·

    Maintainer thường phản hồi trong vòng 2 ngày

Đang hiển thị 100 mục mới nhất

Trang này chỉ liệt kê những gì được lập chỉ mục gần đây. Bộ lọc nâng cao có toàn bộ kho, thu hẹp theo ngôn ngữ, độ khó và thời lượng.

Mở bộ lọc nâng cao

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.