Pre-Quantized Checkpoints: Gemma 4 models
维护者通常 2 天内回复
@yueshen2016 已经在做这个了。
开始于 2026年4月16日。
评估
这个 Issue 还没有评估数据。
描述
Detailed description of the requested feature
It would be great to have gemma 4 models in your published optimized models (i.e. https://huggingface.co/collections/nvidia/inference-optimized-checkpoints-with-model-optimizer).
Timeline
Soon, but not blocking.
Describe alternatives you've considered
Target hardware/use case
For me, a 5080 for local inference. But it would be broadly useful for anyone running gemma 4 models.
- 主要语言
- Python
- 星标
- 5.2k
- 派生
- 736
- 平均合并
- 4 天 2 小时
- 30 天内合并 PR
- 160
环境准备
- 没有 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue,再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库,在一个分支上完成修改。
- 提交 Pull Request,并在描述里引用这个 Issue 编号。
NVIDIA/Model-Optimizer 的其他 Issue
-
[Bug] modelopt-mcp: all launcher subprocesses hang when the server runs as a stdio MCP server — missing stdin=DEVNULL可能已有人在做 @ChenhanYu 于 12 天前认领。 未关闭
难度 2/5 1-3 小时 新手友好度 88/100
NVIDIA/Model-Optimizer#2551 · 1 条评论 · 已指派 1 人 ·
维护者通常 2 天内回复
-
Puzzletron Progress 6/8 (calculating one block scores) takes 10 to 20 times more than in tutorial可能重新可做 @tejasng053 于 19 天前认领,目前没有进行中的 PR。 未关闭bug
难度 2/5 1-3 小时 新手友好度 68/100
NVIDIA/Model-Optimizer#1667 ·
维护者通常 2 天内回复
-
难度 3/5 半天 新手友好度 72/100
NVIDIA/Model-Optimizer#2810 ·
维护者通常 2 天内回复
-
test_cast_fp4_impl_gpu_mem is flaky on Jetson Thor: mem_get_info reports system-wide memory on integrated GPUs可能已有人在做 @LinCanNerd 于 6 天前认领。 未关闭
难度 2/5 1-3 小时 新手友好度 25/100
NVIDIA/Model-Optimizer#2706 ·
维护者通常 2 天内回复
-
test_cuda_pack_reconstruction_matches_pytorch_at_scale[iq1_m] fails on Jetson Thor: exact ties exceed the blocks // 1000 bound可能已有人在做 @LinCanNerd 于 6 天前认领。 未关闭
难度 2/5 1-3 小时 新手友好度 35/100
NVIDIA/Model-Optimizer#2705 ·
维护者通常 2 天内回复
查看 NVIDIA/Model-Optimizer 的全部 Issue
相似的 Issue
-
good first issue
难度 2/5 1-3 小时 新手友好度 85/100
btclib-org/btclib-node#1955 ·
维护者通常 1 天内回复
-
documentation v0.9.2
难度 2/5 半天 新手友好度 72/100
khuisman/mcp-gee-sweet#1033 ·
维护者通常 1 天内回复
-
bug
难度 2/5 1-3 小时 新手友好度 76/100
ossf/cve-bin-tool#5966 ·
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 62/100
维护者通常 2 天内回复
-
write_iceberg ignores the table's write.parquet.compression-codec property可能已有人在做 @YuangGao 今天认领。 未关闭
难度 2/5 1-3 小时 新手友好度 82/100
Eventual-Inc/Daft#7606 ·
维护者通常 1 天内回复