Pre-Quantized Checkpoints: Gemma 4 models
Maintainer antworten meist innerhalb von 2 Tagen
@yueshen2016 arbeitet bereits daran.
Seit 16.4.2026.
Bewertung
Dieses Issue wurde noch nicht bewertet.
Beschreibung
Detailed description of the requested feature
It would be great to have gemma 4 models in your published optimized models (i.e. https://huggingface.co/collections/nvidia/inference-optimized-checkpoints-with-model-optimizer).
Timeline
Soon, but not blocking.
Describe alternatives you've considered
Target hardware/use case
For me, a 5080 for local inference. But it would be broadly useful for anyone running gemma 4 models.
- Vorherrschende Sprache
- Python
- Sterne
- 5.3k
- Forks
- 745
- Ø Merge
- 4 T. 2 Std.
- Gemergte PRs (30 T.)
- 160
Entwicklungsumgebung
- Kein Dockerfile und keine Docker-Compose-Datei
- Hat eine Pull-Request-Vorlage
- Beitragsleitfaden lesen
Erste Schritte
- Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
- Forken Sie das Repository und arbeiten Sie in einem Branch.
- Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.
Mehr aus NVIDIA/Model-Optimizer
-
[Bug] modelopt-mcp: all launcher subprocesses hang when the server runs as a stdio MCP server — missing stdin=DEVNULLEvtl. vergeben @ChenhanYu hat das vor 12 Tagen übernommen. Offen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 88/100
NVIDIA/Model-Optimizer#2551 · 1 Kommentar · 1 zugewiesene Person ·
Maintainer antworten meist innerhalb von 2 Tagen
-
Puzzletron Progress 6/8 (calculating one block scores) takes 10 to 20 times more than in tutorialEvtl. wieder frei @tejasng053 hat das vor 19 Tagen übernommen, und es ist kein Pull Request offen. Offenbug
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 68/100
NVIDIA/Model-Optimizer#1667 ·
Maintainer antworten meist innerhalb von 2 Tagen
-
Schwierigkeit 3/5 Ein halber Tag Anfängerfreundlichkeit 72/100
NVIDIA/Model-Optimizer#2810 ·
Maintainer antworten meist innerhalb von 2 Tagen
-
test_cast_fp4_impl_gpu_mem is flaky on Jetson Thor: mem_get_info reports system-wide memory on integrated GPUsEvtl. vergeben @LinCanNerd hat das vor 7 Tagen übernommen. Offen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 25/100
NVIDIA/Model-Optimizer#2706 ·
Maintainer antworten meist innerhalb von 2 Tagen
-
test_cuda_pack_reconstruction_matches_pytorch_at_scale[iq1_m] fails on Jetson Thor: exact ties exceed the blocks // 1000 boundEvtl. vergeben @LinCanNerd hat das vor 7 Tagen übernommen. Offen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 35/100
NVIDIA/Model-Optimizer#2705 ·
Maintainer antworten meist innerhalb von 2 Tagen
Alle Issues in NVIDIA/Model-Optimizer
Ähnliche Issues
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 62/100
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 74/100
WingedGuardian/GENesis-AGI#3375 ·
Maintainer antworten meist innerhalb von 1 Tag
-
curriculum documentation quality
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 75/100
githubnext/gh-aw-workshop#4601 ·
Maintainer antworten meist innerhalb von 1 Tag
-
approved Good First Issue scope: docs
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 85/100
hiero-ledger/hiero-sdk-python#2730 · 3 Kommentare ·
Maintainer antworten meist innerhalb von 1 Tag