Polygraphy rebuild drops model opset_imports, functions, and metadata
Maintainer antworten meist innerhalb von 6 Tagen
Dieses Issue hat noch niemand übernommen.
Bewertung
- Schwierigkeit
- 2/5
- Geschätzter Aufwand
- 1-3 Stunden
- Anfängerfreundlichkeit
- 77/100
- Issue-Typ
- Bug
- Klarheit
- Klar beschrieben
- Aktivitätsstatus
- Aktiv
- Tech-Stack
- python
- Bereich
- machine-learning
Rechercherichtung
Lies tools/Polygraphy/polygraphy/tools/sparse.py rund um build_new_model (Zeilen 374–410), das über polygraphy surgeon prune erreicht wird, und untersuche, wie das neue ModelProto erstellt wird. Bewahre die Opset-Importe, Funktionen und aufgeführten Metadatenfelder des Quellmodells. Die Aufgabe ist erledigt, wenn beim Pruning eines Modells mit Operatoren aus benutzerdefinierten Domains oder lokalen Funktionen diese Felder erhalten bleiben und onnx.checker.check_model(full_check=True) besteht.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Beschreibung
Bug Description
In tools/Polygraphy/polygraphy/tools/sparse.py:374-410 (build_new_model called via polygraphy surgeon prune), when sparsity pruning replaces at least one eligible weight tensor, the pruned output ModelProto is rebuilt from scratch:
attrs = {
"ir_version": m.ir_version,
"producer_name": "polygraphy surgeon prune",
"opset_imports": [m.opset_import[0]],
}
This rebuild drops critical model-level metadata and attributes:
- All
opset_importentries past index 0 (e.g. custom domain imports or default domain imports if a custom domain was listed first). - Model-local function definitions (
ModelProto.functions). - Model metadata:
producer_version,domain,model_version,doc_string,metadata_props.
If the pruned model utilizes custom domain operators or model-local functions, the resulting ONNX model fails onnx.checker.check_model(full_check=True) with:
ValidationError: No opset import for domain '<domain>'
Proposed Solution
Preserve all opset_import entries, functions, and model metadata on the reconstructed ModelProto in sparse.py:
--- a/tools/Polygraphy/polygraphy/tools/sparse.py
+++ b/tools/Polygraphy/polygraphy/tools/sparse.py
@@ -402,3 +402,3 @@ def build_new_model(m, tensors):
"ir_version": m.ir_version,
"producer_name": "polygraphy surgeon prune",
- "opset_imports": [m.opset_import[0]],
+ "opset_imports": list(m.opset_import),
}
And copy functions, metadata_props, doc_string, and domain from the source model m onto the output model.
- Vorherrschende Sprache
- C++
- Sterne
- 13.5k
- Forks
- 2.4k
- Ø Merge
- 6 T. 21 Std.
- Gemergte PRs (30 T.)
- 3
Entwicklungsumgebung
- Kein Dockerfile und keine Docker-Compose-Datei
- Keine Pull-Request-Vorlage
- Beitragsleitfaden lesen
Erste Schritte
- Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
- Forken Sie das Repository und arbeiten Sie in einem Branch.
- Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.
Mehr aus NVIDIA/TensorRT
-
Polygraphy NumPy Top-K sorts unsigned and minimum signed integers incorrectlyEvtl. vergeben @0z5a hat das vor 16 Tagen übernommen. OffenModule:Polygraphy
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
Maintainer antworten meist innerhalb von 6 Tagen
-
Polygraphy INT32 comparison can overflow and falsely pass at zero toleranceEvtl. vergeben @0z5a hat das vor 16 Tagen übernommen. OffenModule:Polygraphy
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
Maintainer antworten meist innerhalb von 6 Tagen
-
onnx-graphsurgeon: Graph.toposort() hits RecursionError when a graph has a local function and an If/Loop nodeEvtl. vergeben @gabortar hat das vor 39 Tagen übernommen. OffenModule:GraphSurgeon
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 82/100
Maintainer antworten meist innerhalb von 6 Tagen
-
Polygraphy parse_meta accepts a shape with a missing bracketEvtl. vergeben @SashaMIT hat das vor 51 Tagen übernommen. OffenModule:Polygraphy
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 86/100
Maintainer antworten meist innerhalb von 6 Tagen
-
onnx_graphsurgeon: Constant with float8_e4m3fnuz values is exported as FLOAT8E4M3FNEvtl. vergeben @luicarus hat das vor 60 Tagen übernommen. OffenModule:GraphSurgeon
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 92/100
Maintainer antworten meist innerhalb von 6 Tagen
Alle Issues in NVIDIA/TensorRT
Ähnliche Issues
-
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 91/100
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 69/100
maplibre/maplibre-native#5072 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 79/100
tenstorrent/tt-umd#4017 ·
Maintainer antworten meist innerhalb von 3 Tagen
-
difficulty:easy func:gui prio:low type:bug
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
NatronGitHub/Natron#1538 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
hyprwm/hyprsunset#103 · 1 Kommentar ·