Polygraphy rebuild drops model opset_imports, functions, and metadata

Offen Anfängerfreundlich
#4,948 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen

Maintainer antworten meist innerhalb von 6 Tagen

Dieses Issue hat noch niemand übernommen.

Bewertung

Schwierigkeit
2/5
Geschätzter Aufwand
1-3 Stunden
Anfängerfreundlichkeit
77/100
Issue-Typ
Bug
Klarheit
Klar beschrieben
Aktivitätsstatus
Aktiv
Tech-Stack
python

Rechercherichtung

Lies tools/Polygraphy/polygraphy/tools/sparse.py rund um build_new_model (Zeilen 374–410), das über polygraphy surgeon prune erreicht wird, und untersuche, wie das neue ModelProto erstellt wird. Bewahre die Opset-Importe, Funktionen und aufgeführten Metadatenfelder des Quellmodells. Die Aufgabe ist erledigt, wenn beim Pruning eines Modells mit Operatoren aus benutzerdefinierten Domains oder lokalen Funktionen diese Felder erhalten bleiben und onnx.checker.check_model(full_check=True) besteht.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Beschreibung

Module:Polygraphy

Bug Description

In tools/Polygraphy/polygraphy/tools/sparse.py:374-410 (build_new_model called via polygraphy surgeon prune), when sparsity pruning replaces at least one eligible weight tensor, the pruned output ModelProto is rebuilt from scratch:

attrs = {
    "ir_version": m.ir_version,
    "producer_name": "polygraphy surgeon prune",
    "opset_imports": [m.opset_import[0]],
}

This rebuild drops critical model-level metadata and attributes:

  1. All opset_import entries past index 0 (e.g. custom domain imports or default domain imports if a custom domain was listed first).
  2. Model-local function definitions (ModelProto.functions).
  3. Model metadata: producer_version, domain, model_version, doc_string, metadata_props.

If the pruned model utilizes custom domain operators or model-local functions, the resulting ONNX model fails onnx.checker.check_model(full_check=True) with:

ValidationError: No opset import for domain '<domain>'
Proposed Solution

Preserve all opset_import entries, functions, and model metadata on the reconstructed ModelProto in sparse.py:

--- a/tools/Polygraphy/polygraphy/tools/sparse.py
+++ b/tools/Polygraphy/polygraphy/tools/sparse.py
@@ -402,3 +402,3 @@ def build_new_model(m, tensors):
         "ir_version": m.ir_version,
         "producer_name": "polygraphy surgeon prune",
-        "opset_imports": [m.opset_import[0]],
+        "opset_imports": list(m.opset_import),
     }

And copy functions, metadata_props, doc_string, and domain from the source model m onto the output model.

Vorherrschende Sprache
C++
Sterne
13.5k
Forks
2.4k
Ø Merge
6 T. 21 Std.
Gemergte PRs (30 T.)
3

Entwicklungsumgebung

Erste Schritte

  1. Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
  2. Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
  3. Forken Sie das Repository und arbeiten Sie in einem Branch.
  4. Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.

Mehr aus NVIDIA/TensorRT

Alle Issues in NVIDIA/TensorRT

Ähnliche Issues

Weitere Issues zu C++

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.