Polygraphy rebuild drops model opset_imports, functions, and metadata

Ouverte Adaptée aux débutants
#4,948 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub

Les mainteneurs répondent en général sous 6 jours

Personne n'a encore pris cette issue.

Évaluation

Difficulté
2/5
Temps estimé
1-3 heures
Accessibilité débutants
77/100
Type d'issue
Bug
Clarté
Clairement spécifiée
Activité
Active
Stack technique
python

Piste de recherche

Lisez tools/Polygraphy/polygraphy/tools/sparse.py autour de build_new_model (lignes 374–410), accessible via polygraphy surgeon prune, et examinez comment le nouveau ModelProto est construit. Préservez les imports d’opset, les fonctions et les champs de métadonnées répertoriés du modèle source. Le travail est terminé lorsque l’élagage d’un modèle comportant des opérateurs de domaines personnalisés ou des fonctions locales conserve ces champs et passe onnx.checker.check_model(full_check=True).

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Description

Module:Polygraphy

Bug Description

In tools/Polygraphy/polygraphy/tools/sparse.py:374-410 (build_new_model called via polygraphy surgeon prune), when sparsity pruning replaces at least one eligible weight tensor, the pruned output ModelProto is rebuilt from scratch:

attrs = {
    "ir_version": m.ir_version,
    "producer_name": "polygraphy surgeon prune",
    "opset_imports": [m.opset_import[0]],
}

This rebuild drops critical model-level metadata and attributes:

  1. All opset_import entries past index 0 (e.g. custom domain imports or default domain imports if a custom domain was listed first).
  2. Model-local function definitions (ModelProto.functions).
  3. Model metadata: producer_version, domain, model_version, doc_string, metadata_props.

If the pruned model utilizes custom domain operators or model-local functions, the resulting ONNX model fails onnx.checker.check_model(full_check=True) with:

ValidationError: No opset import for domain '<domain>'
Proposed Solution

Preserve all opset_import entries, functions, and model metadata on the reconstructed ModelProto in sparse.py:

--- a/tools/Polygraphy/polygraphy/tools/sparse.py
+++ b/tools/Polygraphy/polygraphy/tools/sparse.py
@@ -402,3 +402,3 @@ def build_new_model(m, tensors):
         "ir_version": m.ir_version,
         "producer_name": "polygraphy surgeon prune",
-        "opset_imports": [m.opset_import[0]],
+        "opset_imports": list(m.opset_import),
     }

And copy functions, metadata_props, doc_string, and domain from the source model m onto the output model.

Langage dominant
C++
Étoiles
13.5k
Forks
2.4k
Merge moyen
6 j 21 h
PR mergées (30 j)
3

Préparer son environnement

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Autres issues de NVIDIA/TensorRT

Toutes les issues de NVIDIA/TensorRT

Issues similaires

Plus d'issues C++

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.