microsoft/TransformerCompression

How to export entire model?

Ouverte

#114 ouverte le 6 mars 2024

Voir sur GitHub
 (10 commentaires) (0 réaction) (0 personne assignée)Python (58 forks)auto 404
good first issuehelp wanted

Métriques du dépôt

Stars
 (462 étoiles)
Métriques de merge PR
 (Métriques PR en attente)

Description

Hi, the sliced model are exported to .pt file (only parameters, without structure). However, I want to deploy the model otherwhere, so I have to have the model structure and then can load the pretrained parameters. So how can I do this? How can I export the entire model? thanks!

Guide contributeur

Direction de recherche
Recherchez comment exporter le modèle entier, y compris l'architecture, dans PyTorch, par exemple en utilisant torch.save(model, 'model.pt') ou torch.jit.script(model). Vérifiez les utilitaires d'exportation existants ou la documentation du dépôt.
Stack technique
pythonpytorch
Domaine
machine learningai
Type d'issue
Documentation
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
PythonPyTorch
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
70