microsoft/TransformerCompression

How to export entire model?

Aperta

#114 aperta il 6 mar 2024

Vedi su GitHub
 (10 commenti) (0 reazioni) (0 assegnatari)Python (58 fork)auto 404
good first issuehelp wanted

Metriche repository

Star
 (462 stelle)
Metriche merge PR
 (Metriche PR in attesa)

Descrizione

Hi, the sliced model are exported to .pt file (only parameters, without structure). However, I want to deploy the model otherwhere, so I have to have the model structure and then can load the pretrained parameters. So how can I do this? How can I export the entire model? thanks!

Guida contributor

Direzione di ricerca
Investiga come esportare l'intero modello inclusa l'architettura in PyTorch, ad esempio usando torch.save(model, 'model.pt') o torch.jit.script(model). Controlla le utility di esportazione esistenti o la documentazione del repository.
Tech stack
pythonpytorch
Dominio
machine learningai
Tipo issue
Documentazione
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
2
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 ore
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
PythonPyTorch
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
70