pytorch/ignite

Support for TorchSnapshot for efficient checkpoint saving and loading

Open

#2752 aperta il 24 ott 2022

Vedi su GitHub
 (3 commenti) (0 reazioni) (0 assegnatari)Python (602 fork)batch import
enhancementhelp wanted

Metriche repository

Star
 (4313 star)
Metriche merge PR
 (Merge medio 18g 23h) (19 PR mergiate in 30 g)

Descrizione

🚀 Feature

TorchSnapshot is a performant, memory-efficient checkpointing library for PyTorch applications, designed with large, complex distributed workloads in mind. It includes many optimizations to control for memory usage and optimize checkpoint writing for DDP-style workloads over torch.save/torch.load. For more information, please check out the readme: https://github.com/pytorch/torchsnapshot#why-torchsnapshot

This could be a nice addition to Ignite, similar to the existing Checkpoint handler

cc @yifuwang

Guida contributor

Direzione di ricerca
Studia il gestore Checkpoint esistente in Ignite per comprendere il pattern, quindi esamina la documentazione di TorchSnapshot e implementa un modulo di integrazione simile.
Tech stack
pythonpytorch
Dominio
machine learning
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-2 giorni
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
PythonPyTorch
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
60