pytorch/ignite

Support for TorchSnapshot for efficient checkpoint saving and loading

Open

#2.752 geöffnet am 24. Okt. 2022

Auf GitHub ansehen
 (3 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)Python (4.313 Stars) (602 Forks)batch import
enhancementhelp wanted

Beschreibung

🚀 Feature

TorchSnapshot is a performant, memory-efficient checkpointing library for PyTorch applications, designed with large, complex distributed workloads in mind. It includes many optimizations to control for memory usage and optimize checkpoint writing for DDP-style workloads over torch.save/torch.load. For more information, please check out the readme: https://github.com/pytorch/torchsnapshot#why-torchsnapshot

This could be a nice addition to Ignite, similar to the existing Checkpoint handler

cc @yifuwang

Contributor Guide

Tech Stack
python
Domain
machine learning
Issue Type
feature
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
3-5 days
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
stale
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
clear
Voraussetzungen
PyTorch Ignite basicsUnderstanding of checkpointing concepts
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
30
Research-Richtung
Start by reviewing the existing Checkpoint handler in pytorch/ignite (likely in ignite/handlers/checkpoint.py) to understand the current implementation. Then explore the TorchSnapshot documentation and examples to understand its API and how it could replace or augment the current checkpointing. Consider contributing by implementing a new handler or modifying the existing one to support TorchSnapshot, similar to how Ignite handles other saving methods. Discuss design in the issue comments with maintainers before proceeding.