open-mmlab/mmsegmentation

Too much GPU memory consumption and seems wrong

Open

#3 167 ouverte le 6 juil. 2023

Voir sur GitHub
 (18 commentaires) (0 réactions) (0 assignés)Python (2 386 forks)batch import
good first issue

Métriques du dépôt

Stars
 (6 867 stars)
Métriques de merge PR
 (Aucune PR mergée en 30 j)

Description

When I use resnet101 with deeplabv3+ in this lib 'https://github.com/VainF/DeepLabV3Plus-Pytorch', I can train for 40 batch size on 2 GPUs, 20 batch size for each GPU, and it consumes about 36 GB. However, when I use your lib, for 2 batch size on 1 GPUs, it consumes about 15 GB

Guide contributeur

Direction de recherche
Profiler l'utilisation de la mémoire GPU à l'aide d'outils tels que nvidia smi ou torch.cuda.memory summary, comparer avec DeepLabV3Plus Pytorch pour identifier les différences dans les allocations de tenseurs ou le gradient checkpointing.
Stack technique
pythonpytorch
Domaine
machine learningbackend
Type d'issue
Bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-2 jours
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Plutôt claire
Prérequis
PythonPyTorchGPU memory profiling
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
40