open-mmlab/mmsegmentation

Too much GPU memory consumption and seems wrong

Offen

#3.167 geöffnet am 06.07.2023

Auf GitHub ansehenContributor Guide
 (18 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)Python (2.386 Forks)batch import
good first issue

Repository-Metriken

Stars
 (6.867 Sterne)
PR-Merge-Metriken
 (Keine gemergten PRs in 30 T)

Beschreibung

When I use resnet101 with deeplabv3+ in this lib 'https://github.com/VainF/DeepLabV3Plus-Pytorch', I can train for 40 batch size on 2 GPUs, 20 batch size for each GPU, and it consumes about 36 GB. However, when I use your lib, for 2 batch size on 1 GPUs, it consumes about 15 GB

Contributor Guide

Research-Richtung
Profileren Sie die GPU Speichernutzung mit Tools wie nvidia smi oder torch.cuda.memory summary, vergleichen Sie mit DeepLabV3Plus Pytorch, um Unterschiede bei Tensorzuweisungen oder Gradienten Checkpointing zu identifizieren.
Tech Stack
pythonpytorch
Domain
machine learningbackend
Issue Type
Fehler
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-2 Tage
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Meist klar
Voraussetzungen
PythonPyTorchGPU memory profiling
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
40