lllyasviel/ControlNet

Low VRAM tests (now 8GB ok, begin to solve 6gb)

Open

#3 geöffnet am 11. Feb. 2023

Auf GitHub ansehen
 (21 Kommentare) (3 Reaktionen) (0 zugewiesene Personen)Python (2.500 Forks)batch import
help wanted

Repository-Metriken

Stars
 (27.526 Stars)
PR-Merge-Metriken
 (Keine gemergten PRs in 30 T)

Beschreibung

RuntimeError: CUDA out of memory. Tried to allocate 58.00 MiB (GPU 0; 8.00 GiB total capacity; 7.14 GiB already allocated; 0 bytes free; 7.26 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to avoid fragmentation. See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF

Contributor Guide

Research-Richtung
Untersuche die Speicherzuweisung in PyTorch und identifiziere Bereiche, in denen Speicher gespart werden kann, z. B. durch Gradient Checkpointing, Reduzierung der Batch Größe oder Optimierung von Modellschichten. Betrachte die aktuelle Speichernutzung mit nvidia smi und dem PyTorch Speicherprofiler. Erforsche Einstellungen wie max split size mb, die im Fehler erwähnt werden. Das Ziel ist, den Code auf 6GB GPUs zum Laufen zu bringen.
Tech Stack
pythonpytorch
Domain
machine learningperformance
Issue Type
Performance
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
4
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
3-5 Tage
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Meist klar
Voraussetzungen
PythonPyTorchCUDA basics
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
40