pytorch/examples

DDP training question

Open

#1.096 geöffnet am 25. Nov. 2022

Auf GitHub ansehen
 (2 Kommentare) (0 Reaktionen) (1 zugewiesene Person)Python (9.429 Forks)batch import
distributedhelp wanted

Repository-Metriken

Stars
 (21.634 Stars)
PR-Merge-Metriken
 (Keine gemergten PRs in 30 T)

Beschreibung

Hi, I'm using the tutorial https://github.com/pytorch/tutorials/blob/master/intermediate_source/ddp_tutorial.rst for DDP train,using 4 gpus in myself code, reference Basic Use Case. But when I finished the modification, it was stuck during run the demo,meanwhile,video memory has been occupied.Could you help me?

Contributor Guide

Research-Richtung
Überprüfen Sie das DDP Tutorial für die grundlegende Einrichtung, verifizieren Sie die Verfügbarkeit des NCCL Backends und prüfen Sie auf häufige Ursachen für Hänger, wie fehlende Synchronisationsbarrieren oder falsche Rangzuweisung. Stellen Sie außerdem sicher, dass alle Prozesse mit torch.distributed.init process group korrekt initialisiert wurden.
Tech Stack
pythonpytorch
Domain
backendmachine learning
Issue Type
Recherche
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
4
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-3 Stunden
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Recherche nötig
Voraussetzungen
PythonPyTorchDistributed computing
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
30