pytorch/examples

DDP training question

Open

Aperta il 25 nov 2022

Vedi su GitHub
 (2 commenti) (0 reazioni) (1 assegnatario)Python (21.634 star) (9429 fork)batch import
distributedhelp wanted

Descrizione

Hi, I'm using the tutorial https://github.com/pytorch/tutorials/blob/master/intermediate_source/ddp_tutorial.rst for DDP train,using 4 gpus in myself code, reference Basic Use Case. But when I finished the modification, it was stuck during run the demo,meanwhile,video memory has been occupied.Could you help me?

Guida contributor

Tech stack
python
Dominio
machine learningbackend
Tipo issue
bug
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
5
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 hours
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
stale
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
mostly clear
Prerequisiti
PyTorch basicsDistributed training conceptsCUDA environment
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
20
Direzione di ricerca
The user is stuck while running DDP training with 4 GPUs based on a PyTorch tutorial. The issue may arise from version incompatibility or misconfiguration. The assignee should check the referenced tutorial file and provide guidance. More details about the error logs are needed.