pytorch/examples

DDP training question

Open

#1 096 ouverte le 25 nov. 2022

Voir sur GitHub
 (2 commentaires) (0 réactions) (1 assigné)Python (9 429 forks)batch import
distributedhelp wanted

Métriques du dépôt

Stars
 (21 634 stars)
Métriques de merge PR
 (Aucune PR mergée en 30 j)

Description

Hi, I'm using the tutorial https://github.com/pytorch/tutorials/blob/master/intermediate_source/ddp_tutorial.rst for DDP train,using 4 gpus in myself code, reference Basic Use Case. But when I finished the modification, it was stuck during run the demo,meanwhile,video memory has been occupied.Could you help me?

Guide contributeur

Direction de recherche
Examinez le tutoriel DDP pour la configuration de base, vérifiez la disponibilité du backend NCCL et recherchez les causes courantes de blocage, comme l'absence de barrières de synchronisation ou une attribution incorrecte du rang. Assurez vous également que tous les processus sont initialisés correctement avec torch.distributed.init process group.
Stack technique
pythonpytorch
Domaine
backendmachine learning
Type d'issue
Recherche
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
4
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Investigation requise
Prérequis
PythonPyTorchDistributed computing
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
30