pytorch/examples

DDP training question

Open

#1.096 aberto em 25 de nov. de 2022

Ver no GitHub
 (2 comments) (0 reactions) (1 assignee)Python (21.634 stars) (9.429 forks)batch import
distributedhelp wanted

Description

Hi, I'm using the tutorial https://github.com/pytorch/tutorials/blob/master/intermediate_source/ddp_tutorial.rst for DDP train,using 4 gpus in myself code, reference Basic Use Case. But when I finished the modification, it was stuck during run the demo,meanwhile,video memory has been occupied.Could you help me?

Guia do colaborador

Pilha de tecnologia
python
Domain
machine learningbackend
Tipo Issue
bug
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
5
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-3 hours
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
stale
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
mostly clear
Prerequisites
PyTorch basicsDistributed training conceptsCUDA environment
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
20
Direção de pesquisa
The user is stuck while running DDP training with 4 GPUs based on a PyTorch tutorial. The issue may arise from version incompatibility or misconfiguration. The assignee should check the referenced tutorial file and provide guidance. More details about the error logs are needed.