pytorch/vision

Classification references does not work without distributed setup

Open

#6.529 aberto em 1 de set. de 2022

Ver no GitHub
 (2 comments) (0 reactions) (0 assignees)Python (15.050 stars) (6.858 forks)batch import
bughelp wantedmodule: reference scripts

Description

If you don't set the respective env vars

https://github.com/pytorch/vision/blob/d5bd8b728f14c33b339fc45c90ca39be339bce3f/references/classification/utils.py#L255-L258

training will not be distributed and in turn the backend will not be initialized. However, during evaluation we check

https://github.com/pytorch/vision/blob/d5bd8b728f14c33b339fc45c90ca39be339bce3f/references/classification/train.py#L88

unguarded, which then fails with

RuntimeError: Default process group has not been initialized, please make sure to call init_process_group.

cc @datumbox

Guia do colaborador

Pilha de tecnologia
pythonpytorch
Domain
machine learningbackend
Tipo Issue
bug
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-3 hours
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
stale
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
clear
Prerequisites
basic Pythonbasic PyTorchunderstanding of torch.distributed
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
70
Direção de pesquisa
The issue is in PyTorch Vision's classification reference scripts. The bug occurs when distributed training env vars are not set, causing an unguarded `dist.*` call in `references/classification/train.py` line 88. The fix should add a check like `if dist.is available() and dist.is initialized()` before using distributed utilities. Also ensure that `utils.py` lines 255-258 properly guard the distributed initialization. See the linked lines in the issue for exact locations.