pytorch/vision

Classification references does not work without distributed setup

Open

#6 529 ouverte le 1 sept. 2022

Voir sur GitHub
 (2 commentaires) (0 réactions) (0 assignés)Python (15 050 stars) (6 858 forks)batch import
bughelp wantedmodule: reference scripts

Description

If you don't set the respective env vars

https://github.com/pytorch/vision/blob/d5bd8b728f14c33b339fc45c90ca39be339bce3f/references/classification/utils.py#L255-L258

training will not be distributed and in turn the backend will not be initialized. However, during evaluation we check

https://github.com/pytorch/vision/blob/d5bd8b728f14c33b339fc45c90ca39be339bce3f/references/classification/train.py#L88

unguarded, which then fails with

RuntimeError: Default process group has not been initialized, please make sure to call init_process_group.

cc @datumbox

Guide contributeur

Stack technique
pythonpytorch
Domaine
machine learningbackend
Type d'issue
bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 hours
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
stale
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
clear
Prérequis
basic Pythonbasic PyTorchunderstanding of torch.distributed
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
70
Direction de recherche
The issue is in PyTorch Vision's classification reference scripts. The bug occurs when distributed training env vars are not set, causing an unguarded `dist.*` call in `references/classification/train.py` line 88. The fix should add a check like `if dist.is available() and dist.is initialized()` before using distributed utilities. Also ensure that `utils.py` lines 255-258 properly guard the distributed initialization. See the linked lines in the issue for exact locations.