pytorch/vision

Classification references does not work without distributed setup

Open

#6.529 geöffnet am 1. Sept. 2022

Auf GitHub ansehen
 (2 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)Python (15.050 Stars) (6.858 Forks)batch import
bughelp wantedmodule: reference scripts

Beschreibung

If you don't set the respective env vars

https://github.com/pytorch/vision/blob/d5bd8b728f14c33b339fc45c90ca39be339bce3f/references/classification/utils.py#L255-L258

training will not be distributed and in turn the backend will not be initialized. However, during evaluation we check

https://github.com/pytorch/vision/blob/d5bd8b728f14c33b339fc45c90ca39be339bce3f/references/classification/train.py#L88

unguarded, which then fails with

RuntimeError: Default process group has not been initialized, please make sure to call init_process_group.

cc @datumbox

Contributor Guide

Tech Stack
pythonpytorch
Domain
machine learningbackend
Issue Type
bug
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-3 hours
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
stale
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
clear
Voraussetzungen
basic Pythonbasic PyTorchunderstanding of torch.distributed
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
70
Research-Richtung
The issue is in PyTorch Vision's classification reference scripts. The bug occurs when distributed training env vars are not set, causing an unguarded `dist.*` call in `references/classification/train.py` line 88. The fix should add a check like `if dist.is available() and dist.is initialized()` before using distributed utilities. Also ensure that `utils.py` lines 255-258 properly guard the distributed initialization. See the linked lines in the issue for exact locations.