bytedance/byteps

How did you get the horovod & bytePS performance

Open

#68 aperta il 18 lug 2019

Vedi su GitHub
 (12 commenti) (2 reazioni) (0 assegnatari)Python (476 fork)batch import
distributeddocumentationgood first issue

Metriche repository

Star
 (3483 star)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

I have the same hardware envs, same network, but I could not get the result as you, almost half as you. Any best practices and experience? thanks very much! for bytePS with 1 instance and 8 GPU, I have similar testing result.

Guida contributor

Direzione di ricerca
Il problema è una richiesta aperta sulla riproduzione dei benchmark delle prestazioni di BytePS. Per assistere, prima chiarire l'hardware esatto dell'utente, le versioni del software e la topologia di rete. Quindi, rivedere i file di configurazione di BytePS e confrontarli con i benchmark pubblicati. Controllare le insidie comuni come le impostazioni NCCL, la latenza di rete o l'affinità GPU. Fornire una guida di ottimizzazione passo passo e raccomandare l'esecuzione di un semplice test allreduce per isolare il collo di bottiglia.
Tech stack
python
Dominio
machine learning
Tipo issue
Ricerca
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
2
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 ore
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
Distributed trainingBytePSHorovod
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
60