bytedance/byteps

How did you get the horovod & bytePS performance

Open

#68 ouverte le 18 juil. 2019

Voir sur GitHub
 (12 commentaires) (2 réactions) (0 assignés)Python (3 483 stars) (476 forks)batch import
distributeddocumentationgood first issue

Description

I have the same hardware envs, same network, but I could not get the result as you, almost half as you. Any best practices and experience? thanks very much! for bytePS with 1 instance and 8 GPU, I have similar testing result.

Guide contributeur

Stack technique
python
Domaine
machine learningperformance
Type d'issue
performance
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
4
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
over 1 week
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
stale
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
unclear
Prérequis
distributed trainingBytePSHorovodGPU cluster
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
10
Direction de recherche
The issue is a open ended query about reproducing BytePS performance benchmarks. To assist, first clarify the user's exact hardware, software versions, and network topology. Then, review BytePS configuration files and compare with published benchmarks. Check for common pitfalls like NCCL settings, network latency, or GPU affinity. Provide step by step tuning guidance and recommend running a simple allreduce test to isolate the bottleneck.