bytedance/byteps

How did you get the horovod & bytePS performance

Open

#68 geöffnet am 18. Juli 2019

Auf GitHub ansehen
 (12 Kommentare) (2 Reaktionen) (0 zugewiesene Personen)Python (3.483 Stars) (476 Forks)batch import
distributeddocumentationgood first issue

Beschreibung

I have the same hardware envs, same network, but I could not get the result as you, almost half as you. Any best practices and experience? thanks very much! for bytePS with 1 instance and 8 GPU, I have similar testing result.

Contributor Guide

Tech Stack
python
Domain
machine learningperformance
Issue Type
performance
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
4
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
over 1 week
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
stale
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
unclear
Voraussetzungen
distributed trainingBytePSHorovodGPU cluster
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
10
Research-Richtung
The issue is a open ended query about reproducing BytePS performance benchmarks. To assist, first clarify the user's exact hardware, software versions, and network topology. Then, review BytePS configuration files and compare with published benchmarks. Check for common pitfalls like NCCL settings, network latency, or GPU affinity. Provide step by step tuning guidance and recommend running a simple allreduce test to isolate the bottleneck.