all_reduce: every iris.store passes a vectorization hint, none of the iris.load calls do
I maintainer di solito rispondono entro 1 giorno
@anchit-goel ci sta già lavorando.
Dal 20/10/2026.
Valutazione
- Difficoltà
- 3/5
- Tempo stimato
- Mezza giornata
- Idoneità per principianti
- 62/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Specificata chiaramente
- Stato di attività
- Attiva
- Stack tecnologico
- python
- Ambito
- distributed-systems, performance
Direzione di ricerca
Start with iris/ccl/triton/all_reduce.py at lines 319, 411, 661, 665, 684 and 688, the six iris.load calls, and compare them with the hint=(1, BLOCK_SIZE_N) already passed to the iris.store calls in the same kernels. The hint is applied in iris/mem/triton/ops.py around line 59. Done means all six loads carry the hint, the 2/4/8-rank correctness check against torch.distributed passes, and benchmark/ccl/bench_all_reduce.py shows before/after numbers for every variant. Multi-GPU ROCm hardware is needed to finish.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
all_reduce: every iris.store passes a vectorization hint, none of the iris.load calls do
hint= applies tl.multiple_of / tl.max_contiguous to the translated
pointer (iris/mem/triton/ops.py:59). It matters because translation rebases
through heap_bases, a runtime value, which erases the alignment and contiguity
the compiler knew about the original pointer — so the access falls back to a
narrower width. The hint restores it.
iris/ccl/triton/all_reduce.py:
| line | op | hint= |
|---|---|---|
| 332, 538, 675, 698 | iris.store |
yes, all four |
| 319, 411, 661, 665, 684, 688 | iris.load |
no, none of the six |
661/665 are the two_shot full-tile path, 684/688 its masked twin, 319 and 411 the
one_shot and spinlock paths.
The other three collectives are complete — all_gather 2/2, all_to_all 2/2,
reduce_scatter 4/4. all_reduce.py is the only file where the loads were missed.
Work
- Add
hint=to the sixiris.loadcalls, matching the shape already used on
the stores in the same kernel (hint=(1, BLOCK_SIZE_N)) - Confirm the access width changes in the ISA, per variant
- Correctness vs
torch.distributedon 2/4/8 ranks before timing - Before/after through
benchmark/ccl/bench_all_reduce.py, all variants
We expect a performance improvement here; it needs measuring.
- Lingua principale
- Python
- Stelle
- 203
- Fork
- 56
- Merge medio
- 5g 4h
- PR unite (30g)
- 27
Preparare l'ambiente
Avvia il container di sviluppo del progetto nel browser, con il tuo account GitHub.
- Include un Dockerfile o un file Docker Compose
- Nessun modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di ROCm/iris
-
get_rocm_version() spawns hipconfig on every call, and get_num_xcc() calls it every timeForse già presa Una pull request collegata a questa issue è aperta o già unita. Apertacore examples good first issue help wanted iris python
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 1 giorno
-
benchmarks bug examples iris test
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
I maintainer di solito rispondono entro 1 giorno
-
bug examples invalid iris
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
I maintainer di solito rispondono entro 1 giorno
-
iris test
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
I maintainer di solito rispondono entro 1 giorno
-
SDMA is Triton-only, and no collective uses itForse già presa @ariscript l’ha presa 12 giorni fa. Apertaenhancement gluon help wanted iris
Difficoltà 5/5 Più di una settimana Idoneità per principianti 18/100
ROCm/iris#593 · 2 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 1 giorno
Issue simili
-
app: scripts status: backlog type: documentation
Difficoltà 2/5 1-3 ore Idoneità per principianti 86/100
netbox-community/netbox-scripts#68 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 91/100
marin-community/marin#10765 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 70/100
flathub/com.unity.UnityHub#230 ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 1 giorno
-
namespace operations
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 63/100
EclipseFdn/open-vsx.org#14910 ·
I maintainer di solito rispondono entro 1 giorno