VORTEXM4: small SGEMM/DGEMM (n < 128) and GEMV-like shapes slower than other libraries
I maintainer di solito rispondono entro 1 giorno
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 35/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Attiva
- Stack tecnologico
- c
- Ambito
- backend, performance
Direzione di ricerca
Start with kernel/arm64/sme2_gemm_impl.h and inspect the s2_gemm path for small multiply counts, then trace GEMM_GEMV_FORWARD for GEMV-like shapes. The issue lists three possible optimization directions but does not identify tests or a single target behavior; first reproduce the VORTEXM4 benchmarks from tesch1/mtgemm-a. Done means benchmark results improve for the cited small shapes while larger cases remain competitive.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
SGEMM/DGEMM on VORTEXM4 for small problems (M4 Pro, one thread, from the tesch1/mtgemm-a benchmarks against OpenBLAS develop 5137bb6):
| case | OpenBLAS | best other |
|---|---|---|
| SGEMM col-major n = 4 / 8 / 12 / 16 | 2 / 7 / 19 / 39 GFLOPS | Eigen 5 / 32 / 59 / 73 |
| SGEMM col-major n = 32 / 64 | 227 / 887 | MTGEMM-A 315 / 1089 |
| DGEMM col-major n = 24 / 48 | 64 / 177 | Accelerate 88 / 291 |
| GEMM with one side = 1 (GEMV-like) | 26 | Accelerate 74 |
| 8 x 8 x 4096, 16 x 16 x 4096 (fp32) | 95 / 353 | Eigen 149 / 592 |
From n = 128 up OpenBLAS is at 0.94-0.99x of the best.
Background: below 3000 multiply-adds s2_gemm (kernel/arm64/sme2_gemm_impl.h) runs plain C loops; above, each call enters streaming mode (about 28 ns) and packs both operands. Possible work:
- a register-blocked NEON micro-kernel without packing for the plain-loop range;
- less per-call overhead on the SME2 path from 14^3 to 96^3 (MTGEMM-A is up to 1.8x faster per call there);
- for the GEMV-like shapes, a faster GEMV on VORTEXM4 (the GEMM_GEMV_FORWARD path).
- Lingua principale
- C
- Stelle
- 7.6k
- Fork
- 1.7k
- Merge medio
- 1g 18h
- PR unite (30g)
- 46
Preparare l'ambiente
Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di OpenMathLib/OpenBLAS
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
OpenMathLib/OpenBLAS#6152 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 28/100
OpenMathLib/OpenBLAS#6151 · 2 commenti ·
I maintainer di solito rispondono entro 1 giorno
-
VORTEXM4: s2_usable() runs RDSVL before the SME2 check (SIGILL without SME)Forse già presa @tesch1 l’ha presa 2 giorni fa. Aperta
Difficoltà 3/5 1-2 giorni Idoneità per principianti 25/100
OpenMathLib/OpenBLAS#6150 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 43/100
OpenMathLib/OpenBLAS#6148 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 52/100
OpenMathLib/OpenBLAS#6147 ·
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di OpenMathLib/OpenBLAS
Issue simili
-
[mimalloc] update to 3.6.0Apertacategory:port-update
Difficoltà 2/5 1-3 ore Idoneità per principianti 66/100
I maintainer di solito rispondono entro 2 giorni
-
emerge failure MARK mark-unstable media-kit
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
macaroni-os/mark-issues#834 ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
NVIDIA/open-gpu-kernel-modules#1479 · 2 commenti ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 93/100
webarkit/WebARKitLib#107 ·
I maintainer di solito rispondono entro 1 giorno