VORTEXM4: small SGEMM/DGEMM (n < 128) and GEMV-like shapes slower than other libraries
Los mantenedores suelen responder en 1 día
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 5/5
- Tiempo estimado
- Más de una semana
- Aptitud para principiantes
- 35/100
- Tipo de issue
- Nueva funcionalidad
- Claridad
- Bastante claro
- Estado de actividad
- Activo
- Stack tecnológico
- c
- Área
- backend, performance
Línea de trabajo
Start with kernel/arm64/sme2_gemm_impl.h and inspect the s2_gemm path for small multiply counts, then trace GEMM_GEMV_FORWARD for GEMV-like shapes. The issue lists three possible optimization directions but does not identify tests or a single target behavior; first reproduce the VORTEXM4 benchmarks from tesch1/mtgemm-a. Done means benchmark results improve for the cited small shapes while larger cases remain competitive.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
SGEMM/DGEMM on VORTEXM4 for small problems (M4 Pro, one thread, from the tesch1/mtgemm-a benchmarks against OpenBLAS develop 5137bb6):
| case | OpenBLAS | best other |
|---|---|---|
| SGEMM col-major n = 4 / 8 / 12 / 16 | 2 / 7 / 19 / 39 GFLOPS | Eigen 5 / 32 / 59 / 73 |
| SGEMM col-major n = 32 / 64 | 227 / 887 | MTGEMM-A 315 / 1089 |
| DGEMM col-major n = 24 / 48 | 64 / 177 | Accelerate 88 / 291 |
| GEMM with one side = 1 (GEMV-like) | 26 | Accelerate 74 |
| 8 x 8 x 4096, 16 x 16 x 4096 (fp32) | 95 / 353 | Eigen 149 / 592 |
From n = 128 up OpenBLAS is at 0.94-0.99x of the best.
Background: below 3000 multiply-adds s2_gemm (kernel/arm64/sme2_gemm_impl.h) runs plain C loops; above, each call enters streaming mode (about 28 ns) and packs both operands. Possible work:
- a register-blocked NEON micro-kernel without packing for the plain-loop range;
- less per-call overhead on the SME2 path from 14^3 to 96^3 (MTGEMM-A is up to 1.8x faster per call there);
- for the GEMV-like shapes, a faster GEMV on VORTEXM4 (the GEMM_GEMV_FORWARD path).
- Lenguaje dominante
- C
- Estrellas
- 7.6k
- Forks
- 1.7k
- Merge medio
- 1 d 17 h
- PR fusionados (30 d)
- 47
Preparar el entorno
Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de OpenMathLib/OpenBLAS
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
OpenMathLib/OpenBLAS#6152 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 28/100
OpenMathLib/OpenBLAS#6151 · 2 comentarios ·
Los mantenedores suelen responder en 1 día
-
VORTEXM4: s2_usable() runs RDSVL before the SME2 check (SIGILL without SME)Posiblemente ocupada @tesch1 la tomó hace 4 días. Abierto
Dificultad 3/5 1-2 días Aptitud para principiantes 25/100
OpenMathLib/OpenBLAS#6150 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 4/5 3-5 días Aptitud para principiantes 43/100
OpenMathLib/OpenBLAS#6148 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 4/5 3-5 días Aptitud para principiantes 52/100
OpenMathLib/OpenBLAS#6147 ·
Los mantenedores suelen responder en 1 día
Todos los issues de OpenMathLib/OpenBLAS
Issues similares
-
Test failure on FreeBSD: #26 unexpected system_clock sourcePosiblemente ocupada Un pull request vinculado a esta issue está abierto o ya se fusionó. Abiertolow priority rt_lib tests
Dificultad 2/5 1-3 horas Aptitud para principiantes 67/100
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 85/100
Los mantenedores suelen responder en 1 día
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 85/100
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
-
build help wanted new feature
Dificultad 2/5 1-3 horas Aptitud para principiantes 85/100
AOMediaCodec/SVT-AV1#2516 · 2 comentarios ·