VORTEXM4: small SGEMM/DGEMM (n < 128) and GEMV-like shapes slower than other libraries
Mantenedores costumam responder em até 1 dia
Ninguém assumiu esta issue ainda.
Avaliação
- Dificuldade
- 5/5
- Tempo estimado
- Mais de uma semana
- Facilidade para iniciantes
- 35/100
- Tipo de issue
- Funcionalidade
- Clareza
- Razoavelmente clara
- Status de atividade
- Ativa
- Stack de tecnologia
- c
- Domínio
- backend, performance
Direção de pesquisa
Start with kernel/arm64/sme2_gemm_impl.h and inspect the s2_gemm path for small multiply counts, then trace GEMM_GEMV_FORWARD for GEMV-like shapes. The issue lists three possible optimization directions but does not identify tests or a single target behavior; first reproduce the VORTEXM4 benchmarks from tesch1/mtgemm-a. Done means benchmark results improve for the cited small shapes while larger cases remain competitive.
Escrita pelo modelo de indexação a partir do texto da issue.
Descrição
SGEMM/DGEMM on VORTEXM4 for small problems (M4 Pro, one thread, from the tesch1/mtgemm-a benchmarks against OpenBLAS develop 5137bb6):
| case | OpenBLAS | best other |
|---|---|---|
| SGEMM col-major n = 4 / 8 / 12 / 16 | 2 / 7 / 19 / 39 GFLOPS | Eigen 5 / 32 / 59 / 73 |
| SGEMM col-major n = 32 / 64 | 227 / 887 | MTGEMM-A 315 / 1089 |
| DGEMM col-major n = 24 / 48 | 64 / 177 | Accelerate 88 / 291 |
| GEMM with one side = 1 (GEMV-like) | 26 | Accelerate 74 |
| 8 x 8 x 4096, 16 x 16 x 4096 (fp32) | 95 / 353 | Eigen 149 / 592 |
From n = 128 up OpenBLAS is at 0.94-0.99x of the best.
Background: below 3000 multiply-adds s2_gemm (kernel/arm64/sme2_gemm_impl.h) runs plain C loops; above, each call enters streaming mode (about 28 ns) and packs both operands. Possible work:
- a register-blocked NEON micro-kernel without packing for the plain-loop range;
- less per-call overhead on the SME2 path from 14^3 to 96^3 (MTGEMM-A is up to 1.8x faster per call there);
- for the GEMV-like shapes, a faster GEMV on VORTEXM4 (the GEMM_GEMV_FORWARD path).
- Linguagem predominante
- C
- Estrelas
- 7.6k
- Forks
- 1.7k
- Merge médio
- 1d 18h
- PRs com merge (30d)
- 46
Preparar o ambiente
Este projeto não oferece contêiner de desenvolvimento, Dockerfile nem guia de contribuição, então a configuração fica por sua conta: comece pelo README e veja nosso guia da primeira contribuição para os passos gerais.
Primeiros passos
- Leia a issue inteira e depois o guia de contribuição do projeto.
- Comente na issue dizendo que vai assumir — evita que duas pessoas façam o mesmo trabalho.
- Faça um fork do repositório e trabalhe em uma branch.
- Abra um pull request que referencie o número da issue.
Mais de OpenMathLib/OpenBLAS
-
Dificuldade 5/5 Mais de uma semana Facilidade para iniciantes 25/100
OpenMathLib/OpenBLAS#6152 ·
Mantenedores costumam responder em até 1 dia
-
Dificuldade 5/5 Mais de uma semana Facilidade para iniciantes 28/100
OpenMathLib/OpenBLAS#6151 · 2 comentários ·
Mantenedores costumam responder em até 1 dia
-
VORTEXM4: s2_usable() runs RDSVL before the SME2 check (SIGILL without SME)Talvez já em andamento @tesch1 assumiu há 2 dias. Aberta
Dificuldade 3/5 1-2 dias Facilidade para iniciantes 25/100
OpenMathLib/OpenBLAS#6150 ·
Mantenedores costumam responder em até 1 dia
-
Dificuldade 4/5 3-5 dias Facilidade para iniciantes 43/100
OpenMathLib/OpenBLAS#6148 ·
Mantenedores costumam responder em até 1 dia
-
Dificuldade 4/5 3-5 dias Facilidade para iniciantes 52/100
OpenMathLib/OpenBLAS#6147 ·
Mantenedores costumam responder em até 1 dia
Todas as issues de OpenMathLib/OpenBLAS
Issues semelhantes
-
[mimalloc] update to 3.6.0Abertacategory:port-update
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 66/100
Mantenedores costumam responder em até 2 dias
-
emerge failure MARK mark-unstable media-kit
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 82/100
macaroni-os/mark-issues#834 ·
-
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 76/100
-
Dificuldade 1/5 Menos de uma hora Facilidade para iniciantes 93/100
webarkit/WebARKitLib#107 ·
Mantenedores costumam responder em até 1 dia
-
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 72/100
Mantenedores costumam responder em até 1 dia