SIGILL on SME-only AArch64 CPUs caused by SVE auto-vectorization in SME interleave wrappers
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 52/100
- Tipo de issue
- Error
- Claridad
- Bastante claro
- Estado de actividad
- Activo
- Stack tecnológico
- cpp, linux
- Área
- performance
Línea de trabajo
Comience con interleave_indirect-sve.cpp, indirect-interleaves/list-sve.hpp y las implementaciones de sme_interleave*.hpp; después, reproduzca el problema mediante el comando de SCons proporcionado y el programa mínimo. Siga cómo entra la especialización de SME en el grupo de fuentes de SVE y verifique las instrucciones generadas en la CPU SME-only indicada. El trabajo estará terminado cuando la ruta GEMM de SME2 se ejecute sin SIGILL y se conserve una selección válida del kernel de SME2.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Summary
An ACL multi-ISA build selects an SME2 FP16 GEMM kernel on a CPU that supports SME/SME2 but does not expose non-streaming SVE. The SME2 kernel selection itself appears valid.
However, the SME input-interleave specialization is instantiated from interleave_indirect-sve.cpp. That translation unit includes indirect-interleaves/list-sve.hpp, which also pulls in the sme_interleave*.hpp implementations, and is compiled as part of the SVE source group with an SVE-enabled -march.
As a result, GCC auto-vectorizes the wrapper's ordinary C++ with non-streaming SVE instructions, raising SIGILL.
Environment
- AArch64 Linux, GCC 11.4.0, binutils 2.38, SCons 4.0.1
- /proc/cpuinfo Features: fp asimd evtstrm aes pmull sha1 sha2 crc32 atomics fphp asimdhp cpuid asimdrdm jscvt fcma lrcpc dcpop sha3 asimddp sha512 asimdfhm dit uscat ilrcpc flagm sb dcpodp flagm2 frint i8mm bf16 ecv afp sme smei16i64 smef64f64 smei8i32 smef16f32 smeb16f32 smef32f32 ebf16 sme2 sme2p1 smei16i32 smebi32i32 smeb16b16 smef16f16
- Build:
scons -j14 Werror=0 debug=0 neon=1 opencl=0 os=linux arch=armv8.6-a-sve2-sme2 multi_isa=1 build=native cppthreads=1 openmp=0 examples=0
Minimal code to reproduce
#include <arm_compute/core/TensorInfo.h>
#include <arm_compute/core/Types.h>
#include <arm_compute/runtime/NEON/NEFunctions.h>
#include <arm_compute/runtime/Tensor.h>
using namespace arm_compute;
int main()
{
const unsigned int M = 128, N = 128, K = 128;
Tensor a, b, c;
a.allocator()->init(TensorInfo(TensorShape(K, M), 1, DataType::F16));
b.allocator()->init(TensorInfo(TensorShape(N, K), 1, DataType::F16));
c.allocator()->init(TensorInfo(TensorShape(N, M), 1, DataType::F16));
a.allocator()->allocate();
b.allocator()->allocate();
c.allocator()->allocate();
NEGEMM gemm;
gemm.configure(&a, &b, nullptr, &c, 1.0f, 0.0f);
gemm.run();
return 0;
}
Compile and run:
g++ -std=c++17 -O2 -I. -Iinclude repro.cpp -Lbuild -larm_compute -Wl,-rpath,$PWD/build -lpthread -ldl -o repro
./repro
Backtrace:
#0 0x0000fffff7d6cf5c in void arm_gemm::Interleave<1u, 2u, (arm_gemm::VLType)2, half, half>(half*, half const*, unsigned long, unsigned int, unsigned int, unsigned int, unsigned int, bool, int) ()
#1 0x0000fffff7c72840 in arm_gemm::GemmInterleaved<arm_gemm::cls_sme2_interleaved_nomerge_fp16fp32fp16_mopa_1VLx4VL, half, half, half, arm_gemm::Nothing, false, false, false, true>::execute_common(arm_gemm::NDCoordinate<6u> const&, arm_gemm::NDCoordinate<6u> const&, int, arm_gemm::GemmArrays<half, half, half>&) ()
#2 0x0000fffff77d0d4c in arm_compute::cpu::kernel::CpuGemmAssemblyWrapperKernel<half, half, half>::run_nd(arm_compute::Window const&, arm_compute::ThreadInfo const&, arm_compute::Window const&) ()
Disassembly:
0xfffff7d6cf54 <_ZN8arm_gemm10InterleaveILj1ELj2ELNS_6VLTypeE2EDhDhEEvPT3_PKT2_mjjjjbi+180>: sub x27, x29, #0x18
0xfffff7d6cf58 <_ZN8arm_gemm10InterleaveILj1ELj2ELNS_6VLTypeE2EDhDhEEvPT3_PKT2_mjjjjbi+184>: mov x21, x20
=> 0xfffff7d6cf5c <_ZN8arm_gemm10InterleaveILj1ELj2ELNS_6VLTypeE2EDhDhEEvPT3_PKT2_mjjjjbi+188>: uqdecd x21
- Lenguaje dominante
- C++
- Estrellas
- 3.2k
- Forks
- 820
- Merge medio
- 1 d 1 h
- PR fusionados (30 d)
- 2
Guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de ARM-software/ComputeLibrary
-
Help wanted Question
ARM-software/ComputeLibrary#1225 · 10 comentarios · 1 asignado ·
Todos los issues de ARM-software/ComputeLibrary
Issues similares
-
ai_reviewed
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
ydb-platform/ydb#53869 · 3 comentarios ·
-
bug cert blocker needs triage
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
project-chip/connectedhomeip#74373 ·
-
[request] tracy/0.14.1 Abiertoupstream update
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
conan-io/conan-center-index#31035 ·
-
Bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
-
documentation
Dificultad 1/5 Menos de una hora Aptitud para principiantes 85/100
vllm-project/vllm-ascend#17329 ·