fix(BACKEND-GATE-ROCM-SGLANG): query shared memory through pinned HIP driver
Los mantenedores suelen responder en 1 día
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 45/100
Línea de trabajo
Comienza con triton/backends/amd/driver.c en las líneas 199-209 y driver.py en las líneas 161-177 y 700-705; después, sigue la sonda de identidad de producción utilizada por la CLI de preparación. Valida la ruta de memoria compartida de HIP en Strix y añade una regresión en la que las propiedades de Torch carezcan del miembro no compatible. Se considera terminado cuando se utilizan límites de HIP válidos sin cambiar los pins ni la compuerta de 64KiB, mientras que los límites ausentes, no válidos o insuficientes siguen fallando.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Row: BACKEND-GATE-ROCM-SGLANG
Owner: current Strix benchmark campaign operator. Found during #3053 restoration. The reviewed preparation CLI at c8d019447 queries torch.cuda.get_device_properties(0).shared_memory_per_block, but the pinned AMD Torch 2.9.1 wheel does not expose that Python property. After repairing MIOpen, Strix job c13a24ee-d1ad-49a7-ba08-e96e814273c0 fails identity-dependencies with AttributeError before kernel compilation. Evidence: /mnt/nas_share/rc/strix-four-engine-3053.X94a3J/prepare-c8d019447-rebuilt-02/logs/identity-dependencies.log.
The pinned Triton AMD backend already returns max_shared_mem from HIP hipGetDeviceProperties: triton/backends/amd/driver.c lines 199-209; driver.py lines 161-177 and 700-705. Validate that executing path on Strix, then use the measured HIP value without changing the Torch/Triton pin, hard-coding 65536 as a measurement, or weakening the existing 64KiB identity gate. Add a regression that executes the production identity probe with Torch properties lacking the unsupported member. Preserve failure behavior for missing, invalid, or insufficient device limits. A committed design supplement precedes implementation; a fresh implementer and independent mutation reviewer are required. #3053 owns downstream preparation, model startup, and benchmarks.
- Lenguaje dominante
- C++
- Estrellas
- 423
- Forks
- 53
- Merge medio
- 1 d 7 h
- PR fusionados (30 d)
- 380
Preparar el entorno
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de mudler/vllm.cpp
-
[Windows] full build fails in tools/bench/conv1d_scaling_probe.cpp (POSIX-only sys/resource.h)Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 84/100
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
Los mantenedores suelen responder en 1 día
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 88/100
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 84/100
Los mantenedores suelen responder en 1 día
Todos los issues de mudler/vllm.cpp
Issues similares
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 92/100
sandialabs/seacas#945 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
ROCm/FastFlowLM#757 ·
Los mantenedores suelen responder en 1 día
-
WaterHeaterManagement: tank_percent feature reports wrong feature id (FeatureMap corruption)Abierto
Dificultad 1/5 Menos de una hora Aptitud para principiantes 92/100
espressif/esp-matter#1867 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
mltframework/shotcut#1920 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
Los mantenedores suelen responder en 1 día