[Engine] qsa_rows_bench: --ctx below 32768 makes the dense step read outside the page table (Xid 31)
Los mantenedores suelen responder en 5 días
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 2/5
- Tiempo estimado
- 1-3 horas
- Aptitud para principiantes
- 75/100
Línea de trabajo
Lee src/kernels/qsa_rows_bench.cpp alrededor de las líneas 138 y 207 para rastrear cómo se construyen el ancho de la ventana densa y los identificadores de celda. Reproduce el problema con qsa_rows_bench --rows --iters 100 --ctx 16384 --max-context 262144; verifica que la corrección mantenga el paso denso dentro del contexto y que la ejecución de 16K termine sin un acceso ilegal a memoria.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Problem. qsa_rows_bench with a context under 32768 cells faults on the GPU. The dense step's window is fixed at
32768 cells, so at a shorter context its cell ids start below 0, and nothing bounds them.
Repro (RTX 5080, sm_120, driver 615.71.09, CUDA 13.3, Release build of the qsa_rows_bench target; the bench file is
identical to main):
qsa_rows_bench --rows --iters 100 --ctx 16384 --max-context 262144
Output, exit code 2:
qsa_rows_bench on device 0 (NVIDIA GeForce RTX 5080, 12.0), 100 iterations: context 16384, capacity 262144 cells (max_blocks 65538), selection cap 2051, int8 pools over 16452 cells
selections: width 2051 a row; union of 2 rows 2360 cells (1.15x one row) union of 3 rows 2541 cells (1.24x one row) union of 4 rows 2608 cells (1.27x one row)
qsa_rows_bench: warm: an illegal memory access was encountered
Kernel log at the same moment:
NVRM: Xid (PCI:0000:01:00): 31, name=qsa_rows_bench, intr 00000000. MMU Fault: ENGINE GRAPHICS GPC6 GPCCLIENT_T1_5 faulted @ 0x220_cddf1000. Fault is of type FAULT_PDE ACCESS_TYPE_VIRT_READ
Cause (unconfirmed static analysis):
src/kernels/qsa_rows_bench.cpp:207fills the dense window's ids asctx + t + 1 - dense_win + j, with
dense_win = 32768(line 138).- At
--ctx 16384the first 16383 ids of each row are negative. - The batched decode attention reads
p.page_table[cell / page_size](src/kernels/cuda/qsa_decode_attn.cu:206, and
418 and 618 in the other variants) with no lower bound, so the read lands before the page table. - The engine never passes negative ids, so the kernel itself is fine. The missing bounds check is in the bench.
- The default
--ctx 131072and any context of 32768 or more stay in range.
Suggested fix: clamp the dense window to the context (min(dense_win, ctx + t + 1) cells a row, with the step
record's width to match), or skip the dense step when ctx + 1 < dense_win.
Validation:
- Run: the 16K case above, once (it faulted).
- Not run: 64K / 131K / 200K,
--no-denseat 16K, and any fix. We will not run the bench again until it is fixed.
Measured and drafted with Claude Code.
- Lenguaje dominante
- C++
- Estrellas
- 11.6k
- Forks
- 1k
- Merge medio
- 18 d 13 h
- PR fusionados (30 d)
- 4
Preparar el entorno
Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de Niko1221/Strata
-
needs-format
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
Niko1221/Strata#6251 · 1 comentario ·
Los mantenedores suelen responder en 5 días
-
[TUI] A leftover run config marks a model installed: the list checks the file name, not the filesAbierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 83/100
Los mantenedores suelen responder en 5 días
-
needs-format
Dificultad 2/5 1-3 horas Aptitud para principiantes 73/100
Niko1221/Strata#6229 · 1 comentario ·
Los mantenedores suelen responder en 5 días
-
[Engine] explicit --layer-split reloads CUDA0 dense weights a second time at startup (0 MiB freed)Posiblemente ocupada @wronglebowsk la tomó hace 1 día. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
Los mantenedores suelen responder en 5 días
-
[Other] Terminal: shell tab completion for the strata commandPosiblemente ocupada Un pull request vinculado a esta issue está abierto o ya se fusionó. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 74/100
Niko1221/Strata#6086 · 2 comentarios ·
Los mantenedores suelen responder en 5 días
Todos los issues de Niko1221/Strata
Issues similares
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
HarperFast/rocksdb-js#1131 ·
Los mantenedores suelen responder en 1 día
-
area/daemon bug good first issue platform/linux priority/p2
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
ToshiNamura/Deimos#5 ·
-
[Bug]: NP 管理器文件编辑器里删除键无效Abiertobug
Dificultad 2/5 1-3 horas Aptitud para principiantes 65/100
metasequoiaime/msime#11666 ·
Los mantenedores suelen responder en 1 día
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
patrick-hudson/put.gd-desktop#1679 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
Detokenizer keeps ▁ for BPE tokenizers with a top-level Metaspace decoder (NLLB, Reformer)Posiblemente ocupada @0z5a la tomó hoy. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
openvinotoolkit/openvino_tokenizers#840 ·
Los mantenedores suelen responder en 1 día