[Engine] qsa_rows_bench: --ctx below 32768 makes the dense step read outside the page table (Xid 31)
Maintainer thường phản hồi trong vòng 5 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 2/5
- Thời gian dự kiến
- 1-3 giờ
- Mức phù hợp với người mới
- 75/100
Hướng nghiên cứu
Đọc src/kernels/qsa_rows_bench.cpp quanh dòng 138 và 207 để lần theo cách chiều rộng của cửa sổ dày đặc và các ID ô được tạo ra. Tái hiện bằng qsa_rows_bench --rows --iters 100 --ctx 16384 --max-context 262144; xác minh bản sửa giữ bước dày đặc trong giới hạn ngữ cảnh và lần chạy 16K hoàn tất mà không có truy cập bộ nhớ bất hợp lệ.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Problem. qsa_rows_bench with a context under 32768 cells faults on the GPU. The dense step's window is fixed at
32768 cells, so at a shorter context its cell ids start below 0, and nothing bounds them.
Repro (RTX 5080, sm_120, driver 615.71.09, CUDA 13.3, Release build of the qsa_rows_bench target; the bench file is
identical to main):
qsa_rows_bench --rows --iters 100 --ctx 16384 --max-context 262144
Output, exit code 2:
qsa_rows_bench on device 0 (NVIDIA GeForce RTX 5080, 12.0), 100 iterations: context 16384, capacity 262144 cells (max_blocks 65538), selection cap 2051, int8 pools over 16452 cells
selections: width 2051 a row; union of 2 rows 2360 cells (1.15x one row) union of 3 rows 2541 cells (1.24x one row) union of 4 rows 2608 cells (1.27x one row)
qsa_rows_bench: warm: an illegal memory access was encountered
Kernel log at the same moment:
NVRM: Xid (PCI:0000:01:00): 31, name=qsa_rows_bench, intr 00000000. MMU Fault: ENGINE GRAPHICS GPC6 GPCCLIENT_T1_5 faulted @ 0x220_cddf1000. Fault is of type FAULT_PDE ACCESS_TYPE_VIRT_READ
Cause (unconfirmed static analysis):
src/kernels/qsa_rows_bench.cpp:207fills the dense window's ids asctx + t + 1 - dense_win + j, with
dense_win = 32768(line 138).- At
--ctx 16384the first 16383 ids of each row are negative. - The batched decode attention reads
p.page_table[cell / page_size](src/kernels/cuda/qsa_decode_attn.cu:206, and
418 and 618 in the other variants) with no lower bound, so the read lands before the page table. - The engine never passes negative ids, so the kernel itself is fine. The missing bounds check is in the bench.
- The default
--ctx 131072and any context of 32768 or more stay in range.
Suggested fix: clamp the dense window to the context (min(dense_win, ctx + t + 1) cells a row, with the step
record's width to match), or skip the dense step when ctx + 1 < dense_win.
Validation:
- Run: the 16K case above, once (it faulted).
- Not run: 64K / 131K / 200K,
--no-denseat 16K, and any fix. We will not run the bench again until it is fixed.
Measured and drafted with Claude Code.
- Ngôn ngữ chính
- C++
- Star
- 11.6k
- Fork
- 1k
- Merge trung bình
- 18 ngày 13 giờ
- Pull request đã merge (30 ngày)
- 4
Chuẩn bị môi trường
Dự án này không cung cấp dev container, Dockerfile hay hướng dẫn đóng góp, nên bạn cần tự thiết lập môi trường: hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của Niko1221/Strata
-
needs-format
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
Niko1221/Strata#6251 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 5 ngày
-
[TUI] A leftover run config marks a model installed: the list checks the file name, not the filesĐang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 83/100
Maintainer thường phản hồi trong vòng 5 ngày
-
needs-format
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 73/100
Niko1221/Strata#6229 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 5 ngày
-
[Engine] explicit --layer-split reloads CUDA0 dense weights a second time at startup (0 MiB freed)Có thể đã có người làm @wronglebowsk đã nhận 1 ngày trước. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
Maintainer thường phản hồi trong vòng 5 ngày
-
[Other] Terminal: shell tab completion for the strata commandCó thể đã có người làm Có pull request liên kết đang mở hoặc đã được merge. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 74/100
Niko1221/Strata#6086 · 2 bình luận ·
Maintainer thường phản hồi trong vòng 5 ngày
Tất cả issue của Niko1221/Strata
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
HarperFast/rocksdb-js#1131 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
area/daemon bug good first issue platform/linux priority/p2
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
ToshiNamura/Deimos#5 ·
-
[Bug]: NP 管理器文件编辑器里删除键无效Đang mởbug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
metasequoiaime/msime#11666 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100
patrick-hudson/put.gd-desktop#1679 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Detokenizer keeps ▁ for BPE tokenizers with a top-level Metaspace decoder (NLLB, Reformer)Có thể đã có người làm @0z5a đã nhận hôm nay. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
openvinotoolkit/openvino_tokenizers#840 ·
Maintainer thường phản hồi trong vòng 1 ngày