[Engine] qsa_rows_bench: --ctx below 32768 makes the dense step read outside the page table (Xid 31)

Đang mở Phù hợp với người mới
#6,209 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 5 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
2/5
Thời gian dự kiến
1-3 giờ
Mức phù hợp với người mới
75/100
Loại issue
Lỗi
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
cpp
Lĩnh vực
testing

Hướng nghiên cứu

Đọc src/kernels/qsa_rows_bench.cpp quanh dòng 138 và 207 để lần theo cách chiều rộng của cửa sổ dày đặc và các ID ô được tạo ra. Tái hiện bằng qsa_rows_bench --rows --iters 100 --ctx 16384 --max-context 262144; xác minh bản sửa giữ bước dày đặc trong giới hạn ngữ cảnh và lần chạy 16K hoàn tất mà không có truy cập bộ nhớ bất hợp lệ.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Problem. qsa_rows_bench with a context under 32768 cells faults on the GPU. The dense step's window is fixed at
32768 cells, so at a shorter context its cell ids start below 0, and nothing bounds them.

Repro (RTX 5080, sm_120, driver 615.71.09, CUDA 13.3, Release build of the qsa_rows_bench target; the bench file is
identical to main):

qsa_rows_bench --rows --iters 100 --ctx 16384 --max-context 262144

Output, exit code 2:

qsa_rows_bench on device 0 (NVIDIA GeForce RTX 5080, 12.0), 100 iterations: context 16384, capacity 262144 cells (max_blocks 65538), selection cap 2051, int8 pools over 16452 cells
  selections: width 2051 a row; union of 2 rows 2360 cells (1.15x one row) union of 3 rows 2541 cells (1.24x one row) union of 4 rows 2608 cells (1.27x one row)
qsa_rows_bench: warm: an illegal memory access was encountered

Kernel log at the same moment:

NVRM: Xid (PCI:0000:01:00): 31, name=qsa_rows_bench, intr 00000000. MMU Fault: ENGINE GRAPHICS GPC6 GPCCLIENT_T1_5 faulted @ 0x220_cddf1000. Fault is of type FAULT_PDE ACCESS_TYPE_VIRT_READ

Cause (unconfirmed static analysis):

  • src/kernels/qsa_rows_bench.cpp:207 fills the dense window's ids as ctx + t + 1 - dense_win + j, with
    dense_win = 32768 (line 138).
  • At --ctx 16384 the first 16383 ids of each row are negative.
  • The batched decode attention reads p.page_table[cell / page_size] (src/kernels/cuda/qsa_decode_attn.cu:206, and
    418 and 618 in the other variants) with no lower bound, so the read lands before the page table.
  • The engine never passes negative ids, so the kernel itself is fine. The missing bounds check is in the bench.
  • The default --ctx 131072 and any context of 32768 or more stay in range.

Suggested fix: clamp the dense window to the context (min(dense_win, ctx + t + 1) cells a row, with the step
record's width to match), or skip the dense step when ctx + 1 < dense_win.

Validation:

  • Run: the 16K case above, once (it faulted).
  • Not run: 64K / 131K / 200K, --no-dense at 16K, and any fix. We will not run the bench again until it is fixed.

Measured and drafted with Claude Code.

Ngôn ngữ chính
C++
Star
11.6k
Fork
1k
Merge trung bình
18 ngày 13 giờ
Pull request đã merge (30 ngày)
4

Chuẩn bị môi trường

Dự án này không cung cấp dev container, Dockerfile hay hướng dẫn đóng góp, nên bạn cần tự thiết lập môi trường: hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của Niko1221/Strata

Tất cả issue của Niko1221/Strata

Issue tương tự

Thêm issue về C++

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.