Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

fix(BACKEND-ROCM): bind resource operations to the requested device

Đang mở
  • Có gì không ổn?
#3,100 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức phù hợp với người mới
35/100
Loại issue
Lỗi
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
cpp
Lĩnh vực
backend, testing-qa

Hướng nghiên cứu

Bắt đầu tại src/vt/rocm/rocm_backend.hip:220-284 và kiểm tra API tài nguyên dùng chung cũng như đăng ký DeviceResourceOps còn thiếu cho vt::Alloc(Device, ...). Chạy probe allocation-device tách biệt trước khi dựa vào kết quả biên MoE native. Hoàn thành yêu cầu một bài kiểm thử đỏ trên hai thiết bị, bao quát quyền sở hữu con trỏ và stream, việc khôi phục thiết bị hiện tại, các bản sao và đồng bộ hóa với stream mặc định, các luồng host, hành vi với một thiết bị duy nhất và vòng đời của graph.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Row: BACKEND-ROCM

ROCm resource methods use the ambient HIP device instead of their recorded device index. At base 6db4bef906859e864c82523c01107473f7dcca29, src/vt/rocm/rocm_backend.hip:220-284 calls hipMalloc, hipStreamCreate, hipMemsetAsync, hipMemcpyAsync, and hipStreamSynchronize without selecting device_ or the queue device. The backend registers no DeviceResourceOps override for vt::Alloc(Device, ...). The introducing source history is 50b0709b3.

A native MoE boundary test on two local gfx1100 devices exposed this assumption. Device-1-labeled buffers were constructed while device 0 remained current. The operator run returned 1 with three failed comparisons in the null-default-stream case. The other six cases passed. Untouched 0x5555 buffers and invalid reference values identify invalid test resource placement, not a valid native-kernel numerical result. An isolated allocation-device probe remains required before accepting the precise runtime diagnosis.

Owner: BACKEND-ROCM, resource and queue device ownership. The new MoE component test must explicitly allocate, copy, and build its reference on each intended device before testing native operation device selection. That scoped harness adaptation does not establish full-model execution on multiple GPUs.

Acceptance requires a committed spec, a red test through the shared resource API with a deliberately different ambient device, verified pointer and stream ownership, preserved ambient-device restoration, and correct default-stream copy and synchronization. Cover two devices, host threads, existing single-device behavior, and graph lifetimes. Run the pinned primary oracle for applicable resource behavior, fresh mutation review, and operator GPU gates. Keep native provider and resource ownership claims separate.

Local reproduction: /home/vikash/vllm.cpp-rdna3-moe-impl/build-rdna3-moe-hip/evidence/native-boundary-1.log and its operator receipt. Binary SHA256: 124546db69241940fd5ee88fb26cf71d6053a1dab7ad425915d0422dfc4854f2. The run held /home/vikash/gpu.lock, exposed local devices 0 and 1, and ran on 9 September 2026 UTC.

Ngôn ngữ chính
C++
Star
423
Fork
53
Merge trung bình
1 ngày 5 giờ
Pull request đã merge (30 ngày)
376

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của mudler/vllm.cpp

Tất cả issue của mudler/vllm.cpp

Issue tương tự

Thêm issue về C++

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.