Add XPU (SYCL) backend for Intel GPUs
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức phù hợp với người mới
- 25/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Cần làm rõ
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- cpp
- Lĩnh vực
- ai, machine-learning
Hướng nghiên cứu
Review the linked b70-gptq-int4 code and the repository's contribution requirements before proposing an XPU (SYCL) backend. The work is not yet scoped: completion would require agreed acceptance criteria for Intel GPU support, including the stated Qwen3.8 27B GPTQ INT4 performance target.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Hi I was wondering if an implementation for Intel GPUs is on your radar/roadmap at all - and how a PR for this should look like?
I'm currently letting Codex implement that on a very narrow scope, specifically for Qwen3.8 27B GPTQ INT4 with the target beeing to match vLLM performance and ideally improve upon. Also started getting EXL3 to work, but sinc eI have a good reference for the INT4 model I switched to this first.
What does a PR need to have to be accepted?
Current code can be found here: https://github.com/Danmoreng/vllm.cpp/tree/b70-gptq-int4
- Ngôn ngữ chính
- C++
- Star
- 423
- Fork
- 53
- Merge trung bình
- 1 ngày 7 giờ
- Pull request đã merge (30 ngày)
- 380
Chuẩn bị môi trường
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của mudler/vllm.cpp
-
[Windows] full build fails in tools/bench/conv1d_scaling_probe.cpp (POSIX-only sys/resource.h)Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 88/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của mudler/vllm.cpp
Issue tương tự
-
Unconfirmed bug
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 88/100
luanti-org/luanti#17605 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 2 ngày
-
area: config area: firmware priority: P2 - medium size: S type: bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
Mizithra/ActiveTerrain#16 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100
grumpycoders/pcsx-redux#2171 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100
Maintainer thường phản hồi trong vòng 2 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
bytedance/trae-agent#524 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày