Docs: consolidate build-from-source and GPU backend guide
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 2/5
- Thời gian dự kiến
- 1-3 giờ
- Mức phù hợp với người mới
- 75/100
- Loại issue
- Tài liệu
- Độ rõ ràng
- Đặc tả rõ ràng
- Mức độ hoạt động
- Ít trao đổi
- Công nghệ
- cmake, python
- Lĩnh vực
- build-system, documentation
Hướng nghiên cứu
Issue này chỉ ra việc hợp nhất tài liệu build, có thể trong docs/build.md hoặc một tệp mới docs/gpu.md. Hãy bắt đầu bằng cách xem xét README hiện có, CONTRIBUTING.md và các issue GitHub được liên kết (#2013, #695, #721, #756) để hiểu thông tin hiện đang bị phân tán. Sau đó, tạo một bảng rõ ràng về CMAKE_ARGS cho từng backend GPU và thêm các bước khắc phục sự cố cho lỗi phổ biến. Xác minh các thay đổi bằng cách build dự án với một backend GPU để đảm bảo hướng dẫn hoạt động.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Problem
The build-from-source documentation is spread across README, CONTRIBUTING.md, and many GitHub issues (e.g. #2013, #695, #721, #756). Users with newer GPUs (RTX 50-series, sm_120) or uncommon CUDA versions repeatedly hit the same build failures because the docs lack:
- A CMAKE_ARGS mapping table showing which flag to set for each GPU backend
- CUDA version compatibility notes (e.g., CUDA 12.9+ requires specific cmake workarounds)
- The minimum/maximum supported CUDA toolkit versions
- How to verify the build actually used the GPU (simple Python snippet to check backend)
Suggested improvements
In docs/build.md (or a new docs/gpu.md):
| Backend | CMAKE_ARGS | GPU Requirements |
|---------|-----------------------------------------------|-------------------------------|
| CUDA | -DGGML_CUDA=ON | NVIDIA GPU, CUDA >= 11.3 |
| Metal | -DGGML_METAL=ON (default on macOS) | Apple Silicon or AMD GPU |
| Vulkan | -DGGML_VULKAN=ON | Vulkan 1.2+ capable GPU |
| SYCL | -DGGML_SYCL=ON -DGGML_SYCL_TARGET=INTEL | Intel Arc / Iris Xe |
| HIP | -DGGML_HIPBLAS=ON | AMD ROCm-compatible GPU |
And a troubleshooting section for the most common build errors (CMake not finding CUDA, nvcc version mismatch, sm_120 not recognized).
Value
Consolidating this reduces the "can't install with GPU" issues that currently fill the tracker.
- Ngôn ngữ chính
- Python
- Star
- 10.6k
- Fork
- 1.5k
- Merge trung bình
- 6 giờ 43 phút
- Pull request đã merge (30 ngày)
- 2
Hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của abetlen/llama-cpp-python
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
abetlen/llama-cpp-python#2371 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
abetlen/llama-cpp-python#2352 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
abetlen/llama-cpp-python#2211 · 2 bình luận ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
abetlen/llama-cpp-python#2210 ·
-
Improve error messages Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
abetlen/llama-cpp-python#2145 ·
Tất cả issue của abetlen/llama-cpp-python
Issue tương tự
-
bug priority:low
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
CyberAgent/psd2svg#436 ·
-
area/install-update comp/cli comp/desktop P3 sweeper:risk-compatibility type/bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 86/100
NousResearch/hermes-agent#122386 · 1 bình luận ·
-
ai-generated
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
vllm-project/production-stack#1105 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100