Docs: consolidate build-from-source and GPU backend guide
Personne n'a encore pris cette issue.
Évaluation
- Difficulté
- 2/5
- Temps estimé
- 1-3 heures
- Accessibilité débutants
- 75/100
- Type d'issue
- Documentation
- Clarté
- Clairement spécifiée
- Activité
- Calme
- Stack technique
- cmake, python
- Domaine
- build-system, documentation
Piste de recherche
Le problème pointe vers la consolidation de la documentation de compilation, probablement dans docs/build.md ou un nouveau fichier docs/gpu.md. Commencez par examiner le README existant, CONTRIBUTING.md et les problèmes GitHub liés (#2013, #695, #721, #756) pour comprendre les informations actuellement dispersées. Ensuite, créez un tableau clair des CMAKE_ARGS pour chaque backend GPU et ajoutez des étapes de dépannage pour les erreurs courantes. Vérifiez les modifications en compilant le projet avec un backend GPU pour vous assurer que les instructions fonctionnent.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
Problem
The build-from-source documentation is spread across README, CONTRIBUTING.md, and many GitHub issues (e.g. #2013, #695, #721, #756). Users with newer GPUs (RTX 50-series, sm_120) or uncommon CUDA versions repeatedly hit the same build failures because the docs lack:
- A CMAKE_ARGS mapping table showing which flag to set for each GPU backend
- CUDA version compatibility notes (e.g., CUDA 12.9+ requires specific cmake workarounds)
- The minimum/maximum supported CUDA toolkit versions
- How to verify the build actually used the GPU (simple Python snippet to check backend)
Suggested improvements
In docs/build.md (or a new docs/gpu.md):
| Backend | CMAKE_ARGS | GPU Requirements |
|---------|-----------------------------------------------|-------------------------------|
| CUDA | -DGGML_CUDA=ON | NVIDIA GPU, CUDA >= 11.3 |
| Metal | -DGGML_METAL=ON (default on macOS) | Apple Silicon or AMD GPU |
| Vulkan | -DGGML_VULKAN=ON | Vulkan 1.2+ capable GPU |
| SYCL | -DGGML_SYCL=ON -DGGML_SYCL_TARGET=INTEL | Intel Arc / Iris Xe |
| HIP | -DGGML_HIPBLAS=ON | AMD ROCm-compatible GPU |
And a troubleshooting section for the most common build errors (CMake not finding CUDA, nvcc version mismatch, sm_120 not recognized).
Value
Consolidating this reduces the "can't install with GPU" issues that currently fill the tracker.
- Langage dominant
- Python
- Étoiles
- 10.6k
- Forks
- 1.5k
- Merge moyen
- 6 h 43 min
- PR mergées (30 j)
- 2
Guide de contribution
Ouvrir le guide de contribution
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de abetlen/llama-cpp-python
-
Difficulté 2/5 1-3 heures Accessibilité débutants 88/100
abetlen/llama-cpp-python#2371 ·
-
Difficulté 2/5 1-3 heures Accessibilité débutants 65/100
abetlen/llama-cpp-python#2352 ·
-
Difficulté 2/5 1-3 heures Accessibilité débutants 65/100
abetlen/llama-cpp-python#2211 · 2 commentaires ·
-
Difficulté 2/5 1-3 heures Accessibilité débutants 65/100
abetlen/llama-cpp-python#2210 ·
-
Improve error messages Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 65/100
abetlen/llama-cpp-python#2145 ·
Toutes les issues de abetlen/llama-cpp-python
Issues similaires
-
bug
Difficulté 2/5 1-3 heures Accessibilité débutants 75/100
stephrobert/dsoxlab#238 ·
-
Difficulté 2/5 1-3 heures Accessibilité débutants 75/100
-
Difficulté 2/5 1-3 heures Accessibilité débutants 75/100
sublimehq/package_control#1780 ·
-
Difficulté 2/5 1-3 heures Accessibilité débutants 65/100
-
Difficulté 2/5 1-3 heures Accessibilité débutants 70/100
nwg-piotr/nwg-displays#145 ·