Hacktoberfest 2026: los issues que los mantenedores marcaron para octubre, abiertos y aptos para principiantes. Explorar issues de Hacktoberfest

Docs: consolidate build-from-source and GPU backend guide

Abierto Apto para principiantes
#2,314 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
2/5
Tiempo estimado
1-3 horas
Aptitud para principiantes
75/100
Tipo de issue
Documentación
Claridad
Bien especificado
Estado de actividad
Tranquilo
Stack tecnológico
cmake, python

Línea de trabajo

El issue señala la consolidación de la documentación de compilación, probablemente en docs/build.md o en un nuevo archivo docs/gpu.md. Comience revisando el README existente, CONTRIBUTING.md y los issues de GitHub enlazados (#2013, #695, #721, #756) para comprender la información actualmente dispersa. Luego, cree una tabla clara de CMAKE_ARGS para cada backend de GPU y agregue pasos de solución de problemas para errores comunes. Verifique los cambios compilando el proyecto con un backend de GPU para asegurarse de que las instrucciones funcionen.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

Problem

The build-from-source documentation is spread across README, CONTRIBUTING.md, and many GitHub issues (e.g. #2013, #695, #721, #756). Users with newer GPUs (RTX 50-series, sm_120) or uncommon CUDA versions repeatedly hit the same build failures because the docs lack:

  1. A CMAKE_ARGS mapping table showing which flag to set for each GPU backend
  2. CUDA version compatibility notes (e.g., CUDA 12.9+ requires specific cmake workarounds)
  3. The minimum/maximum supported CUDA toolkit versions
  4. How to verify the build actually used the GPU (simple Python snippet to check backend)

Suggested improvements

In docs/build.md (or a new docs/gpu.md):

| Backend | CMAKE_ARGS                                    | GPU Requirements              |
|---------|-----------------------------------------------|-------------------------------|
| CUDA    | -DGGML_CUDA=ON                                | NVIDIA GPU, CUDA >= 11.3      |
| Metal   | -DGGML_METAL=ON (default on macOS)            | Apple Silicon or AMD GPU      |
| Vulkan  | -DGGML_VULKAN=ON                              | Vulkan 1.2+ capable GPU       |
| SYCL    | -DGGML_SYCL=ON -DGGML_SYCL_TARGET=INTEL       | Intel Arc / Iris Xe           |
| HIP     | -DGGML_HIPBLAS=ON                             | AMD ROCm-compatible GPU       |

And a troubleshooting section for the most common build errors (CMake not finding CUDA, nvcc version mismatch, sm_120 not recognized).

Value

Consolidating this reduces the "can't install with GPU" issues that currently fill the tracker.

Lenguaje dominante
Python
Estrellas
10.6k
Forks
1.5k
Merge medio
6 h 43 min
PR fusionados (30 d)
2

Guía de contribución

Abrir la guía de contribución

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de abetlen/llama-cpp-python

Todos los issues de abetlen/llama-cpp-python

Issues similares

Más issues de Python

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.