replit: Full CUDA Support
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 5/5
- Tiempo estimado
- Más de una semana
- Aptitud para principiantes
- 10/100
- Tipo de issue
- Nueva funcionalidad
- Claridad
- Necesita aclaración
- Estado de actividad
- Estancado
Línea de trabajo
El issue enumera funciones de CUDA que faltan en los bindings de ggml-python. Empieza examinando la compatibilidad existente con CUDA en la biblioteca ggml y el código de los bindings de Python. Busca capas de normalización, implementaciones de multiplicación de matrices, gestión de capas en múltiples GPU y mecanismos de descarga de memoria. Determina qué significa «proper offloading (no alloc)» en este contexto y en qué se diferencia del comportamiento actual.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Missing
- Norm layers
- Mat Mul's
- N GPU Layers
- Proper Offloading (no alloc)
- Lenguaje dominante
- Python
- Estrellas
- 152
- Forks
- 16
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Preparar el entorno
- Sin Dockerfile ni archivo de Docker Compose
- Sin plantilla de pull request
- Leer la guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de abetlen/ggml-python
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
abetlen/ggml-python#91 ·
-
Import errorAbierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 65/100
abetlen/ggml-python#90 ·
-
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100
abetlen/ggml-python#93 · 1 comentario ·
-
Dificultad 3/5 1-2 días Aptitud para principiantes 45/100
abetlen/ggml-python#92 ·
-
Dificultad 3/5 1-2 días Aptitud para principiantes 30/100
abetlen/ggml-python#21 ·
Todos los issues de abetlen/ggml-python
Issues similares
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 72/100
-
[Bug]: Importing weave changes the process-wide localePosiblemente ocupada @himanshu748 la tomó hoy. Abiertobug
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 74/100
-
UX
Dificultad 1/5 Menos de una hora Aptitud para principiantes 72/100
mediajunkie/piper-morgan-product#2008 · 2 comentarios ·