memory out of error. Hardware requirements
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 3/5
- Tiempo estimado
- 1-2 días
- Aptitud para principiantes
- 30/100
- Tipo de issue
- Documentación
- Claridad
- Necesita aclaración
- Estado de actividad
- Estancado
- Stack tecnológico
- python
- Área
- machine-learning
Línea de trabajo
The issue does not mention a file, test, or entry point to inspect. Start by reviewing the fine-tuning setup for CodeGen 2B Mono with sequence length 256 on a single 40GB GPU; done would be documented GPU requirements for 2B and larger models, including the conditions that affect memory use.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
I have tried to finetune Codegen 2B Mono on 40GB GPU (single card) with sequence length set as 256. It gave CUDA memory out of error. What is the GPU memory required to finetune 2B and above models?
- Lenguaje dominante
- Python
- Estrellas
- 5.2k
- Forks
- 420
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de salesforce/CodeGen
-
Verify evals on Papers with Code Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 45/100
salesforce/CodeGen#107 ·
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 20/100
salesforce/CodeGen#104 ·
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
salesforce/CodeGen#101 ·
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 48/100
salesforce/CodeGen#95 ·
-
Dificultad 3/5 1-2 días Aptitud para principiantes 35/100
salesforce/CodeGen#94 · 8 comentarios ·
Todos los issues de salesforce/CodeGen
Issues similares
-
agent-ready documentation needs-triage
Dificultad 1/5 1-3 horas Aptitud para principiantes 88/100
-
documentation
Dificultad 1/5 Menos de una hora Aptitud para principiantes 91/100
-
workflow-status page template still says reusable workflows are "triggered only by workflow_call:" Abierto
Dificultad 1/5 Menos de una hora Aptitud para principiantes 92/100
-
Add https://search.jeremyh.xyz/ Abiertoinstance instance add
Dificultad 1/5 Menos de una hora Aptitud para principiantes 72/100
searxng/searx-instances#939 · 1 comentario ·
-
area-deployment area-integrations triage:bot-seen
Dificultad 2/5 Medio día Aptitud para principiantes 86/100