What is the hardware requirement for fine tuning codegen 2B and higher models?

Abierto

#67 abierto el 16/6/2023 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

Evaluación

Dificultad: 3/5
Tiempo estimado: 1-2 días
Aptitud para principiantes: 20/100

Tipo de issue: Documentación
Claridad: Necesita aclaración
Estado de actividad: Estancado
Stack tecnológico: python
Área: machine-learning

Línea de trabajo

No files, tests, or entry points are mentioned. First identify where fine-tuning and hardware requirements are documented, then verify the requirements for 2B and larger models and document guidance that addresses the reported memory error.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

I have tried to finetune 2B on 40GB GPU which i faced memory out of error. Any suggestion to finetune 2B and above models?

Lenguaje dominante: Python
Estrellas: 5.2k
Forks: 420
Métricas de merge de PR: Sin PR fusionados en 30 d

Guía de contribución

Abrir la guía de contribución

Primeros pasos

Lee el issue completo y luego la guía de contribución del proyecto.
Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
Haz un fork del repositorio y trabaja en una rama.
Abre un pull request que haga referencia al número del issue.

Más de salesforce/CodeGen

Verify evals on Papers with Code Abierto

Dificultad 2/5 1-3 horas Aptitud para principiantes 45/100

salesforce/CodeGen#107 · Abierto el 14/9/2026
Which repetitive Salesforce tasks consume the most time for your team? Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 20/100

salesforce/CodeGen#104 · Abierto el 8/7/2026
📝 Integration Proposal: CAJAL — Scientific Paper Agent for CodeGen Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

salesforce/CodeGen#101 · Abierto el 4/5/2026
Remove appendix with license text placeholders Abierto

Dificultad 1/5 Menos de una hora Aptitud para principiantes 48/100

salesforce/CodeGen#95 · Abierto el 18/11/2024
[BUG] CodeGen 2.5 Tokenizer cannot be initialized anymore Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 35/100

salesforce/CodeGen#94 · 8 comentarios · Abierto el 16/11/2024

Todos los issues de salesforce/CodeGen

Issues similares

docs: update workflows.md for slide deck Node test discovery Abierto

agent-ready documentation needs-triage

Dificultad 1/5 1-3 horas Aptitud para principiantes 88/100

microsoft/hve-core#3012 · Abierto el 25/9/2026
config_keys.rst says every result file PyBNF writes is alphabetical, but the credible-interval files and start_point.txt use declaration order Abierto

documentation

Dificultad 1/5 Menos de una hora Aptitud para principiantes 91/100

lanl/PyBNF#932 · Abierto el 25/9/2026
workflow-status page template still says reusable workflows are "triggered only by workflow_call:" Abierto

Dificultad 1/5 Menos de una hora Aptitud para principiantes 92/100

LearningCircuit/local-deep-research#6804 · Abierto el 24/9/2026
Add https://search.jeremyh.xyz/ Abierto

instance instance add

Dificultad 1/5 Menos de una hora Aptitud para principiantes 72/100

searxng/searx-instances#939 · 1 comentario · Abierto el 24/9/2026
Azure Sandboxes: Small and ExtraSmall tiers always fail to deploy (disk request exceeds tier maximum) Abierto

area-deployment area-integrations triage:bot-seen

Dificultad 2/5 Medio día Aptitud para principiantes 86/100

microsoft/aspire#20459 · 1 comentario · Abierto el 24/9/2026

Más issues de Python