memory out of error. Hardware requirements
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 3/5
- Tempo stimato
- 1-2 giorni
- Idoneità per principianti
- 30/100
- Tipo di issue
- Documentazione
- Chiarezza
- Da chiarire
- Stato di attività
- Ferma
- Stack tecnologico
- python
- Ambito
- machine-learning
Direzione di ricerca
The issue does not mention a file, test, or entry point to inspect. Start by reviewing the fine-tuning setup for CodeGen 2B Mono with sequence length 256 on a single 40GB GPU; done would be documented GPU requirements for 2B and larger models, including the conditions that affect memory use.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
I have tried to finetune Codegen 2B Mono on 40GB GPU (single card) with sequence length set as 256. It gave CUDA memory out of error. What is the GPU memory required to finetune 2B and above models?
- Lingua principale
- Python
- Stelle
- 5.2k
- Fork
- 420
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di salesforce/CodeGen
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 45/100
salesforce/CodeGen#107 ·
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 20/100
salesforce/CodeGen#104 ·
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
salesforce/CodeGen#101 ·
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 48/100
salesforce/CodeGen#95 ·
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 35/100
salesforce/CodeGen#94 · 8 commenti ·
Tutte le issue di salesforce/CodeGen
Issue simili
-
pydanty:is-working
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
pydantic/pydantic-ai#8843 ·
I maintainer di solito rispondono entro 1 giorno
-
breaking change enhancement server
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 1 giorno
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100
sktime/sktime#11310 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 1 giorno
-
needs-triage
Difficoltà 2/5 1-3 ore Idoneità per principianti 85/100
I maintainer di solito rispondono entro 1 giorno