Batch Size for RL training
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 1/5
- Tempo stimato
- Meno di un'ora
- Idoneità per principianti
- 25/100
- Tipo di issue
- Documentazione
- Chiarezza
- Da chiarire
- Stato di attività
- Ferma
- Stack tecnologico
- machine-learning
- Ambito
- machine-learning
Direzione di ricerca
Esamina la descrizione dell’addestramento RL nel report e individua le definizioni di dimensione del batch, numero di rollout e mini-batch. Conferma se la dimensione del batch riportata include i rollout e indica quanti mini-batch vengono utilizzati durante l’addestramento; l’issue è completata quando entrambe le domande hanno una risposta chiara.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Thanks for this great work!
In the report, it's mentioned that a batch size of 128 is used. Is this including the rollout number or not?
Also, how many mini-batches are used during training?
Thanks
- Lingua principale
- Nessun dato sulla lingua
- Stelle
- 759
- Fork
- 59
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
Non abbiamo ancora controllato i file di configurazione di questo progetto. Parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di ByteDance-Seed/Seed-Coder
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 45/100
ByteDance-Seed/Seed-Coder#24 ·
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 20/100
ByteDance-Seed/Seed-Coder#23 ·
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
ByteDance-Seed/Seed-Coder#22 ·
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
ByteDance-Seed/Seed-Coder#21 ·
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 20/100
ByteDance-Seed/Seed-Coder#20 ·
Tutte le issue di ByteDance-Seed/Seed-Coder
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100
jingyaogong/minimind#880 ·
I maintainer di solito rispondono entro 1 giorno
-
Qwen3_5MoeModel no longer returns router_logits, breaking aux loss with output_router_logits=TrueAperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
huggingface/transformers#49172 ·
I maintainer di solito rispondono entro 1 giorno
-
[Bug]: MRV2 prepare_inputs signature is incompatible with updated vLLM num_active_loras argumentApertabug
Difficoltà 2/5 1-3 ore Idoneità per principianti 84/100
vllm-project/vllm-ascend#17710 ·
I maintainer di solito rispondono entro 1 giorno
-
bug good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 90/100
selimfirat/pysad#209 ·
I maintainer di solito rispondono entro 1 giorno
-
backend::vllm diffusion multimodal
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 1 giorno