unslothai/unsloth

[Bug] Multi-gpu finetuning in Unsloth

Open

#3248 aperta il 1 set 2025

Vedi su GitHub
 (2 commenti) (0 reazioni) (0 assegnatari)Python (5658 fork)batch import
help wantedmultigpu

Metriche repository

Star
 (64.271 star)
Metriche merge PR
 (Merge medio 3g 15h) (525 PR mergiate in 30 g)

Descrizione

  1. Did you update? pip install --upgrade unsloth unsloth_zoo -->yes
  2. Colab or Kaggle or local / cloud -->cloud
  3. Number GPUs used, use nvidia-smi --?> 4
  4. Which notebook? Please link!
  5. Which Unsloth version, TRL version, transformers version, PyTorch version?
  6. Which trainer? SFTTrainer, GRPOTrainer etc --> SFTTrainer
Put Minimal code to reproduce error here ###Remove Hugging Face token###

🦥 You can also ask via our Reddit page: https://www.reddit.com/r/unsloth/

I am able to finetuned Gemma 3 4B model using unsloth in one gpu it is working fine, but when I am trying to use it in multi-gpu settings, I am not able to use it properly. Any help regarding multi-gpu support will be appriciate. Please help to set up multi-gpu finetuning through unsloth. Thanks

Guida contributor

Direzione di ricerca
Controlla la documentazione di Unsloth per il training multi GPU, verifica se DDP o FSDP sono configurati correttamente e assicurati che il modello sia correttamente avvolto per il training distribuito.
Tech stack
python
Dominio
machine learningai
Tipo issue
Bug
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 ore
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Abbastanza chiara
Prerequisiti
PythonPyTorch
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
40