unslothai/unsloth

[Bug] Multi-gpu finetuning in Unsloth

Open

#3.248 geöffnet am 1. Sept. 2025

Auf GitHub ansehen
 (2 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)Python (5.658 Forks)batch import
help wantedmultigpu

Repository-Metriken

Stars
 (64.271 Stars)
PR-Merge-Metriken
 (Durchschn. Merge 3T 15h) (525 gemergte PRs in 30 T)

Beschreibung

  1. Did you update? pip install --upgrade unsloth unsloth_zoo -->yes
  2. Colab or Kaggle or local / cloud -->cloud
  3. Number GPUs used, use nvidia-smi --?> 4
  4. Which notebook? Please link!
  5. Which Unsloth version, TRL version, transformers version, PyTorch version?
  6. Which trainer? SFTTrainer, GRPOTrainer etc --> SFTTrainer
Put Minimal code to reproduce error here ###Remove Hugging Face token###

🦥 You can also ask via our Reddit page: https://www.reddit.com/r/unsloth/

I am able to finetuned Gemma 3 4B model using unsloth in one gpu it is working fine, but when I am trying to use it in multi-gpu settings, I am not able to use it properly. Any help regarding multi-gpu support will be appriciate. Please help to set up multi-gpu finetuning through unsloth. Thanks

Contributor Guide

Research-Richtung
Überprüfen Sie die Unsloth Dokumentation für Multi GPU Training, stellen Sie sicher, dass DDP oder FSDP korrekt konfiguriert sind und das Modell für verteiltes Training richtig eingewickelt ist.
Tech Stack
python
Domain
machine learningai
Issue Type
Fehler
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-3 Stunden
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Meist klar
Voraussetzungen
PythonPyTorch
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
40