bigscience-workshop/petals

Exploding gradients/weights/logits in a fine-tuning notebook

Open

#283 ouverte le 10 mars 2023

Voir sur GitHub
 (2 commentaires) (1 réaction) (1 assigné)Python (424 forks)batch import
buggood first issuehelp wanted

Métriques du dépôt

Stars
 (8 248 stars)
Métriques de merge PR
 (Aucune PR mergée en 30 j)

Description

Hello, after I successfully fine-tuned, I run to the last step and when generating text, the following error occurs. May I ask what is the reason?

image image

Guide contributeur

Direction de recherche
Examinez l'erreur survenant lors de la génération après le réglage fin. Vérifiez le notebook de réglage fin et le code de génération dans le dépôt (par exemple, petals/cli/run.py ou similaire). Recherchez les causes courantes d'explosion des gradients/poids/logits, comme une normalisation incorrecte ou des problèmes de taux d'apprentissage. Étant donné que le problème a un assigné, examinez les commentaires existants pour trouver des indices. Demandez au rapporteur de fournir le message d'erreur exact et la trace d'exécution au lieu d'images.
Stack technique
pythonpytorch
Domaine
backendmachine learning
Type d'issue
Bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Plutôt claire
Prérequis
PythonPyTorch
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
40