pyro-ppl/pyro

[FR] Support Automatic Mixed Precision training

Open

#3 316 ouverte le 31 janv. 2024

Voir sur GitHub
 (7 commentaires) (0 réactions) (0 assignés)Python (981 forks)batch import
enhancementhelp wanted

Métriques du dépôt

Stars
 (8 211 stars)
Métriques de merge PR
 (Merge moyen 10j 19h) (1 PR mergée en 30 j)

Description

Issue Description

Better support for mixed precision training would be extremely helpful, at least for SVI. I can manually cast data into float16 or bfloat16 but I am unable to leverage PyTorch's automatic mixed precision training. This is because it requires the use of the GradScaler class during the optimization loop to properly scale gradients in a mixed-precision-aware manner. See the documentation for more info: https://pytorch.org/docs/stable/amp.html

It would be nice to have support for using this class within pyro optimizers to allow for amp support.

Guide contributeur

Direction de recherche
Examinez les classes d'optimiseur de Pyro dans pyro/optim/ pour comprendre l'application du gradient. Consultez les commentaires de l'issue pour les approches proposées. Implémentez l'intégration de GradScaler dans la méthode step de l'optimiseur, en suivant les directives AMP de PyTorch. Envisagez un drapeau pour activer AMP dans SVI.
Stack technique
pythonpytorch
Domaine
machine learningai
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-2 jours
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
PythonPyTorch
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
40