facebookresearch/fairseq

bf16 with A100 GPUs

Ouverte

#4 696 ouverte le 5 sept. 2022

Voir sur GitHubGuide contributeur
 (2 commentaires) (11 réactions) (0 personne assignée)Python (6 224 forks)batch import
enhancementhelp wantedneeds triage

Métriques du dépôt

Stars
 (29 107 étoiles)
Métriques de merge PR
 (Métriques PR en attente)

Description

A100 GPUs should support bf16 unless I am mistaken. I see it's currently only supported with TPUs. Are there any plans to support this?

Guide contributeur

Direction de recherche
Examinez la prise en charge de bfloat16 par PyTorch sur les GPU A100 et implémentez la prise en charge bf16 pour les opérations pertinentes dans fairseq.
Stack technique
pythonpytorch
Domaine
backendmachine learningai
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
PythonPyTorchGPU computing
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
65