facebookresearch/fairseq

Disparity with huggingface implementation when reproducing the fill_mask

Open

#1 399 ouverte le 19 nov. 2019

Voir sur GitHub
 (8 commentaires) (0 réactions) (0 assignés)Python (6 224 forks)batch import
bughelp wanted

Métriques du dépôt

Stars
 (29 107 stars)
Métriques de merge PR
 (Aucune PR mergée en 30 j)

Description

I was not able to reproduce the fill mask provided here with the huggingface interface, wondering if they are using an outdated model (if a new one has been released) :)

Guide contributeur

Direction de recherche
Examinez les étapes de reproduction de fill mask dans fairseq et comparez les avec l'implémentation de HuggingFace. Vérifiez si le point de contrôle du modèle utilisé par fairseq est obsolète ou s'il existe des différences dans la tokenisation ou la logique de masquage. Consultez la documentation de fairseq et les exemples liés, identifiez les écarts spécifiques et proposez une correction ou une clarification.
Stack technique
pythonpytorch
Domaine
machine learningai
Type d'issue
Bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
4
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Ancienne
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Investigation requise
Prérequis
fairseq basicsHuggingFace transformersfill mask task understanding
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
20