facebookresearch/fairseq

Disparity with huggingface implementation when reproducing the fill_mask

Open

#1.399 geöffnet am 19. Nov. 2019

Auf GitHub ansehen
 (8 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)Python (6.224 Forks)batch import
bughelp wanted

Repository-Metriken

Stars
 (29.107 Stars)
PR-Merge-Metriken
 (Keine gemergten PRs in 30 T)

Beschreibung

I was not able to reproduce the fill mask provided here with the huggingface interface, wondering if they are using an outdated model (if a new one has been released) :)

Contributor Guide

Research-Richtung
Untersuche die Reproduktionsschritte für fill mask in fairseq und vergleiche sie mit der Implementierung von HuggingFace. Prüfe, ob der von fairseq verwendete Modell Checkpoint veraltet ist oder ob es Unterschiede in der Tokenisierung oder Maskierungslogik gibt. Sieh dir die fairseq Dokumentation und verlinkte Beispiele an, identifiziere die spezifischen Diskrepanzen und schlage eine Korrektur oder Klarstellung vor.
Tech Stack
pythonpytorch
Domain
machine learningai
Issue Type
Fehler
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
4
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-3 Stunden
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Veraltet
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Recherche nötig
Voraussetzungen
fairseq basicsHuggingFace transformersfill mask task understanding
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
20