facebookresearch/fairseq

Disparity with huggingface implementation when reproducing the fill_mask

Open

#1399 aperta il 19 nov 2019

Vedi su GitHub
 (8 commenti) (0 reazioni) (0 assegnatari)Python (6224 fork)batch import
bughelp wanted

Metriche repository

Star
 (29.107 star)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

I was not able to reproduce the fill mask provided here with the huggingface interface, wondering if they are using an outdated model (if a new one has been released) :)

Guida contributor

Direzione di ricerca
Indaga i passi di riproduzione di fill mask in fairseq e confrontali con l'implementazione di HuggingFace. Verifica se il checkpoint del modello utilizzato da fairseq è obsoleto o se ci sono differenze nella tokenizzazione o nella logica di mascheramento. Esamina la documentazione di fairseq e gli eventuali esempi collegati, quindi identifica le specifiche discrepanze e suggerisci una correzione o una chiarificazione.
Tech stack
pythonpytorch
Dominio
machine learningai
Tipo issue
Bug
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
4
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 ore
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Datata
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Richiede indagine
Prerequisiti
fairseq basicsHuggingFace transformersfill mask task understanding
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
20