facebookresearch/fairseq

Disparity with huggingface implementation when reproducing the fill_mask

Open

#1.399 aberto em 19 de nov. de 2019

Ver no GitHub
 (8 comments) (0 reactions) (0 assignees)Python (6.224 forks)batch import
bughelp wanted

Métricas do repositório

Stars
 (29.107 stars)
Métricas de merge de PR
 (Nenhuma PRs mesclada em 30d)

Description

I was not able to reproduce the fill mask provided here with the huggingface interface, wondering if they are using an outdated model (if a new one has been released) :)

Guia do colaborador

Direção de pesquisa
Investigue as etapas de reprodução do fill mask no fairseq e compare com a implementação do HuggingFace. Verifique se o checkpoint do modelo usado pelo fairseq está desatualizado ou se há diferenças na tokenização ou na lógica de mascaramento. Consulte a documentação do fairseq e quaisquer exemplos vinculados, identifique as discrepâncias específicas e sugira uma correção ou esclarecimento.
Pilha de tecnologia
pythonpytorch
Domain
machine learningai
Tipo Issue
Bug
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
4
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-3 horas
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Antigo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Precisa de investigação
Prerequisites
fairseq basicsHuggingFace transformersfill mask task understanding
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
20