pytorch/text

Ignoring UNK words

Open

#355 aberto em 22 de jul. de 2018

Ver no GitHub
 (7 comments) (0 reactions) (0 assignees)Python (3.396 stars) (822 forks)batch import
enhancementhelp wanted

Description

Cannot find the way to ignore UNK words when numericalising, i.e. instead by substituting them by a 0, it just ignore that word.

Is that implemented?

This is useful in classification problems, when you just want to remove 'UNK' words.

Guia do colaborador

Pilha de tecnologia
python
Domain
machine learningdata
Tipo Issue
feature
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-3 hours
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
stale
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
clear
Prerequisites
Python basicsPyTorch basicsNLP concepts
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
65
Direção de pesquisa
Look into the torchtext.data.Field class, specifically the numericalize method. The current behavior substitutes unknown words with 0; we need to add an option to ignore them by filtering out UNK tokens during numericalization. Check the file torchtext/data/field.py and the related function definitions. Discuss with maintainers if there is a preferred approach (e.g., adding a parameter like 'include unk').