pytorch/text

Language modelling dataset only one sample

Open

#381 aberto em 12 de set. de 2018

Ver no GitHub
 (2 comments) (0 reactions) (0 assignees)Python (822 forks)batch import
datasetshelp wanted

Métricas do repositório

Stars
 (3.396 stars)
Métricas de merge de PR
 (Nenhuma PRs mesclada em 30d)

Description

from torchtext import data
from torchtext import datasets

TEXT = data.Field(lower=True, batch_first=True)

train, valid, test = datasets.WikiText2.splits(TEXT)

print('len(train)', len(train))

This returns a length of one. It should print the length of the whole dataset. I have tried both with version 0.2.3 and 0.3 and none of them worked.

Guia do colaborador

Direção de pesquisa
Examine a lógica de divisão do dataset torchtext e a definição de Field para entender por que apenas uma amostra é retornada.
Pilha de tecnologia
pythonpytorch
Domain
backendmachine learning
Tipo Issue
Bug
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
2
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-3 horas
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
PythonPyTorch
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
75