pytorch/text

Language modelling dataset only one sample

Open

#381 ouverte le 12 sept. 2018

Voir sur GitHub
 (2 commentaires) (0 réactions) (0 assignés)Python (822 forks)batch import
datasetshelp wanted

Métriques du dépôt

Stars
 (3 396 stars)
Métriques de merge PR
 (Aucune PR mergée en 30 j)

Description

from torchtext import data
from torchtext import datasets

TEXT = data.Field(lower=True, batch_first=True)

train, valid, test = datasets.WikiText2.splits(TEXT)

print('len(train)', len(train))

This returns a length of one. It should print the length of the whole dataset. I have tried both with version 0.2.3 and 0.3 and none of them worked.

Guide contributeur

Direction de recherche
Examinez la logique de division du dataset torchtext et la définition de Field pour comprendre pourquoi un seul echantillon est renvoye.
Stack technique
pythonpytorch
Domaine
backendmachine learning
Type d'issue
Bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
PythonPyTorch
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
75