carpedm20/variational-text-tensorflow

Bad performance in document classification

Open

#2 ouverte le 12 janv. 2017

Voir sur GitHub
 (1 commentaire) (0 réactions) (0 assignés)Python (76 forks)github user discovery
enhancementhelp wanted

Métriques du dépôt

Stars
 (535 stars)
Métriques de merge PR
 (Métriques PR en attente)

Description

Hi Taehoon,

Thank you for sharing your implementation. Have you tried applying the NVDM model in some downstream tasks like document classification? I did not find such experiments in the original paper, so I did my own. After running your code on the 20 Newsgroups data set and training a simple classifier on learned document representations, I got a quite low accuracy (5% in my experiment). In addition, I found when I set max_iter too large, I got NaN errors when running the code.

Any help will be highly appreciated！

Thanks, Hugo

Guide contributeur

Direction de recherche
Enquêtez sur la cause de la faible précision de classification et des erreurs NaN. Vérifiez la boucle d'entraînement du modèle NVDM, les hyperparamètres (ex. max iter), le prétraitement des données pour 20 Newsgroups et le processus d'apprentissage du classifieur. Recherchez les problèmes potentiels dans l'inférence variationnelle ou la perte de reconstruction qui pourraient conduire à des représentations dégénérées.
Stack technique
pythontensorflow
Domaine
machine learning
Type d'issue
Bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Investigation requise
Prérequis
PythonTensorFlowBasic NLP concepts
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
60