carpedm20/variational-text-tensorflow

Bad performance in document classification

Open

#2 aperta il 12 gen 2017

Vedi su GitHub
 (1 commento) (0 reazioni) (0 assegnatari)Python (76 fork)github user discovery
enhancementhelp wanted

Metriche repository

Star
 (535 star)
Metriche merge PR
 (Metriche PR in attesa)

Descrizione

Hi Taehoon,

Thank you for sharing your implementation. Have you tried applying the NVDM model in some downstream tasks like document classification? I did not find such experiments in the original paper, so I did my own. After running your code on the 20 Newsgroups data set and training a simple classifier on learned document representations, I got a quite low accuracy (5% in my experiment). In addition, I found when I set max_iter too large, I got NaN errors when running the code.

Any help will be highly appreciated！

Thanks, Hugo

Guida contributor

Direzione di ricerca
Investigare la causa della bassa accuratezza di classificazione e degli errori NaN. Controllare il ciclo di addestramento del modello NVDM, gli iperparametri (es. max iter), la preelaborazione dei dati per 20 Newsgroups e il processo di apprendimento del classificatore. Cercare potenziali problemi nell'inferenza variazionale o nella perdita di ricostruzione che potrebbero portare a rappresentazioni degenerate.
Tech stack
pythontensorflow
Dominio
machine learning
Tipo issue
Bug
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
2
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 ore
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Richiede indagine
Prerequisiti
PythonTensorFlowBasic NLP concepts
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
60