carpedm20/variational-text-tensorflow

Bad performance in document classification

Open

#2 geöffnet am 12. Jan. 2017

Auf GitHub ansehen
 (1 Kommentar) (0 Reaktionen) (0 zugewiesene Personen)Python (76 Forks)github user discovery
enhancementhelp wanted

Repository-Metriken

Stars
 (535 Stars)
PR-Merge-Metriken
 (PR-Metriken ausstehend)

Beschreibung

Hi Taehoon,

Thank you for sharing your implementation. Have you tried applying the NVDM model in some downstream tasks like document classification? I did not find such experiments in the original paper, so I did my own. After running your code on the 20 Newsgroups data set and training a simple classifier on learned document representations, I got a quite low accuracy (5% in my experiment). In addition, I found when I set max_iter too large, I got NaN errors when running the code.

Any help will be highly appreciated！

Thanks, Hugo

Contributor Guide

Research-Richtung
Untersuchen Sie die Ursache für die geringe Klassifikationsgenauigkeit und NaN Fehler. Überprüfen Sie die Trainingsschleife des NVDM Modells, Hyperparameter (z. B. max iter), die Datenvorverarbeitung für 20 Newsgroups und den Lernprozess des Klassifikators. Suchen Sie nach potenziellen Problemen in der variationellen Inferenz oder dem Rekonstruktionsverlust, die zu degenerierten Darstellungen führen könnten.
Tech Stack
pythontensorflow
Domain
machine learning
Issue Type
Fehler
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
2
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-3 Stunden
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Recherche nötig
Voraussetzungen
PythonTensorFlowBasic NLP concepts
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
60