dselivanov/text2vec

Topic modeling guide

Open

#262 geöffnet am 26. Mai 2018

Auf GitHub ansehen
 (3 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)R (134 Forks)batch import
help wanted

Repository-Metriken

Stars
 (837 Stars)
PR-Merge-Metriken
 (Keine gemergten PRs in 30 T)

Beschreibung

It will be useful to create a comprehensive practical guide for topic modeling. Now we have all components in place:

  • POS tags and lemmatization - thanks to udpipe package
  • coherence measures - thanks to Manuel work
  • fast LDA, thanks to WarpLDA in text2vec
  • fast non-negative matrix factorization, thanks to rsparse package
  • multi-word phrase extraction - several approaches text2vec::Collocations, udpipe::as_phrasemachine

Steps

  • find interesting non-trivial corpus with large number of documents
  • demonstrate how to create tokenizer which only use particular POS
  • create collocation model on top of that
  • create document-term matrix using tokens with multi-word expression
  • fit several topic models (text2vec::LDA, rsparse::WRMF) with different hyper parameters
  • cross-validate / compare them using different coherence metrics
    • demonstrate usage of external corpus for tcm calculation
    • check on how coherence metrics are correlated (is perplexity correlated with them? )

There are already good vignettes in udpipe package topic modeling and phrase extraction. They can be used as inspiration.

@manuelbickel @jwijffels anything we can add to the plan above?

Contributor Guide

Research-Richtung
Befolgen Sie die Schritte: Wählen Sie ein nicht triviales Korpus aus, tokenisieren Sie mit POS Tags, extrahieren Sie Kollokationen, erstellen Sie eine Dokument Term Matrix mit Mehrwortausdrücken, passen Sie Topic Modelle (LDA, WRMF) mit verschiedenen Hyperparametern an und validieren Sie cross validieren Sie mit Kohärenzmetriken. Vergleichen Sie Kohärenzmetriken und zeigen Sie die Korrelation mit Perplexität auf.
Tech Stack
r
Domain
documentation
Issue Type
Dokumentation
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
2
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
Halber Tag
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Klar
Voraussetzungen
RGit
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
75