FluxML/Flux.jl

'cell_clip' and 'proj_clip' for Flux: LSTM

Geschlossen

#653 geöffnet am 01.03.2019

Auf GitHub ansehenContributor Guide
 (1 Kommentar) (0 Reaktionen) (0 zugewiesene Personen)Julia (619 Forks)batch import
enhancementhelp wanted

Repository-Metriken

Stars
 (4.725 Sterne)
PR-Merge-Metriken
 (Durchschn. Merge 3T 6h) (6 gemergte PRs in 30 T)

Beschreibung

Looking through the docs. , I found that this feature is missing for LSTM layers. It comes as an optional parameter in tensorflow LSTMCell This will be useful for porting stuff to flux while achieving the same results as from tensorflow implementations for some popular algorithms (like ELMo). Looking in the code base of tensorflow if says that it clip the value of cell states between [-cell_clip, cell_clip] in it's clip_by_value method.

Contributor Guide

Research-Richtung
Untersuchen Sie die aktuelle LSTM Implementierung in Flux.jl und fügen Sie Unterstützung für cell clip und proj clip Parameter gemäß der TensorFlow Implementierung hinzu.
Tech Stack
julia
Domain
machine learning
Issue Type
Funktion
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
2
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-3 Stunden
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Klar
Voraussetzungen
Julia
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
75