rosejn/cortex

support for selu activation function

Open

#181 geöffnet am 11. Juni 2017

Auf GitHub ansehen
 (8 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)Clojure (109 Forks)batch import
enhancementharderhelp wanted

Repository-Metriken

Stars
 (1.269 Stars)
PR-Merge-Metriken
 (Keine gemergten PRs in 30 T)

Beschreibung

Ran into an interesting discussion on hackers' news on an activation function that seems to work well, even with deeper fully connected networks. See comparison and paper here, and discussion at reddit and HN.

https://github.com/shaohua0116/Activation-Visualization-Histogram

https://www.reddit.com/r/MachineLearning/comments/6g5tg1/r_selfnormalizing_neural_networks_improved_elu/ https://news.ycombinator.com/item?id=14527686

Contributor Guide

Research-Richtung
Implementieren Sie die SELU Aktivierungsfunktion in der Cortex Bibliothek, folgen Sie der mathematischen Definition und stellen Sie die Kompatibilität mit vorhandenen neuronalen Netzwerkschichten sicher.
Tech Stack
Keine
Domain
machine learning
Issue Type
Funktion
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-2 Tage
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Klar
Voraussetzungen
ClojureMachine learning basics
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
60