rosejn/cortex

support for selu activation function

Open

#181 aperta il 11 giu 2017

Vedi su GitHub
 (8 commenti) (0 reazioni) (0 assegnatari)Clojure (109 fork)batch import
enhancementharderhelp wanted

Metriche repository

Star
 (1269 star)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

Ran into an interesting discussion on hackers' news on an activation function that seems to work well, even with deeper fully connected networks. See comparison and paper here, and discussion at reddit and HN.

https://github.com/shaohua0116/Activation-Visualization-Histogram

https://www.reddit.com/r/MachineLearning/comments/6g5tg1/r_selfnormalizing_neural_networks_improved_elu/ https://news.ycombinator.com/item?id=14527686

Guida contributor

Direzione di ricerca
Implementa la funzione di attivazione SELU nella libreria cortex, seguendo la definizione matematica e assicurando la compatibilità con i layer di rete neurale esistenti.
Tech stack
Nessuno
Dominio
machine learning
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-2 giorni
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
ClojureMachine learning basics
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
60