deeplearning4j/deeplearning4j-examples

Increasing errors with MultiLayerNetworkExternalErrors.java Example

Aberta

#914 aberto em 18 de out. de 2019

Ver no GitHubGuia do colaborador
 (1 comentário) (0 reação) (0 responsável)Java (1.841 forks)batch import
help wantedquestion

Métricas do repositório

Stars
 (2.395 estrelas)
Métricas de merge de PR
 (Nenhuma PRs mesclada em 30d)

Description

Hi,

I am trying to using train a simple 2 layer network on a simple synthetic dataset. With two features X1 and X2. and lables: y = X1^2 + X2^2

I am calculating the error for each epoch manually and using the errors to call backprop, similar to the MultiLayerNetworkExternalErrors.java example

The prediction error is increasing with each epoch, I would have expected decreasing errors with on this simple dataset. Could someone help me with if the issue is with how I am using dl4j methods ?

Code: https://gist.github.com/Saurabh7/9b5ea7def2a167903e7d206e272e2662 Data: https://gist.github.com/Saurabh7/982fb4ddfbd58bd866782ea31b95aef1

Guia do colaborador

Direção de pesquisa
Inspecione o loop de treinamento; garanta que o cálculo do erro esteja correto e os gradientes sejam aplicados corretamente. Verifique a taxa de aprendizado e o gradient clipping.
Pilha de tecnologia
java
Domain
machine learning
Tipo Issue
Bug
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
2
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-3 horas
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
JavaNeural network basics
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
60