carpedm20/BEGAN-tensorflow

Training loss goes to NaN

Open

#11 geöffnet am 14. Apr. 2017

Auf GitHub ansehen
 (0 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)Python (233 Forks)github user discovery
bughelp wanted

Repository-Metriken

Stars
 (924 Stars)
PR-Merge-Metriken
 (PR-Metriken ausstehend)

Beschreibung

I started training with Celeb database, but around 50k iteration, the loss goes to NaN & k_t goes to 1. Have you seen this before. 10%|█████▎ | 49650/500000 [5:29:56<49:13:32, 2.54it/s][49650/500000] Loss_D: 0.112764 Loss_G: 0.053848 measure: 0.1190, k_t: 0.0458 10%|█████▎ | 49700/500000 [5:30:16<49:18:01, 2.54it/s][49700/500000] Loss_D: nan Loss_G: nan measure: nan, k_t: 1.0000

Having said that, the output at 49k is starting to look good. Below are my last good outputs (real, d_real, g, d_fake). x_fixed 49500_d_real 49500_g 49500_d_fake

My training stats looks like this began_training_screenshot

Contributor Guide

Research-Richtung
Untersuche häufige Ursachen für NaN Verlust beim GAN Training: Überprüfe auf verschwindende/explodierende Gradienten, zu hohe Lernrate oder numerische Instabilität. Überprüfe die BEGAN Implementierung auf potenzielle Probleme in der Verlustberechnung oder Optimierung.
Tech Stack
pythontensorflow
Domain
machine learningai
Issue Type
Fehler
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
2
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-3 Stunden
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Frisch
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Klar
Voraussetzungen
PythonTensorFlow
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
65