pytorch/examples

Gradient vanishing of G in the DCGAN example

Ouverte

#822 ouverte le 11 sept. 2020

Voir sur GitHubGuide contributeur
 (0 commentaire) (0 réaction) (0 personne assignée)Python (9 429 forks)batch import
help wanted

Métriques du dépôt

Stars
 (21 634 étoiles)
Métriques de merge PR
 (Métriques PR en attente)

Description

Hello,

I have trained the DCGAN with the default hyper-parameter settings on the downloaded "img_align_celeba" dataset (recommended in the tutorial). However, the results reveal strong gradient vanishing of G. While Loss_D keeps decreasing towards 0, Loss_G grows high (towards 100).

It seems that D is trained so well, preventing a good training on G. I didn't do any modifications on the code. Do you know what happened?

Thanks!

Guide contributeur

Direction de recherche
Étudiez le déséquilibre d'apprentissage entre le générateur et le discriminateur. Vérifiez les taux d'apprentissage, le lissage des étiquettes ou les pénalités de gradient.
Stack technique
pythonpytorch
Domaine
machine learningcomputer vision
Type d'issue
Bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Récente
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Investigation requise
Prérequis
PythonPyTorchGAN basics
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
50