pytorch/examples

Ambiguous code in reinforce

Open

#297 ouverte le 2 févr. 2018

Voir sur GitHub
 (2 commentaires) (0 réactions) (0 assignés)Python (9 429 forks)batch import
good first issue

Métriques du dépôt

Stars
 (21 634 stars)
Métriques de merge PR
 (Aucune PR mergée en 30 j)

Description

In /reinforcement_learning/reinforce.py, line 91:

running_reward = running_reward * 0.99 + t * 0.01

The variable running_reward seems to used for record average episodic rewards(not actually average, but I think the concept is similar), 0.01, is the scalar to update the average episodic rewards and t is done step. Add some comment or refactor naming may help beginners to understand this example.

Guide contributeur

Direction de recherche
Le problème pointe vers la ligne 91 dans `/reinforcement learning/reinforce.py`. La variable `running reward` et la formule de mise à jour `running reward * 0.99 + t * 0.01` sont confuses. Un commentaire expliquant que cela calcule une moyenne mobile exponentielle des récompenses d'épisode, ou renommer `running reward` en quelque chose comme `avg reward`, clarifierait le code. Vérifiez le fichier pour les commentaires existants et le style de codage. Aucune pull request liée ou réponse des mainteneurs n'est présente. Assurez vous que le changement est cohérent avec les autres exemples du dépôt.
Stack technique
python
Domaine
machine learning
Type d'issue
Documentation
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
1
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
Moins d'une heure
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Récente
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
Pythonreinforcement learning basics
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
90