instadeepai/Mava

[BUG]Jumanji RWARE reward shape mismatch

Open

#1 110 ouverte le 24 oct. 2024

Voir sur GitHub
 (1 commentaire) (0 réactions) (0 assignés)Python (122 forks)auto 404
buggood first issue

Métriques du dépôt

Stars
 (922 stars)
Métriques de merge PR
 (Métriques PR en attente)

Description

We found that in the 4ag RWARE task, env.reward_spec().generate_value() gives something of shape (), but the reward that environment outputs is actually of shape (num_agents).

This is curious because I believe the scenario should output a reward of shape ().

Maybe it's a wrapper thing?

Guide contributeur

Direction de recherche
Examinez la fonction de récompense dans la tâche 4ag RWARE et tracez la fonction step de l'environnement pour identifier pourquoi la forme de reward.spec() diffère de la forme réelle de la récompense. Vérifiez si un wrapper modifie la récompense.
Stack technique
python
Domaine
machine learningai
Type d'issue
Bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
PythonJAXreinforcement learning
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
60