aidotse/LeakPro

Loss in training loops

Ouverte

#239 ouverte le 24 févr. 2025

Voir sur GitHubGuide contributeur
 (1 commentaire) (0 réaction) (0 personne assignée)Python (26 forks)auto 404
good first issue

Métriques du dépôt

Stars
 (23 étoiles)
Métriques de merge PR
 (Métriques PR en attente)

Description

Issue

Problem Description

The last batch of each epoch is usually smaller than the others. One approach is to sum the losses and divide by the total number of samples.

Currently, loss calculations in handlers sum the average loss of each batch and divide by the length of the dataloader.

Expected Behavior

What Needs to be Done

How Can It Be Tested or Reproduced

Guide contributeur

Direction de recherche
Examinez le calcul de la perte dans les gestionnaires d'entraînement et modifiez le pour additionner les pertes de chaque lot et diviser par le nombre total d'échantillons, au lieu de faire la moyenne des pertes par lot et de diviser par le nombre de lots.
Stack technique
python
Domaine
machine learning
Type d'issue
Bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
Python
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
70