mikejihbe/metrics

Histogram mean becomes NaN as sum becomes too large

Open

#13 ouverte le 24 mai 2012

Voir sur GitHub
 (1 commentaire) (0 réactions) (0 assignés)JavaScript (58 forks)batch import
bughelp wanted

Métriques du dépôt

Stars
 (575 stars)
Métriques de merge PR
 (Aucune PR mergée en 30 j)

Description

I have one metric based on a Histogram with about 90000 entries. The sum becomes huge... and the mean becomes NaN. Actually it becomes a strange number followed by NaNNaNNaN. e.g..

653238.5-217636.16666666666NaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaN...

Guide contributeur

Direction de recherche
Enquêtez sur le calcul de la somme de l'histogramme pour des problèmes de débordement ou de précision en virgule flottante. Vérifiez si la somme est convertie en un entier 32 bits ou si une grande somme provoque NaN en raison d'une conversion en chaîne.
Stack technique
javascriptnodejs
Domaine
backend
Type d'issue
Bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Récente
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Investigation requise
Prérequis
JavaScriptNode.jsFloating point arithmetic
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
60