mikejihbe/metrics

Histogram mean becomes NaN as sum becomes too large

Aperta

#13 aperta il 24 mag 2012

Vedi su GitHub
 (1 commento) (0 reazioni) (0 assegnatari)JavaScript (55 fork)batch import
bughelp wanted

Metriche repository

Star
 (577 stelle)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

I have one metric based on a Histogram with about 90000 entries. The sum becomes huge... and the mean becomes NaN. Actually it becomes a strange number followed by NaNNaNNaN. e.g..

653238.5-217636.16666666666NaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaNNaN...

Guida contributor

Direzione di ricerca
Investigare il calcolo della somma dell'istogramma per overflow o problemi di precisione in virgola mobile. Controllare se la somma viene convertita in un intero a 32 bit o se una somma grande causa NaN a causa della conversione in stringa.
Tech stack
javascriptnodejs
Dominio
backend
Tipo issue
Bug
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
2
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 ore
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Nuova
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Richiede indagine
Prerequisiti
JavaScriptNode.jsFloating point arithmetic
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
60