josdejong/mathjs

math.floor returns apparently wrong value for BigNumbers; possibly implement distinct epsilon for BigNumber operations?

Ouverte

#2 608 ouverte le 27 juin 2022

Voir sur GitHubGuide contributeur
 (12 commentaires) (0 réaction) (0 personne assignée)JavaScript (1 314 forks)batch import
featurehelp wanted

Métriques du dépôt

Stars
 (15 065 étoiles)
Métriques de merge PR
 (Métriques PR en attente)

Description

hello，math floor maybe wrong

case 1: math.floor(math.bignumber("1234567890123456.9951").mul( math.bignumber(100)),0).toString()

is wrong , accept '123456789012345699' but '123456789012345700'

case2: math.floor(math.bignumber("1234567890123456.9951").mul( math.bignumber(100)),1).toString() is ok , value is : '123456789012345699.5'

Guide contributeur

Direction de recherche
Inspectez l'implémentation de math.floor pour les valeurs BigNumber. Vérifiez comment l'arrondi est effectué et s'il y a un problème d'epsilon ou de précision lors de la multiplication de grands nombres. Suivez le chemin du code dans le source de mathjs pour comprendre où se produit la perte de précision.
Stack technique
javascript
Domaine
backend
Type d'issue
Bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
Une demi journée
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
JavaScriptmath library concepts
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
65