Microsoft/calculator

Inaccurate results for trigonometric functions with exact results

Open

#309 aperta il 14 mar 2019

Vedi su GitHub
 (3 commenti) (0 reazioni) (0 assegnatari)C++ (2422 fork)batch import
Area: User ExperienceBugPri: 2help wantedtriage approved

Metriche repository

Star
 (16.196 star)
Metriche merge PR
 (Merge medio 15h 43m) (7 PR mergiate in 30 g)

Descrizione

Describe the bug The below examples of the trigonometric functions show a correct result at first. However, subtracting that result from itself results in a non-zero value, which shows that the results are represented as incorrect approximations internally, when it should be an exact result.

In DEG mode: arcsin(1) - 90 != 0 sin(30) - 0.5 != 0 In RAD mode: sin(π/2) - 1 != 0 but interestingly: cos(±π) + 1 == 0

This is a new issue spawned from the similar issue #222.

Steps To Reproduce

  1. Try the above calculations in scientific mode

Expected behavior Exact internal representation and result 0 for above calculations.

Device and Application Information (please complete the following information):

  • OS Build: 10 0 17763 0
  • Architecture: X64
  • Application Version: 10.1812.10048.0

Guida contributor

Direzione di ricerca
Esamina l'implementazione di arcsin, sin e funzioni correlate nella libreria matematica della calcolatrice. Cerca i casi in cui risultati matematici esatti (come 0, 0.5, 1) vengono calcolati con approssimazione in virgola mobile e non memorizzati come valori esatti. Considera l'uso di rappresentazioni intere o razionali per questi risultati esatti comuni.
Tech stack
cpp
Dominio
backend
Tipo issue
Bug
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
2
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 ore
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Nuova
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
C++floating point arithmetic
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
65