Microsoft/calculator

Inaccurate results for trigonometric functions with exact results

Open

#309 aberto em 14 de mar. de 2019

Ver no GitHub
 (3 comments) (0 reactions) (0 assignees)C++ (2.422 forks)batch import
Area: User ExperienceBugPri: 2help wantedtriage approved

Métricas do repositório

Stars
 (16.196 stars)
Métricas de merge de PR
 (Mesclagem média 15h 43m) (7 fundiu PRs em 30d)

Description

Describe the bug The below examples of the trigonometric functions show a correct result at first. However, subtracting that result from itself results in a non-zero value, which shows that the results are represented as incorrect approximations internally, when it should be an exact result.

In DEG mode: arcsin(1) - 90 != 0 sin(30) - 0.5 != 0 In RAD mode: sin(π/2) - 1 != 0 but interestingly: cos(±π) + 1 == 0

This is a new issue spawned from the similar issue #222.

Steps To Reproduce

  1. Try the above calculations in scientific mode

Expected behavior Exact internal representation and result 0 for above calculations.

Device and Application Information (please complete the following information):

  • OS Build: 10 0 17763 0
  • Architecture: X64
  • Application Version: 10.1812.10048.0

Guia do colaborador

Direção de pesquisa
Examine a implementação de arcsin, sin e funções relacionadas na biblioteca matemática da calculadora. Procure casos em que resultados matemáticos exatos (como 0, 0.5, 1) estão sendo calculados com aproximação de ponto flutuante e não armazenados como valores exatos. Considere usar representações inteiras ou racionais para esses resultados exatos comuns.
Pilha de tecnologia
cpp
Domain
backend
Tipo Issue
Bug
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
2
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-3 horas
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Recente
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
C++floating point arithmetic
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
65