Number: integers beyond 64 bits lose precision

Aperta
#15 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
3/5
Tempo stimato
1-2 giorni
Idoneità per principianti
66/100
Tipo di issue
Bug
Chiarezza
Abbastanza chiara
Stato di attività
Attiva
Stack tecnologico
go
Ambito
databases

Direzione di ricerca

Start at GetNumberConverter in tt.go:162 and read how integer literals are parsed and how the converter tests cover the existing numeric cases. Check issue #18 for the decimal range boundary. Done means oversized integer literals within that range produce an exact decimal.Decimal, while values outside it still fall back to float64.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

bug

Reproduction snippets assume:

fac := tupleconv.MakeStringToTTConvFactory()

Where: GetNumberConverter (tt.go:162).

An integer that doesn't fit into uint64/int64 falls through to float64, although Tarantool number fields accept decimals (src/box/field_def.c: [FIELD_TYPE_NUMBER] = 1U << MP_DECIMAL). any and scalar use the same chain, so they are affected too.

Reproduction:

v, _ := fac.GetNumberConverter().Convert("123456789012345678901234567890")
fmt.Printf("%T(%v)\n", v, v)
float64(1.2345678901234568e+29)

Expected: a decimal.Decimal with the exact value.

Suggested fix: for integer literals (no decimal separator, no exponent) that don't fit into 64 bits, return a decimal if it is within the decimal range (see #18), otherwise fall back to float64.

Lingua principale
Go
Stelle
1
Fork
0
Merge medio
1h 43m
PR unite (30g)
2

Preparare l'ambiente

Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di tarantool/go-tupleconv

Tutte le issue di tarantool/go-tupleconv

Issue simili

Altre issue su Go

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.