fetch_dataframe returning float types incorrectly

Offen

#259 erstellt am 20.3.2025 0 Kommentare 1 Reaktion 0 zugewiesene Personen Auf GitHub ansehen

Dieses Issue hat noch niemand übernommen.

Bewertung

Schwierigkeit: 3/5
Geschätzter Aufwand: 1-2 Tage
Anfängerfreundlichkeit: 38/100

Issue-Typ: Bug
Klarheit: Muss geklärt werden
Aktivitätsstatus: Veraltet
Tech-Stack: aws, python
Bereich: databases

Rechercherichtung

Beginne damit, die Methode fetch_dataframe nachzuverfolgen und die gemeldeten Werte für REAL und DOUBLE PRECISION in Redshift zu reproduzieren. Vergleiche die zurückgegebenen Werte mit der Eingabegenauigkeit und dem bestehenden Connector-Verhalten; die Aufgabe ist abgeschlossen, wenn die erwarteten Dezimalwerte ohne unbeabsichtigte Gleitkommaziffern zurückgegeben werden und ein Regressionstest beide Typen abdeckt.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Beschreibung

The fetch_dataframe method provided by the Redshift connector appears to return more decimal places than expected. For example, 0.074 becomes 0.07400000095367, likely due to how Redshift stores and retrieves floating-point or decimal values with higher precision than originally intended.

The first image shows what was returned by the fetch_dataframe method and although the revenue growth column is exactly what we expected (exact user inputs without more decimal places), when we actually take a look at one of the values specifically (second one in this case), we get the value in the second image. This suggests that fetch_dataframe is already returning extra decimal places but just not viewable when printing the whole dataframe. For now, we have identified that this is a problem for the datatypes REAL and DOUBLE PRECISION on the redshift connector.