Compression ratio degraded for repeated INT64 columns in parquet

Abierto
#281 1 comentario 1 reacción 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
4/5
Tiempo estimado
3-5 días
Aptitud para principiantes
35/100
Tipo de issue
Error
Claridad
Bastante claro
Estado de actividad
Estancado
Stack tecnológico
java
Área
performance

Línea de trabajo

The report links a Parquet file and says compression worsens when writing it with Snappy versions newer than 1.1.2.6. Start by reproducing the compression-ratio comparison with the linked file and versions, then trace the compressor path used for repeated INT64 values. Done means identifying and verifying the cause of the ratio drop; the issue does not name files or tests to start from.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

help wanted

When testing upgrade to spark 3.1.1 I've noticed the compression of repeated INT64 columns compression got worse.

https://stackoverflow.com/questions/67413589/parquet-compression-degradation-when-upgrading-spark/67455721#67455721

Reading this file saved with snappy 1.1.2.6, and writing it with higher version results in compression ratio dropping from 2.05 to 1.26
Any snappy-version higher than 1.1.2.6 reproduced this issue.

Lenguaje dominante
Java
Estrellas
1.1k
Forks
261
Merge medio
2 min
PR fusionados (30 d)
2

Preparar el entorno

Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de xerial/snappy-java

Todos los issues de xerial/snappy-java

Issues similares

Más issues de Java

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.