AvroReadSupport should automatically detect file list encoding
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 45/100
- Tipo de issue
- Nueva funcionalidad
- Claridad
- Bastante claro
- Estado de actividad
- Activo
- Stack tecnológico
- java
- Área
- data-engineering
Línea de trabajo
Look at AvroReadSupport in the parquet-avro module to understand how list structures are currently handled. The detection logic must examine the Parquet schema's repeated group patterns to distinguish three-level and two-level lists. Testing will involve reading existing Parquet files with both list encodings to ensure automatic detection works without the configuration property.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Describe the enhancement requested
parquet-avro currently contains opt-in support for reading and writing both "three-level" lists:
required group mylist (LIST) {
repeated group list {
required int32 element;
}
}
and "two level"/"legacy"/"old" lists:
required group mylist (LIST) {
repeated int32 array;
}
The boolean Configuration property parquet.avro.write-old-list-structure controls which structure should be written, but readers have to specify the parquet.avro.write-old-list-structure property, too, if they're either (a) supplying a custom projection, or (b) reading a Parquet file that doesn't contain the parquet.avro.schema key in its file metadata.
Ideally the reader should be able to automatically detect both types of list encoding, so that we can keep the Configuration property as a writer-side implementation detail.
Component(s)
Avro
- Lenguaje dominante
- Java
- Estrellas
- 3.1k
- Forks
- 1.6k
- Merge medio
- 6 d 16 h
- PR fusionados (30 d)
- 36
Guía de contribución
No hay ninguna guía de contribución indexada para este repositorio
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de apache/parquet-java
-
Type: bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
apache/parquet-java#3792 ·
-
Make PageReader AutoCloseable Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
apache/parquet-java#3767 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
apache/parquet-java#3695 · 1 comentario ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
apache/parquet-java#3667 ·
-
Type: bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
apache/parquet-java#3587 ·
Todos los issues de apache/parquet-java
Issues similares
-
documentation
Dificultad 2/5 1-3 horas Aptitud para principiantes 65/100
inu-appcenter/memorIN-backend#288 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 65/100
-
frontend maui-pilot pilot-ask question
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
-
executions.Query — startDate and timeRange filters are sent with inverted comparison operators Abiertoarea/plugin
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
kestra-io/plugin-kestra#190 ·