AvroReadSupport should automatically detect file list encoding
Les mainteneurs répondent en général sous 4 jours
Personne n'a encore pris cette issue.
Évaluation
- Difficulté
- 4/5
- Temps estimé
- 3-5 jours
- Accessibilité débutants
- 45/100
- Type d'issue
- Fonctionnalité
- Clarté
- Plutôt claire
- Activité
- Active
- Stack technique
- java
- Domaine
- data-engineering
Piste de recherche
Look at AvroReadSupport in the parquet-avro module to understand how list structures are currently handled. The detection logic must examine the Parquet schema's repeated group patterns to distinguish three-level and two-level lists. Testing will involve reading existing Parquet files with both list encodings to ensure automatic detection works without the configuration property.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
Describe the enhancement requested
parquet-avro currently contains opt-in support for reading and writing both "three-level" lists:
required group mylist (LIST) {
repeated group list {
required int32 element;
}
}
and "two level"/"legacy"/"old" lists:
required group mylist (LIST) {
repeated int32 array;
}
The boolean Configuration property parquet.avro.write-old-list-structure controls which structure should be written, but readers have to specify the parquet.avro.write-old-list-structure property, too, if they're either (a) supplying a custom projection, or (b) reading a Parquet file that doesn't contain the parquet.avro.schema key in its file metadata.
Ideally the reader should be able to automatically detect both types of list encoding, so that we can keep the Configuration property as a writer-side implementation detail.
Component(s)
Avro
- Langage dominant
- Java
- Étoiles
- 3.1k
- Forks
- 1.6k
- Merge moyen
- 5 j 13 h
- PR mergées (30 j)
- 31
Préparer son environnement
- Aucun Dockerfile ni fichier Docker Compose
- Propose un modèle de pull request
- Aucun guide de contribution
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de apache/parquet-java
-
Row-group copying collides for distinct column paths with the same dot stringPeut-être pris @costas-db l’a pris il y a 20 jours. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 74/100
apache/parquet-java#3829 ·
Les mainteneurs répondent en général sous 4 jours
-
Binary statistics truncation test ignores its configured truncation lengthPeut-être pris @dhruv-15-03 l’a pris il y a 22 jours. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 88/100
apache/parquet-java#3820 ·
Les mainteneurs répondent en général sous 4 jours
-
Make PageReader AutoCloseableOuverte
Difficulté 2/5 1-3 heures Accessibilité débutants 82/100
apache/parquet-java#3767 ·
Les mainteneurs répondent en général sous 4 jours
-
Remove duplicate LICENSE and NOTICE files from benchmark JARsPeut-être pris @efegokdemir l’a pris il y a 25 jours. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
apache/parquet-java#3695 · 1 commentaire ·
Les mainteneurs répondent en général sous 4 jours
-
null_count is omitted for large columns in parquet filesPeut-être pris @efegokdemir l’a pris il y a 23 jours. OuverteType: bug
Difficulté 2/5 1-3 heures Accessibilité débutants 78/100
apache/parquet-java#3574 · 1 commentaire ·
Les mainteneurs répondent en général sous 4 jours
Toutes les issues de apache/parquet-java
Issues similaires
-
NullPointerException when a `DeserializationProblemHandler` returns `null` for `byte[]` (single value unwrapped) and `char[]` elementsPeut-être pris @Marti2203 l’a pris aujourd’hui. Ouverte
Difficulté 2/5 Une demi-journée Accessibilité débutants 88/100
FasterXML/jackson-databind#6300 ·
Les mainteneurs répondent en général sous 1 jour
-
content good first issue
Difficulté 1/5 Moins d'une heure Accessibilité débutants 95/100
cpinitiative/usaco-guide#6699 ·
Les mainteneurs répondent en général sous 1 jour
-
BC remittance upload: a claim MSP refused (S03) is saved with a blank status instead of refused (F)Ouvertetype: bug
Difficulté 2/5 1-3 heures Accessibilité débutants 88/100
carlos-emr/carlos#4933 ·
Les mainteneurs répondent en général sous 1 jour
-
bug
Difficulté 2/5 1-3 heures Accessibilité débutants 82/100
apache/rocketmq-dashboard#6925 ·
Les mainteneurs répondent en général sous 3 jours
-
Difficulté 2/5 1-3 heures Accessibilité débutants 68/100
Vakore/ZappierGames#147 ·