Filter manifest lists on pyiceberg-core Arrow output in plan_files
Mantenedores costumam responder em até 1 dia
Ninguém assumiu esta issue ainda.
Avaliação
- Dificuldade
- 4/5
- Tempo estimado
- 3-5 dias
- Facilidade para iniciantes
- 48/100
- Tipo de issue
- Funcionalidade
- Clareza
- Razoavelmente clara
- Status de atividade
- Ativa
- Stack de tecnologia
- python
- Domínio
- data-engineering, performance
Direção de pesquisa
Start with table/__init__.py around the plan_files manifest filtering at lines 2805–2809, then read issue #4298 for the approach and check the prerequisite apache/iceberg-rust#3649. Compare the Arrow columns returned by pyiceberg-core with the current ManifestFile filtering path; done means matching manifests are filtered before Python objects are built, with Cython still used when the optional extra is unavailable.
Escrita pelo modelo de indexação a partir do texto da issue.
Descrição
Feature Request / Improvement
Scan planning reads the manifest list into ManifestFile objects and then filters them by partition summaries (table/__init__.py#L2805-L2809). #4007 shows that pyiceberg-core parses a manifest list faster than Cython, but building the ManifestFile objects makes the end-to-end path slower.
Apply the approach from #4298 to read_manifest_list: read the list from pyiceberg-core as Arrow, and filter it on the Arrow columns so that only matching manifests become Python objects. This needs apache/iceberg-rust#3649. pyiceberg-core is an optional extra, so the Cython reader stays as the fallback.
- Linguagem predominante
- Python
- Estrelas
- 1.2k
- Forks
- 654
- Merge médio
- 2d 11h
- PRs com merge (30d)
- 122
Preparar o ambiente
- Sem Dockerfile nem arquivo Docker Compose
- Tem um modelo de pull request
- Sem guia de contribuição
Primeiros passos
- Leia a issue inteira e depois o guia de contribuição do projeto.
- Comente na issue dizendo que vai assumir — evita que duas pessoas façam o mesmo trabalho.
- Faça um fork do repositório e trabalhe em uma branch.
- Abra um pull request que referencie o número da issue.
Mais de apache/iceberg-python
-
`inspect.files()` and the other file metadata tables raise `ArrowInvalid` when a snapshot has no manifestsTalvez já em andamento @YuangGao assumiu há 10 dias. Abertakind:bug
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 72/100
apache/iceberg-python#4269 ·
Mantenedores costumam responder em até 1 dia
-
`inspect.entries()` raises TypeError when a data file has no column_sizesTalvez já em andamento @Rahul-cs50 assumiu há 14 dias. Abertakind:bug
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 78/100
apache/iceberg-python#4186 · 2 comentários ·
Mantenedores costumam responder em até 1 dia
-
`older_than` reads a naive datetime as UTC and expires snapshots it should keepTalvez já em andamento @Rahul-cs50 assumiu há 13 dias. Abertakind:bug
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 72/100
apache/iceberg-python#4182 · 1 comentário ·
Mantenedores costumam responder em até 1 dia
-
REST: Send empty first-page pageToken when rest-page-size is setTalvez já em andamento @ehddnr301 assumiu há 32 dias. Abertakind:bug
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 82/100
apache/iceberg-python#4096 ·
Mantenedores costumam responder em até 1 dia
-
PyArrowFileIO: every small S3 write is a 3-request multipart upload; expose allow_delayed_openTalvez já em andamento @David-Banquet assumiu há 29 dias. Aberta
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 70/100
apache/iceberg-python#4093 · 3 comentários ·
Mantenedores costumam responder em até 1 dia
Todas as issues de apache/iceberg-python
Issues semelhantes
-
fleet size/m
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 78/100
sipyourdrink-ltd/bernstein#7548 ·
Mantenedores costumam responder em até 1 dia
-
good first issue help wanted level 1 wocs
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 82/100
GianlucaBave/murmury#73 ·
Mantenedores costumam responder em até 1 dia
-
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 78/100
G-nn-r/lg_heatpump#52 ·
-
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 72/100
agno-agi/agno#11657 · 1 comentário ·
Mantenedores costumam responder em até 1 dia
-
category:codebase:gpi category:codebase:handle type:bug
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 74/100
Mantenedores costumam responder em até 1 dia