Filter manifest lists on pyiceberg-core Arrow output in plan_files
维护者通常 1 天内回复
还没有人认领这个 Issue。
评估
- 难度
- 4/5
- 预计耗时
- 3-5 天
- 新手友好度
- 48/100
- Issue 类型
- 功能
- 描述清晰度
- 基本清楚
- 活跃度
- 活跃
- 技术栈
- python
调研方向
Start with table/__init__.py around the plan_files manifest filtering at lines 2805–2809, then read issue #4298 for the approach and check the prerequisite apache/iceberg-rust#3649. Compare the Arrow columns returned by pyiceberg-core with the current ManifestFile filtering path; done means matching manifests are filtered before Python objects are built, with Cython still used when the optional extra is unavailable.
由索引模型根据 Issue 内容生成。
描述
Feature Request / Improvement
Scan planning reads the manifest list into ManifestFile objects and then filters them by partition summaries (table/__init__.py#L2805-L2809). #4007 shows that pyiceberg-core parses a manifest list faster than Cython, but building the ManifestFile objects makes the end-to-end path slower.
Apply the approach from #4298 to read_manifest_list: read the list from pyiceberg-core as Arrow, and filter it on the Arrow columns so that only matching manifests become Python objects. This needs apache/iceberg-rust#3649. pyiceberg-core is an optional extra, so the Cython reader stays as the fallback.
- 主要语言
- Python
- 星标
- 1.2k
- 派生
- 654
- 平均合并
- 2 天 11 小时
- 30 天内合并 PR
- 122
环境准备
- 没有 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 没有贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
apache/iceberg-python 的其他 Issue
-
`inspect.files()` and the other file metadata tables raise `ArrowInvalid` when a snapshot has no manifests可能已有人在做 @YuangGao 于 10 天前认领。 未关闭kind:bug
难度 2/5 1-3 小时 新手友好度 72/100
apache/iceberg-python#4269 ·
维护者通常 1 天内回复
-
`inspect.entries()` raises TypeError when a data file has no column_sizes可能已有人在做 @Rahul-cs50 于 14 天前认领。 未关闭kind:bug
难度 2/5 1-3 小时 新手友好度 78/100
apache/iceberg-python#4186 · 2 条评论 ·
维护者通常 1 天内回复
-
`older_than` reads a naive datetime as UTC and expires snapshots it should keep可能已有人在做 @Rahul-cs50 于 13 天前认领。 未关闭kind:bug
难度 2/5 1-3 小时 新手友好度 72/100
apache/iceberg-python#4182 · 1 条评论 ·
维护者通常 1 天内回复
-
REST: Send empty first-page pageToken when rest-page-size is set可能已有人在做 @ehddnr301 于 32 天前认领。 未关闭kind:bug
难度 2/5 1-3 小时 新手友好度 82/100
apache/iceberg-python#4096 ·
维护者通常 1 天内回复
-
PyArrowFileIO: every small S3 write is a 3-request multipart upload; expose allow_delayed_open可能已有人在做 @David-Banquet 于 29 天前认领。 未关闭
难度 2/5 1-3 小时 新手友好度 70/100
apache/iceberg-python#4093 · 3 条评论 ·
维护者通常 1 天内回复
查看 apache/iceberg-python 的全部 Issue
相似的 Issue
-
bug
难度 2/5 1-3 小时 新手友好度 70/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 70/100
Cygnux-Labs/Tracekit#827 ·
维护者通常 1 天内回复
-
SPIDevice selects an active-high device as soon as it is created可能已有人在做 @mikeysklar 今天认领。 未关闭
难度 2/5 1-3 小时 新手友好度 73/100
adafruit/circuitpython#11869 ·
维护者通常 1 天内回复
-
bug
难度 2/5 1-3 小时 新手友好度 80/100
glossyio/traffic-monitor#312 ·
维护者通常 1 天内回复
-
Export `EagerAllowed` and `IntoBackend` from stable.v2可能已有人在做 关联的 PR 仍在进行中或已合并。 未关闭
难度 2/5 1-3 小时 新手友好度 70/100
narwhals-dev/narwhals#4154 ·
维护者通常 1 天内回复