Support multiple output partitions for lazy file discovery
I maintainer di solito rispondono entro 1 giorno
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 35/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Attiva
- Stack tecnologico
- rust
- Ambito
- data-engineering, distributed-systems
Direzione di ricerca
Start with the eager planning work in pull request #67 and its linked review discussion, then trace the lazy file discovery and execution paths. Define how partitions share discovery, assign tasks exactly once, handle early cancellation and backpressure, and isolate state across plan executions while preserving shared delete-loading state. Validate complete and filtered results, position deletes, LIMIT cancellation, and repeated executions.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Lazy Iceberg scans currently expose one DataFusion output partition. Eager planning in #67 can distribute retained file tasks across local partitions, but partitioned execution should also be possible without collecting all tasks first.
Support distributing one lazy file-discovery stream across multiple local output partitions. The design should avoid independently listing the same manifests for every partition, preserve exactly-once task assignment within each execution, and define cancellation/backpressure behavior when partitions stop early or are never opened. Re-executing a physical plan must get independent execution state. Reader clones should continue sharing delete-loading state within an execution.
Validate complete and filtered results, position deletes, LIMIT/cancellation, and repeated executions. This is a follow-up to #67, not a prerequisite for opt-in eager planning.
Requested in review: https://github.com/apache/datafusion-iceberg/pull/67#discussion_r4348219778
- Lingua principale
- Rust
- Stelle
- 30
- Fork
- 30
- Merge medio
- 3g 19h
- PR unite (30g)
- 15
Preparare l'ambiente
Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di apache/datafusion-iceberg
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
apache/datafusion-iceberg#100 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
apache/datafusion-iceberg#85 · 1 commento · 5 reazioni ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100
apache/datafusion-iceberg#75 ·
I maintainer di solito rispondono entro 1 giorno
-
Slow CI runnersAperta
Difficoltà 4/5 3-5 giorni Idoneità per principianti 18/100
apache/datafusion-iceberg#74 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100
apache/datafusion-iceberg#73 ·
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di apache/datafusion-iceberg
Issue simili
-
bug i18n priority: medium ui
Difficoltà 2/5 1-3 ore Idoneità per principianti 65/100
storytold/craft-anything#983 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
`swf` upgrade to 0.4.0Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 66/100
Dinnerbone/Rascal#91 · 2 reazioni ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
higress-group/HiRoute#405 ·
I maintainer di solito rispondono entro 1 giorno
-
rust_analyzer flycheck: no CLI way to enable clippy from `check.overrideCommand`Forse già presa @TrapsterDK l’ha presa oggi. Apertaneeds-triage
Difficoltà 2/5 1-3 ore Idoneità per principianti 77/100
bazelbuild/rules_rust#4392 ·
I maintainer di solito rispondono entro 2 giorni
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
I maintainer di solito rispondono entro 1 giorno