[Bug] Streaming read of a postpone primary-key table drops pending rows under bucket-key filter pushdown
I maintainer di solito rispondono entro 1 giorno
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 2/5
- Tempo stimato
- 1-3 ore
- Idoneità per principianti
- 78/100
- Tipo di issue
- Bug
- Chiarezza
- Specificata chiaramente
- Stato di attività
- Attiva
- Stack tecnologico
- java
- Ambito
- data-engineering, stream-processing
Direzione di ricerca
Individua BucketSelector.test e confronta il suo comportamento di pruning a livello di entry con la guardia mayContain descritta nell’issue. Aggiungi o aggiorna la copertura di regressione per una lettura in streaming di una tabella postpone con un filtro bucket-key, quindi verifica che le righe in sospeso rimangano visibili mentre i bucket reali continuino a essere potati.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Search before asking
- I searched in the issues and found nothing similar.
Paimon version
master
Compute Engine
Flink (streaming read of a primary-key postpone table)
Minimal reproduce step
Create a primary-key table with bucket = -2 (postpone bucket; default changelog.producer = none). Write rows so pending, not-yet-assigned data exists before any compaction assigns real buckets. Start a Flink streaming read whose query filters a bucket-key column, for example WHERE k = 5, so the predicate is pushed down. The pending rows are silently missing from the stream.
What doesn't meet your expectations?
BucketSelector.test(partition, bucket, numBucket) prunes manifest entries by the bucket computed from the predicate's bucket-key values. A postpone entry carries bucket -2 and no bucket count, so the computed bucket set never contains -2 and the entry is dropped. With a bucket-key predicate pushed down, a streaming read of a postpone table then loses every pending row, with no error.
The manifest-level mayContain(...) in the same class already returns true for a negative bucket or a non-positive bucket count, and the batch postpone-merge path avoids the problem by not pushing the key predicate at all. Only the entry-level streaming path was missing the guard.
Expected: a streaming read with a bucket-key filter still returns the pending rows of a postpone table.
Anything else?
Fix direction: BucketSelector.test returns true (cannot prune) when the bucket is negative or the bucket count is non-positive, the same condition mayContain already uses. Real buckets are pruned exactly as before.
Are you willing to submit a PR?
- I'm willing to submit a PR!
- Lingua principale
- Java
- Stelle
- 3.4k
- Fork
- 1.4k
- Merge medio
- 1g 10h
- PR unite (30g)
- 481
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Nessuna guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di apache/paimon
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100
apache/paimon#10332 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
[Bug] [Hive] IndexOutOfBoundsException when converting an unavailable dynamic BETWEEN predicateForse di nuovo libera @zhang-arvin l’ha presa 40 giorni fa e non c’è nessuna pull request aperta. Apertabug
Difficoltà 2/5 1-3 ore Idoneità per principianti 84/100
apache/paimon#9440 · 2 commenti ·
I maintainer di solito rispondono entro 1 giorno
-
[Bug] Hive query on Paimon table fails with 'Proxy user is not supported' when Kerberos proxy user is usedForse già presa @sohurdc l’ha presa 50 giorni fa. Apertabug
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
apache/paimon#9006 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
[Bug] FileIndexFormat.Reader leaks input stream when construction fails with a runtime exceptionForse di nuovo libera Una pull request per questa issue è stata chiusa senza essere unita. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 85/100
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di apache/paimon
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
apache/rocketmq-dashboard#6110 ·
I maintainer di solito rispondono entro 4 giorni
-
`Processing lsp` never exits and leaves orphaned processesForse già presa @overcast302 l’ha presa oggi. Apertabug
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
processing/processing4#1578 · 1 commento ·
-
ASM is not up-to-dateAperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 60/100
I maintainer di solito rispondono entro 1 giorno
-
[BUG] S3 CORS responses omit Access-Control-Allow-Credentials for matched originsForse già presa Una pull request collegata a questa issue è aperta o già unita. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
floci-io/floci#5369 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
securityHeaders replaces a route's own Content-Security-Policy (0.9.9; weakens embedders' pages)Apertabug
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 1 giorno