docs: fix stale and missing native write details in iceberg-writes.md and iceberg.md
I maintainer di solito rispondono entro 1 giorno
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 2/5
- Tempo stimato
- 1-3 ore
- Idoneità per principianti
- 75/100
- Tipo di issue
- Documentazione
- Chiarezza
- Specificata chiaramente
- Stato di attività
- Attiva
- Ambito
- documentation
Direzione di ricerca
L'issue punta a righe specifiche in docs/source/user-guide/latest/iceberg-writes.md e iceberg.md. Iniziate leggendo quei file per comprendere il testo attuale. Controllate le pull request referenziate (#5840, #6114) e la suite di test CometIcebergWriteActionSuite per il contesto su cosa deve essere aggiornato. Verificate il comportamento della configurazione spark.comet.exec.localTableScan.enabled. L'obiettivo è correggere le inesattezze elencate e aggiungere i dettagli mancanti.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
What is the problem the feature request solves?
The Iceberg user guide has errors and gaps about native writes:
docs/source/user-guide/latest/iceberg-writes.md:273-276says float/double partition directories use Rust's shortest representation (f=1where iceberg-java writesf=1.0). Since #5840 they use Java'sDouble.toStringrules and match iceberg-java.iceberg-writes.md:316-319says the parity suite compares committed manifests byte-for-byte.CometIcebergWriteActionSuitecompares aggregatedreadable_metrics(min/max, counts), not manifest bytes.iceberg-writes.mddoes not say that writes whose input is a local relation, such asINSERT ... VALUESanddf.writeTo(...).append()on a local DataFrame, needspark.comet.exec.localTableScan.enabled(defaultfalse). Without it they silently use iceberg-java even with both write flags on.iceberg-writes.mddoes not list #6114 (dictionary page kept for high-cardinality columns) among the accepted divergences.docs/source/user-guide/latest/iceberg.md:184lists "Iceberg writes (reads are accelerated, writes use Spark)" as unsupported. Native writes exist behindspark.comet.iceberg.write.enabled; that page should point toiceberg-writes.md.
Describe the potential solution
Fix the four points above. The "experimental, disabled by default" wording will need another pass when the defaults change (#5644).
Additional context
Found in an audit of the native Iceberg write path before enabling it by default. Part of #5649.
- Lingua principale
- Scala
- Stelle
- 1.3k
- Fork
- 387
- Merge medio
- 2g 4h
- PR unite (30g)
- 404
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di apache/datafusion-comet
-
Iceberg data tables whose names end with a metadata-table name fall back to SparkForse già presa @aryan9948 l’ha presa 5 giorni fa. Apertarequires-triage
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
apache/datafusion-comet#6719 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
ANSI integral SUM overflow reports "integer overflow" without Spark's try_add suggestionForse già presa @0lai0 l’ha presa 6 giorni fa. Apertaarea:aggregation bug priority:medium
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
apache/datafusion-comet#6661 · 1 commento · 1 assegnatario ·
I maintainer di solito rispondono entro 1 giorno
-
Native from_json with a schema that repeats a field name fails with "ArrowArray struct has 2 children (expected 1)"Forse già presa @Samearth17 l’ha presa 7 giorni fa. Apertaarea:expressions area:ffi bug good first issue priority:medium
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
apache/datafusion-comet#6592 ·
I maintainer di solito rispondono entro 1 giorno
-
Casting to a struct type with repeated field names fails with "ArrowArray struct has 2 children (expected 1)"Forse già presa @Samearth17 l’ha presa 6 giorni fa. Apertaarea:expressions area:ffi bug good first issue priority:high
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
apache/datafusion-comet#6591 ·
I maintainer di solito rispondono entro 1 giorno
-
arrays_zip with two same-named inputs fails with "ArrowArray struct has 2 children (expected 1)"Forse già presa @mohitgurav20 l’ha presa 13 giorni fa. Apertaarea:expressions area:ffi bug priority:high
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
apache/datafusion-comet#6251 · 4 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di apache/datafusion-comet
Issue simili
-
LFSR.tapsMaxPeriod: 17 second tap sets (widths 725 to 755) are a single number larger than the widthAperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
chipsalliance/chisel#5512 ·
I maintainer di solito rispondono entro 2 giorni
-
Difficoltà 1/5 1-3 ore Idoneità per principianti 86/100
lunduniversity/introprog#995 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 62/100
chipsalliance/rocket-chip#3838 ·
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
I maintainer di solito rispondono entro 1 giorno
-
ProviderExchangeSinkSpec leaves temp directories and files behindForse già presa @rajmodi8905 l’ha presa oggi. Apertagood first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
llm4s/llm4s#1714 · 2 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 1 giorno