datalake_fdw: write path — INSERT to data files and a committed snapshot
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 5/5
- Tiempo estimado
- Más de una semana
- Aptitud para principiantes
- 35/100
- Tipo de issue
- Nueva funcionalidad
- Claridad
- Bastante claro
- Estado de actividad
- Activo
- Stack tecnológico
- c, postgresql, spark
- Área
- backend, data-engineering, databases
Línea de trabajo
Start with write.c and the AM insert callbacks: tuple_insert, multi_insert, and finish_bulk_insert. Review dependencies A, B2, and B4, then exercise the local-file functions for rolling, FileMeta, and abort logic. Done means the listed INSERT and COPY acceptance cases pass, including commit visibility, cleanup, metadata, size limits, and memory refusal.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Part of #2008. Letters (A, B0–B7, C, D, E) are the PRs listed there; this is C.
Scope
write.c, the orchestration the format interface was written for: a writer per segment, rolling at the target size, Iceberg file naming under<location>/data/, aFileMetaper file (counts, sizes, per-column bounds and null counts) for commit.- AM insert callbacks (
tuple_insert,multi_insert,finish_bulk_insert): slots into the batch builder, field ids from the Iceberg schema intoWriterOptions.field_ids. - Segments write straight to object storage; the QD gathers every
FileMetaand commits once at pre-commit. Abort anywhere leaves no data file (resource owner plus object delete) and no snapshot. COPY ... FROMuses the same path.- With it: #1988 NUMERIC and #1990 timestamp units.
Out of scope
UPDATE/DELETE (E), partitioned tables (#1683 §2.3).
Depends on
A, B2, B4. Rolling, FileMeta and abort logic are testable with the local-file functions first.
Acceptance
- A multi-segment
INSERT ... SELECTyields files readable by pyarrow and Spark; manifest counts and bounds match the data. - Nothing visible before commit; abort leaves no files and no snapshot.
- Row group and target file size honoured within one row group.
- A large insert stays within
gp_vmem_limit_per_query; refusal surfaces asERRCODE_OUT_OF_MEMORY.
- Lenguaje dominante
- C
- Estrellas
- 1.4k
- Forks
- 248
- Merge medio
- 4 d 10 h
- PR fusionados (30 d)
- 40
Guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de apache/cloudberry
-
type: Bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
apache/cloudberry#1885 · 2 reacciones ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 86/100
apache/cloudberry#1825 ·
-
type: Bug
Dificultad 3/5 1-2 días Aptitud para principiantes 65/100
apache/cloudberry#2048 · 1 reacción ·
-
type: Bug
Dificultad 4/5 3-5 días Aptitud para principiantes 40/100
apache/cloudberry#2047 ·
-
type: Bug
Dificultad 4/5 3-5 días Aptitud para principiantes 45/100
apache/cloudberry#2046 · 1 comentario ·
Todos los issues de apache/cloudberry
Issues similares
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
bradcypert/plum#53 ·
-
Component: GLib
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
-
Status: Opened
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
nextbsd/nextbsd-userland#285 ·