Introduce CRD for Iceberg table maintanance
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 25/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Da chiarire
- Stato di attività
- Ferma
- Stack tecnologico
- grafana, kubernetes, prometheus, rust
- Ambito
- data-engineering, infrastructure, observability
Direzione di ricerca
Inizia dalla struttura CRD proposta e dalla documentazione collegata sulle azioni di manutenzione di Trino Iceberg. Definisci cosa significa completare la pianificazione della manutenzione di tabelle o schemi, l’autenticazione a Trino, la gestione delle impostazioni di conservazione e l’esposizione delle metriche Prometheus; l’issue menziona anche Kubernetes CronJobs, gli alert e una dashboard Grafana.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
As a Trino Iceberg user I want to define a CR that allows me to regularly run maintenance actions on my tables.
- Come up with a CRD
- Figure out how to authenticate against Trino Cluster, e.g. always create a k8s Secret for a service user and add that into the authentication chain using Password file authentication as well as mount it into the k8s CronJob
Should
- Allow to run at whole schema, which iterates through tables
- Emit Prometheus metrics so we can alert on failures and have a Dashboard
Could
- Prometheus alters
- Grafana dashboard with e.g. files compacted, bytes and rows read/written
One possible solution would be to create a k8s CronJob for every maintenance CR.
CRD could look something like
spec:
target:
catalog: lakehouse
schema: default
table: my_table # Optional
schedule:
interval: 24h # using new Duration struct
# OR
cronExpression: XXX
actions:
- name: optimize
fileSizeThreshold: 100MB # optional, otherwise let trino use it's internal default
- name: expire_snapshots
retentionThreshold: 7d # optional, otherwise let trino use it's internal default
- name: remove_orphan_files
# Document: The value for retention_threshold must be higher than or equal to iceberg.remove_orphan_files.min-retention in the catalog otherwise the procedure fails with a similar message: Retention specified (1.00d) is shorter than the minimum retention configured in the system (7.00d)
retentionThreshold: 7d # optional, otherwise let trino use it's internal default
- Lingua principale
- Rust
- Stelle
- 63
- Fork
- 13
- Merge medio
- 1g 20h
- PR unite (30g)
- 12
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di stackabletech/trino-operator
-
customer-request
Difficoltà 2/5 1-3 ore Idoneità per principianti 60/100
stackabletech/trino-operator#499 ·
-
type/bug
Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100
stackabletech/trino-operator#936 · 3 commenti ·
-
release-note
stackabletech/trino-operator#854 · 3 commenti · 1 assegnatario ·
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 45/100
stackabletech/trino-operator#849 ·
-
customer-request type/feature-improvement
Difficoltà 3/5 1-2 giorni Idoneità per principianti 35/100
stackabletech/trino-operator#813 · 1 commento ·
Tutte le issue di stackabletech/trino-operator
Issue simili
-
Browser (wasm) relay client cannot connect to relays whose URL has a trailing-dot FQDN hostname Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
n0-computer/iroh#4550 ·
-
impl detach for native Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 65/100
paritytech/zombienet-sdk#591 ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
farion1231/cc-switch#7638 · 1 commento ·
-
onnx-ir re-exports ModelProto and GraphProto but not NodeProto, AttributeProto and AttributeType Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100