Introduce CRD for Iceberg table maintanance
まだ誰も着手していません。
評価
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 初心者へのやさしさ
- 25/100
- issue の種類
- 機能追加
- 明瞭さ
- 説明が足りない
- 活発さ
- 停滞
- 技術スタック
- grafana, kubernetes, prometheus, rust
調査の方向性
提案されている CRD の形と、リンクされている Trino Iceberg のメンテナンスアクションのドキュメントから始めます。テーブルまたはスキーマのメンテナンスのスケジューリング、Trino への認証、保持設定の処理、Prometheus メトリクスの公開について、完了とは何を意味するのかを定義してください。この issue では Kubernetes CronJobs、アラート、Grafana ダッシュボードについても言及されています。
索引モデルが issue の本文から書いたものです。
説明
As a Trino Iceberg user I want to define a CR that allows me to regularly run maintenance actions on my tables.
- Come up with a CRD
- Figure out how to authenticate against Trino Cluster, e.g. always create a k8s Secret for a service user and add that into the authentication chain using Password file authentication as well as mount it into the k8s CronJob
Should
- Allow to run at whole schema, which iterates through tables
- Emit Prometheus metrics so we can alert on failures and have a Dashboard
Could
- Prometheus alters
- Grafana dashboard with e.g. files compacted, bytes and rows read/written
One possible solution would be to create a k8s CronJob for every maintenance CR.
CRD could look something like
spec:
target:
catalog: lakehouse
schema: default
table: my_table # Optional
schedule:
interval: 24h # using new Duration struct
# OR
cronExpression: XXX
actions:
- name: optimize
fileSizeThreshold: 100MB # optional, otherwise let trino use it's internal default
- name: expire_snapshots
retentionThreshold: 7d # optional, otherwise let trino use it's internal default
- name: remove_orphan_files
# Document: The value for retention_threshold must be higher than or equal to iceberg.remove_orphan_files.min-retention in the catalog otherwise the procedure fails with a similar message: Retention specified (1.00d) is shorter than the minimum retention configured in the system (7.00d)
retentionThreshold: 7d # optional, otherwise let trino use it's internal default
- 主要言語
- Rust
- スター
- 63
- フォーク
- 13
- 平均マージ
- 1日 20時間
- マージ済み PR(30日)
- 12
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
stackabletech/trino-operator のほかの issue
-
customer-request
難易度 2/5 1〜3時間 初心者へのやさしさ 60/100
stackabletech/trino-operator#499 ·
-
type/bug
難易度 4/5 3〜5日 初心者へのやさしさ 45/100
stackabletech/trino-operator#936 · コメント 3 件 ·
-
release-note
stackabletech/trino-operator#854 · コメント 3 件 · 担当者 1 名 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 45/100
stackabletech/trino-operator#849 ·
-
customer-request type/feature-improvement
難易度 3/5 1〜2日 初心者へのやさしさ 35/100
stackabletech/trino-operator#813 · コメント 1 件 ·
stackabletech/trino-operator の issue をすべて見る
似ている issue
-
bug github_actions
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
registrystack/registry-stack#1393 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
longbridge/gpui-kit#3223 ·
-
bug engine
難易度 2/5 1〜3時間 初心者へのやさしさ 65/100
rocky-data/rocky#2181 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
oasisprotocol/oasis-sdk#2523 ·
-
[indexer] [QA] Add a focused test for the new NonRetryableError / assertSocketAlive() behavior. オープンbot:ai-assisted component:indexer QA-roadmap status:untriaged
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
midnightntwrk/midnight-indexer#1557 ·