Deploing synced tables from Lakeflow Pipelines

オープン
#5,765 コメント 1 件 リアクション 1 件 担当者 0 名 GitHub で見る

メンテナーはふだん 1 日以内に返信

まだ誰も着手していません。

評価

難易度
5/5
見積もり時間
1週間以上
初心者へのやさしさ
45/100
issue の種類
機能追加
明瞭さ
おおむね明確
活発さ
活発
技術スタック
go
領域
cli

調査の方向性

まず、同期テーブルに対する DABs のデプロイ処理を追跡し、初回デプロイ時にソーステーブルをどのように検証しているかを確認します。最初の更新までソースが存在しないことを許可する方法と、同期テーブルを Lakeflow Declarative Pipeline アセットとして追加する方法を比較します。テーブルの更新時にメタデータ検証を維持しながら、サポート対象のデプロイパスで TABLE_DOES_NOT_EXIST を回避できれば完了です。

索引モデルが issue の本文から書いたものです。

説明

Stale

When creating a synced table using DABs, the source table needs to exist. This causes ordering problems: One will often deploy a job that creates the source table per DAB, like using a Job and/or Lakeflow Declarative Pipeline.

Then the synced table cannot be declared in the same DAB, as the initial deployment results in TABLE_DOES_NOT_EXIST. This is similar to #4437 . I suggest to allow the creation of synced tables for non-existent tables. Only validate the metadata on (first) refresh.

In my particular use-case a materialized view from a Lakeflow Declarative Pipeline needs to be synced. This would also be solved by extending pipelines by adding synced tables as a new asset. Note that this doesn't solve all use-cases.

主要言語
Go
スター
427
フォーク
267
平均マージ
2日 1時間
マージ済み PR(30日)
233

環境構築

  • Dockerfile または Docker Compose ファイルあり
  • プルリクエストのテンプレートあり
  • コントリビューションガイドなし

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

databricks/cli のほかの issue

databricks/cli の issue をすべて見る

似ている issue

Go の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。