Deploing synced tables from Lakeflow Pipelines

Aperta
#5,765 1 commento 1 reazione 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
5/5
Tempo stimato
Più di una settimana
Idoneità per principianti
45/100
Tipo di issue
Funzionalità
Chiarezza
Abbastanza chiara
Stato di attività
Attiva
Stack tecnologico
go
Ambito
cli

Direzione di ricerca

Inizia tracciando la gestione del deployment di DABs per le tabelle sincronizzate e il modo in cui valida la tabella sorgente durante il deployment iniziale. Confronta la possibilità di consentire l'assenza della sorgente fino al primo aggiornamento con l'aggiunta delle tabelle sincronizzate come asset di Lakeflow Declarative Pipeline. Il lavoro è completato quando un percorso di deployment supportato evita TABLE_DOES_NOT_EXIST preservando al contempo la validazione dei metadati quando la tabella viene aggiornata.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

Stale

When creating a synced table using DABs, the source table needs to exist. This causes ordering problems: One will often deploy a job that creates the source table per DAB, like using a Job and/or Lakeflow Declarative Pipeline.

Then the synced table cannot be declared in the same DAB, as the initial deployment results in TABLE_DOES_NOT_EXIST. This is similar to #4437 . I suggest to allow the creation of synced tables for non-existent tables. Only validate the metadata on (first) refresh.

In my particular use-case a materialized view from a Lakeflow Declarative Pipeline needs to be synced. This would also be solved by extending pipelines by adding synced tables as a new asset. Note that this doesn't solve all use-cases.

Lingua principale
Go
Stelle
427
Fork
267
Merge medio
2g 1h
PR unite (30g)
233

Preparare l'ambiente

  • Include un Dockerfile o un file Docker Compose
  • Ha un modello di pull request
  • Nessuna guida per i contributori

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di databricks/cli

Tutte le issue di databricks/cli

Issue simili

Altre issue su Go

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.