Performance improvement on persist_docs

オープン
#507 コメント 14 件 リアクション 5 件 担当者 0 名 GitHub で見る

メンテナーはふだん 6 日以内に返信

まだ誰も着手していません。

評価

難易度
4/5
見積もり時間
3〜5日
初心者へのやさしさ
35/100
issue の種類
機能追加
明瞭さ
おおむね明確
活発さ
停滞
技術スタック
python, sql

調査の方向性

ファイルやテストは指定されていません。まず persist_docs のエントリーポイントを見つけ、カラムコメントが個別の ALTER TABLE ステートメントになるまでの流れを追跡します。issue に記載されている create-table と REST API のオプションを比較します。persist_docs がカラムごとに 1 つのステートメントを発行せずに大規模なプロジェクトを処理し、変更された動作のカバレッジとベンチマークまたはリグレッションチェックがあれば完了です。

索引モデルが issue の本文から書いたものです。

説明

blocked enhancement
Describe the feature

persist_docs currently sends an individual alter table statement per column comment. This takes forever for a large project.

Describe alternatives you've considered

Don't use persist_docs and instead parse the comments from dbt model and use unity catalog rest api
Don't use persist_docs and instead parse the comments from dbt model and generate my own custom statements
Don't use dbt comments at all and instead use unity catalog rest api to AI generate comments and persist those
Most alternatives involve not using persist_docs or not using column level comments

Additional context

We have the ability to add column level comments at the create table step and through the rest api, individual alter statements are the worst alternative.

persist_docs performance issue

Who will this benefit?

Everyone using persist_docs that has more than a couple models with column level comments.

Are you interested in contributing this feature?

Not at this time.

主要言語
Python
スター
391
フォーク
231
平均マージ
9日 7時間
マージ済み PR(30日)
29

環境構築

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

databricks/dbt-databricks のほかの issue

databricks/dbt-databricks の issue をすべて見る

似ている issue

Python の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。