Composer_dags.py script (pause & unpause dags) is taking hours to finish
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
Issue này chưa được đánh giá.
Mô tả
In which file did you encounter the issue?
composer/tools/composer_dags.py
Did you change the file? If so, how?
No change
Describe the issue
I run the script for the environment of 500 dags. It is extremely slow, it takes more than 1-2min to do this for each dag. I has taken almost entire day and not yet finished. Is there a better way to batch those requests and pause multiple dags at once?
This has to be done before the snapshot can be created.
Example logs:
2023-10-25 15:49:30,718 - Executing shell command: CLOUDSDK_API_ENDPOINT_OVERRIDES_COMPOSER=https://composer.googleapis.com/ gcloud composer environments run composer-dev --project=whejna-dataops --location=europe-west3 dags pause -- export_task_reschedule_v1_0
Executing the command: [ airflow dags pause export_task_reschedule_v1_0 ]...
Command has been started. execution_id=3fa888b4-7cf4-4c0e-ab07-c54cccda24ac
Use ctrl-c to interrupt the command
2023-10-25 15:51:07,371 - Dag: export_task_reschedule_v1_0, paused: True
Thanks
- Ngôn ngữ chính
- Jupyter Notebook
- Star
- 8.1k
- Fork
- 6.7k
- Merge trung bình
- 4 ngày 4 giờ
- Pull request đã merge (30 ngày)
- 8
Chuẩn bị môi trường
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của GoogleCloudPlatform/python-docs-samples
-
samples
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
GoogleCloudPlatform/python-docs-samples#14609 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
samples
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 92/100
GoogleCloudPlatform/python-docs-samples#14610 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
samples
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
GoogleCloudPlatform/python-docs-samples#14611 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
chore(generative_ai) Update model references for generative_ai samplesCó thể làm lại được @XrossFox đã nhận 152 ngày trước và không có pull request nào đang mở. Đang mởsamples
GoogleCloudPlatform/python-docs-samples#14117 · 1 người được giao ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Fix Pipeline dependency issues for geospatial-classification/serving_appCó thể làm lại được @XrossFox đã nhận 163 ngày trước và không có pull request nào đang mở. Đang mởsamples
GoogleCloudPlatform/python-docs-samples#14091 · 1 người được giao ·
Maintainer thường phản hồi trong vòng 1 ngày