Add deploying ingestion specs from custom resources
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức phù hợp với người mới
- 25/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Cần làm rõ
- Mức độ hoạt động
- Đình trệ
- Công nghệ
- kubernetes, rust
- Lĩnh vực
- data-engineering, infrastructure
Hướng nghiên cứu
Bắt đầu với issue liên quan #168, sau đó kiểm tra CRD và các entry point của controller của operator; không có tên tệp hoặc test nào được xác định ở đây. Trước khi triển khai, hãy làm rõ các ingestion spec, các tham chiếu ConfigMap/PVC và từng hành vi khi xảy ra lỗi được ánh xạ tới Druid như thế nào. Công việc được coi là hoàn tất khi operator có thể provision các tài nguyên CRD chỉ-đọc đã chỉ định với các tùy chọn lỗi được ghi lại.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Implementation ticket for #168
The Druid operator should be extended to be able to deploy ingestion specs from definitions provided in CRDs.
Ingestion specs can be defined by the user via a customresource, which is watched by a controller in the Druid operator that then provisions these specs.
The crd will contain at least the following:
- type of source (stream, flat file, ...)
- failure behavior
- none
- retry
- delete and retry
- specification of the ingest job
- inline
- reference to configmap
- reference to pvc (or file therein)
These objects will initially be considered read-only, so changes to them will not be propagated to Druid by the controller.
The initial implementation will not be a perfect ingestion task management solution, but rather a first attempt to offer something useful to our users.
The user needs to decide themselves what the appropriate failure behavior is for the spec they provide to the operator, whether duplicate data might be created by retrying etc.
The defined failure options should offer simple solutions for all scenarios:
- task is too complex -> none , the user will investigate themselves
- no duplicates expected -> retry , task is idempotent and can be retried
- duplicates possible -> delete and retry , not idempotent, to be on the safe side delete the target before retrying
- Ngôn ngữ chính
- Rust
- Star
- 12
- Fork
- 1
- Merge trung bình
- 1 ngày 17 giờ
- Pull request đã merge (30 ngày)
- 10
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của stackabletech/druid-operator
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100
stackabletech/druid-operator#692 ·
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100
stackabletech/druid-operator#647 ·
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 30/100
stackabletech/druid-operator#646 ·
-
type/bug
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 20/100
stackabletech/druid-operator#606 · 3 bình luận ·
-
Server failing to create PoolableConnectionFactory. Failing with SCRAM-based authentication error. Đang mởtype/bug
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100
stackabletech/druid-operator#605 ·
Tất cả issue của stackabletech/druid-operator
Issue tương tự
-
bug
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 85/100
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
yantrikos/yantrik-os#255 ·
-
Replayed reasoning items send "content": null, which the Responses API schema does not permit Đang mởbug CLI custom-model
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100
raphamorim/rio#1956 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
rust-bitcoin/rust-bitcoin#6930 · 1 bình luận ·