Parquet reader does not support unknown physical/logical type combinations per GH-607
Maintainer thường phản hồi trong vòng 1 ngày
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 48/100
- Loại issue
- Lỗi
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- rust
- Lĩnh vực
- data-engineering
Hướng nghiên cứu
Bắt đầu bằng cách tái hiện lỗi của trình đọc Parquet với parquet-testing/data/int32_with_uuid_logical_type.parquet và theo dõi cách các tổ hợp physical type/logical type không được hỗ trợ được xử lý. Công việc được xem là hoàn tất khi tệp được đọc với physical type không có chú thích và các statistics bị bỏ qua; hành vi round-trip và việc nên cảnh báo hay hạn chế hành vi này vẫn cần một quyết định của dự án.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Describe the bug
parquet-format GH-607 adds clarification that in addition to unknown logical type enum variants, implementations must also handle unknown combinations of physical type and logical type (e.g. an INT32 column annotated with UUID). This crate currently checks for unsupported combinations and errors when encountering them.
To Reproduce
Try reading the file added in https://github.com/apache/parquet-testing/pull/122 (parquet-testing/data/int32_with_uuid_logical_type.parquet).
Expected behavior
Unknown combinations should now be treated as having an unknown logical type i.e. on read they should be provided to users as the physical type with no type annotation, and statistics should be ignored. It's not clear (to me) what should be done on round trip.
It might be good to also log a warning when an unknown type is encountered to let users know of the degraded experience.
Additional context
We could continue to error on unknown combination, or add a gate to control behavior upon encountering unknown types.
- Ngôn ngữ chính
- Rust
- Star
- 3.6k
- Fork
- 1.4k
- Merge trung bình
- 2 ngày 8 giờ
- Pull request đã merge (30 ngày)
- 332
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của apache/arrow-rs
-
Upgrade to pyo3 0.30.xĐang mởenhancement
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
Maintainer thường phản hồi trong vòng 1 ngày
-
[Variant] Parquet writer omits `specification_version` on the VARIANT logical typeCó thể đã có người làm @raghuvanshraj đã nhận 1 ngày trước. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
apache/arrow-rs#11917 · 1 bình luận · 1 người được giao ·
Maintainer thường phản hồi trong vòng 1 ngày
-
enhancement
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
Maintainer thường phản hồi trong vòng 1 ngày
-
parquet: panic (index out of bounds) reading FIXED_LEN_BYTE_ARRAY dictionary page with out-of-range indexCó thể đã có người làm @efegokdemir đã nhận 9 ngày trước. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 83/100
Maintainer thường phản hồi trong vòng 1 ngày
-
`min` and `max` rustdoc says NaN is greater than every value, but a negative NaN sorts firstĐang mở
Độ khó 2/5 Dưới một giờ Mức phù hợp với người mới 75/100
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của apache/arrow-rs
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
-
documentation
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 82/100
physicsdolphin/nv-uefi-unlocker#53 · 4 reaction ·
Maintainer thường phản hồi trong vòng 1 ngày
-
area/desktop-shell
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
yantrikos/yantrik-os#1012 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
bug ui-dashboard
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 66/100
haowjy/mars-agents#295 ·
Maintainer thường phản hồi trong vòng 1 ngày