Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

Bulk skip in RunLengthBitPackingHybridDecoder / DictionaryValuesReader

Đang mở
  • Có gì không ổn?
#3,772 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 2 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
3/5
Thời gian dự kiến
1-2 ngày
Mức phù hợp với người mới
72/100
Loại issue
Tính năng
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
java
Lĩnh vực
data

Hướng nghiên cứu

Bắt đầu bằng cách đọc RunLengthBitPackingHybridDecoder.readInt() và readNext(), sau đó kiểm tra skip(int) trong DictionaryValuesReader và RunLengthBitPackingHybridValuesReader. Xác nhận cách các giá trị được mã hóa bằng từ điển được giải mã và xác định các kiểm thử hiện có liên quan hoặc các điểm vào kiểm thử. Hoàn thành khi việc bỏ qua hàng loạt sử dụng đường dẫn của decoder trong cả ba reader mà vẫn giữ nguyên số lượng giá trị bị bỏ qua.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Type: enhancement
Motivation

Make Hive leverage bulk skip when implementing probe decode for Parquet, similarly to https://issues.apache.org/jira/browse/HIVE-22731, which was about ORC.

Problem

ValuesReader.skip(int n) ships with a naive default:

public void skip(int n) {
  for (int i = 0; i < n; i++) skip();
}

For dictionary-encoded columns (the common case), each skip() bottoms
out in RunLengthBitPackingHybridDecoder.readInt() — a mode switch,
array-index arithmetic, and a value the caller immediately discards.

Any filter-then-skip path (column-index row ranges, hash-join probe
filtering, runtime filters) pays this cost per skipped row.

Proposal
  1. Add RunLengthBitPackingHybridDecoder.skipInts(int n) — re-use
    readNext() per run, then advance currentCount by
    min(n, currentCount) instead of walking every value through
    readInt().
  2. Override skip(int) on DictionaryValuesReader and
    RunLengthBitPackingHybridValuesReader to call decoder.skipInts(n).
Component(s)

Core

Ngôn ngữ chính
Java
Star
3.1k
Fork
1.6k
Merge trung bình
4 ngày 3 giờ
Pull request đã merge (30 ngày)
31

Chuẩn bị môi trường

  • Không có Dockerfile hay tệp Docker Compose
  • Có mẫu pull request
  • Không có hướng dẫn đóng góp

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của apache/parquet-java

Tất cả issue của apache/parquet-java

Issue tương tự

Thêm issue về Java

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.