Some, but not all scripts report "load time" for stateless engines (time to download parquet and sync)

Đang mở
#944 0 bình luận 1 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức phù hợp với người mới
45/100
Loại issue
Tính năng
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Ít trao đổi
Công nghệ
shell

Hướng nghiên cứu

Bắt đầu với tệp datafusion-partitioned/results/20260511/c6a.4xlarge.json được liên kết và xem xét phần bổ sung load_time từ commit 6d5ee0a và pull request #860. So sánh cách các script stateless-engine báo cáo thời gian tải, làm rõ liệu việc tải xuống Parquet thô và fsync có thuộc phép đo hay không, và coi công việc là hoàn tất khi việc báo cáo nhất quán giữa các engine đó.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

While reviewing recent DataFusion results, I found there is now a "load time" reported for DataFusion

For example, this link

Image

Here is the source file that has 17:
https://github.com/ClickHouse/ClickBench/blob/a377499b950b17b2d96b79625375d57b18a36634/datafusion-partitioned/results/20260511/c6a.4xlarge.json#L10

It was added in https://github.com/ClickHouse/ClickBench/commit/6d5ee0a68573bbb481fdb8f799cc3348a9bb0634 which was part of a large refactoring in https://github.com/ClickHouse/ClickBench/pull/860

Image

I am not sure if you intended the load_time to include the download / fsync time for the raw parquet dataset, but if you did I would request that we measure it consistently across stateless engines

Ngôn ngữ chính
Shell
Star
1.1k
Fork
315
Merge trung bình
1 giờ 55 phút
Pull request đã merge (30 ngày)
600

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của ClickHouse/ClickBench

Tất cả issue của ClickHouse/ClickBench

Issue tương tự

Thêm issue về Shell/Bash

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.