Two dynamic off-heap sizing bugs: MinHeapFreeRatio not restored, availability metric reads the wrong pools
Maintainer thường phản hồi trong vòng 3 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 3/5
- Thời gian dự kiến
- 1-2 ngày
- Mức phù hợp với người mới
- 65/100
- Loại issue
- Lỗi
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- scala
- Lĩnh vực
- backend, performance
Hướng nghiên cứu
Start with DynamicOffHeapSizingMemoryTarget.shrinkOnHeapMemory and inspect its finally block, then trace SparkMemoryUtil.getCurrentAvailableOffHeapMemory and the GlobalOffHeapMemoryTarget callers. Verify the dynamic sizing path restores both heap ratios and reports the pools used for global reservations, including the Velox columnar shuffle writer's memLimit behavior.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Both bugs are in the dynamic off-heap sizing path, gated by spark.gluten.memory.dynamic.offHeap.sizing.enabled (experimental, off by default), so they only affect deployments that opt into that flag.
1. MinHeapFreeRatio is never restored after a heap shrink. DynamicOffHeapSizingMemoryTarget.shrinkOnHeapMemory lowers both MinHeapFreeRatio and MaxHeapFreeRatio so the JVM releases committed heap, but the finally block restores only MaxHeapFreeRatio. After the first shrink the executor keeps MinHeapFreeRatio=5 for the rest of its life. The heap then stays tighter and the JVM GCs more often, well after the off-heap pressure that triggered the shrink has passed.
2. The available off-heap metric reads the wrong pools under dynamic sizing. SparkMemoryUtil.getCurrentAvailableOffHeapMemory sums the off-heap storage and execution pools. Under dynamic sizing, Gluten charges its global reservations to the on-heap pools (GlobalOffHeapMemoryTarget acquires with ON_HEAP) and the driver plugin forces spark.memory.offHeap.size=0, so the off-heap pools are empty and the method returns 0. The Velox columnar shuffle writer uses that value as its memLimit, so it drops to the minimum buffer size.
- Ngôn ngữ chính
- Scala
- Star
- 1.6k
- Fork
- 685
- Merge trung bình
- 4 ngày 16 giờ
- Pull request đã merge (30 ngày)
- 84
Chuẩn bị môi trường
Khởi chạy dev container của dự án ngay trên trình duyệt, bằng tài khoản GitHub của bạn.
- Không có Dockerfile hay tệp Docker Compose
- Có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của apache/gluten
-
[CORE] Selecting a cost model the backend has no coster for fails with ClassNotFoundExceptionCó thể đã có người làm @LuciferYang đã nhận 1 ngày trước. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 66/100
Maintainer thường phản hồi trong vòng 3 ngày
-
bug unit testing velox backend
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
apache/gluten#13463 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 3 ngày
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 82/100
Maintainer thường phản hồi trong vòng 3 ngày
-
[VL] madvise(WILLNEED) call fails in MmapFileStream because of wrong calculation of fetching lengthCó thể làm lại được Pull request cho issue này đã bị đóng mà không được merge. Đang mởbug triage
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
Maintainer thường phản hồi trong vòng 3 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Maintainer thường phản hồi trong vòng 3 ngày
Tất cả issue của apache/gluten
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
Maintainer thường phản hồi trong vòng 2 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
rchillyard/TableParser#206 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
Maintainer thường phản hồi trong vòng 2 ngày
-
? - Needs Triage bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 66/100
NVIDIA/cudf-spark#17063 ·
Maintainer thường phản hồi trong vòng 2 ngày