Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

CometTaskMemoryManager.releaseMemory lowers used before Spark accepts the release

Đang mở Phù hợp với người mới
  • Có gì không ổn?
#7,176 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
2/5
Thời gian dự kiến
1-3 giờ
Mức phù hợp với người mới
82/100
Loại issue
Lỗi
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
java, scala, spark
Lĩnh vực
backend, databases

Hướng nghiên cứu

Issue chỉ đến spark/src/main/java/org/apache/spark/CometTaskMemoryManager.java, đặc biệt là releaseMemory, và đề xuất một bài kiểm thử ghi đè TaskMemoryManager.releaseExecutionMemory. Hãy đọc phương thức đó cùng các bài kiểm thử hiện có, sau đó chạy bộ kiểm thử liên quan. Công việc được xem là hoàn tất khi một lần giải phóng của Spark ném ngoại lệ mà getUsed vẫn không đổi.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

requires-triage

releaseMemory runs used.addAndGet(-size) (CometTaskMemoryManager.java#L123) before internal.releaseExecutionMemory(size, nativeMemoryConsumer) (L131). If Spark throws, native code gets the error and still counts the bytes as held, but used, and with it NativeMemoryConsumer.getUsed, has already dropped. The leak check at task end and Spark's spill ordering then see less than the task holds.

Calling Spark first fixes it. A test can override TaskMemoryManager.releaseExecutionMemory to throw once and check that getUsed is unchanged afterwards.

Found in #5613 (review).

Ngôn ngữ chính
Scala
Star
1.3k
Fork
398
Merge trung bình
2 ngày 21 giờ
Pull request đã merge (30 ngày)
431

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của apache/datafusion-comet

Tất cả issue của apache/datafusion-comet

Issue tương tự

Thêm issue về Scala

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.