[CELEBORN] FailedShuffleCleaner instance is never returned to CelebornShuffleManager, leaking its ScheduledExecutorService on stop()

オープン
#13,279 コメント 1 件 リアクション 0 件 担当者 0 名 GitHub で見る

メンテナーはふだん 3 日以内に返信

まだ誰も着手していません。

評価

難易度
3/5
見積もり時間
半日
初心者へのやさしさ
55/100
issue の種類
バグ
明瞭さ
明確に書かれている
活発さ
活発
技術スタック
java, scala, spark

調査の方向性

Start in CelebornUtils, where fetchCleanFailedShuffle and stageRerun take failedShuffleCleaner as a parameter and assign a new FailedShuffleCleaner to it, then check the call sites in CelebornShuffleManager, which holds the failedShuffleCleaner field and its stop() method. Done means the created cleaner is returned to the caller, stored in the manager's field, and shut down in stop(), with a test that confirms the field is non-null after a stage rerun and that the executor is released on stop.

索引モデルが issue の本文から書いたものです。

説明

bug triage
Backend

VL (Velox)

Bug description

CelebornUtils.fetchCleanFailedShuffle(lifecycleManager, celebornConf, failedShuffleCleaner) and stageRerun(...) take failedShuffleCleaner as an output parameter and assign the newly created FailedShuffleCleaner instance to it.

Because Java is pass-by-value, reassigning a method parameter is not visible to the caller — CelebornShuffleManager.failedShuffleCleaner stays null forever.

org.apache.spark.shuffle.gluten.celeborn.CelebornShuffleManager

Image Image

becomes dead code. The cleaner's internal ScheduledExecutorService is never shut down, and keeps strong references to LifecycleManager and its pending shuffle-id collections, leaking both threads and objects. This accumulates across SparkContext lifecycles and is most visible on long-lived drivers (e.g., Spark Thrrift Server), where each restart leaves orphaned cleaner threads and repeated invalid clean log entries.

Expected behavior
stageRerun/fetchCleanFailedShuffle should return the created instance so the caller can store it and stop() can release it.

Gluten version

No response

Spark version

None

Spark configurations

No response

System information

No response

Relevant logs

主要言語
Scala
スター
1.6k
フォーク
685
平均マージ
4日 16時間
マージ済み PR(30日)
84

環境構築

Codespaces で開く

このプロジェクトの開発コンテナを、あなたの GitHub アカウントでブラウザ上に起動します。

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

apache/gluten のほかの issue

apache/gluten の issue をすべて見る

似ている issue

Scala の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。