BUG: spark application can have multiple drivers at once
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 初心者へのやさしさ
- 35/100
- issue の種類
- バグ
- 明瞭さ
- おおむね明確
- 活発さ
- 停滞
- 技術スタック
- kubernetes, rust, spark
調査の方向性
spark-submit pod を正常に、また異常な方法でも削除して問題を再現し、置き換えが開始されたときに元の driver と executors が残っているかを確認します。operator の reconciliation と Spark driver のライフサイクルを追跡します。完了条件は、動作が記載された YARN-like の期待事項のいずれかに一致し、同じアプリケーションの 2 つのインスタンスが同時に実行されるのを防ぐことです。
索引モデルが issue の本文から書いたものです。
説明
Affected Stackable version
No response
Affected Apache Spark-on-Kubernetes version
No response
Current and expected behavior
Disclaimer, we're still in 25.3.0 with spark but currently upgrading to 25.11.0 - if you fixed that in between, just let me know but i didn't find a related issue fitting my problem
We found the cause for the situation of two or more same spark applications running at the same time. You can reproduce that by just deleting the spark-submit pod ungracefully (which is done in case of evictions or node outages) and even when gracefully shutting down the pod. After a couple of seconds, a new spark-submit pod is booting up, starting a new driver and the driver starts its executors. The problem: old driver and executors are still running. That leads to corrupted data, when to spark apps update the same dataset at the same time.
I expect a YARN like behaviour, when the submit is killed then a) the whole application should fail or b) the application should not be restarted and running application can continue its doing
Issue should be easily reproducible
Possible solution
No response
Additional context
No response
Environment
No response
Would you like to work on fixing this bug?
None
- 主要言語
- Rust
- スター
- 73
- フォーク
- 5
- 平均マージ
- 11時間 13分
- マージ済み PR（30日）
- 13
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートあり
- コントリビューションガイドなし
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
stackabletech/spark-k8s-operator のほかの issue
-
type/bug
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
stackabletech/spark-k8s-operator#775 ·
メンテナーはふだん 1 日以内に返信
-
Pin versions/ranges for spark-connect-client python dependencies using a constraints file対応中かも @Maleware が 8 日前に担当しました。 オープンtype/bug
stackabletech/spark-k8s-operator#786 · コメント 1 件 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
-
Application driver Pod is not terminated when Spark is OOMKilled対応中かも @razvan が 18 日前に担当しました。 オープンtype/bug
stackabletech/spark-k8s-operator#780 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
-
難易度 4/5 3〜5日 初心者へのやさしさ 55/100
stackabletech/spark-k8s-operator#774 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
type/bug
難易度 4/5 3〜5日 初心者へのやさしさ 45/100
stackabletech/spark-k8s-operator#770 ·
メンテナーはふだん 1 日以内に返信
stackabletech/spark-k8s-operator の issue をすべて見る
似ている issue
-
meta.json, text.txt and try JSON are written non-atomically対応中かも @qwertymuzaffar が今日担当しました。 オープンbug
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
qwertymuzaffar/parrot#47 ·
メンテナーはふだん 1 日以内に返信
-
priority: medium
難易度 2/5 1〜3時間 初心者へのやさしさ 66/100
storytold/photocraft#8041 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
fmt -p: an unprefixed last line without a newline gets one added対応中かも @fixfon が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
jhspetersson/fselect#187 ·
-
documentation good first issue
難易度 2/5 1〜3時間 初心者へのやさしさ 84/100
writerslogic/holographic-memory#96 ·
メンテナーはふだん 1 日以内に返信