WAGED Instance Capacity NPE prevents topstate handoff during rebalance failures

オープン
#3,009 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

評価

難易度
4/5
見積もり時間
3〜5日
初心者へのやさしさ
35/100
issue の種類
バグ
明瞭さ
おおむね明確
活発さ
停滞
技術スタック
java

調査の方向性

まず、リバランスの失敗時における WAGED の bestPossibleCalcStage を追跡し、インスタンスの削除後に以前の最善の割り当てが instanceCapacityMap と照合される方法に注目します。容量超過のリバランス失敗を発生させ、インスタンスを削除し、ノードを停止して、この一連の流れを再現します。パーティションの状態が引き続き計算され、NPE なしで topState のハンドオフが発生すれば完了です。

索引モデルが issue の本文から書いたものです。

説明

bug
Describe the bug

During rebalance failures, topState handoff will still occur among nodes that already have assigned replicas. This is because WAGED leverages the the previous best possible assignment when calculating the best possible partition state. However, if the cluster is in a state of rebalance failures and a node is removed, then WAGED will look at the previous best possible which contains an instance that is no longer in the cluster. This stale instance will trigger an NPE when we attempt to check its instance capacity as it no longer exists in the instanceCapacityMap. NPEs are part of the failure_type_to_propagate which cause the bestPossibleCalcStage to fully crash, meaning we do not calculate new states based on the previous assignment so no topState handoff will occur. This can cause a partition to go leaderless until rebalance failures are fixed and a new best possible is generated.

To Reproduce
  1. Trigger waged rebalance failures
    a. This can be done by adding more resources than can be assigned for cluster's capacity
  2. Remove an instance from the cluster
  3. Next time a node goes down, topState handoff will not occur
Expected behavior

Partition states are still calculated during rebalance failures using the old assignment so that top state handoff can still occur

主要言語
Java
スター
505
フォーク
258
平均マージ
4日 20時間
マージ済み PR(30日)
3

環境構築

  • Dockerfile・Docker Compose ファイルなし
  • プルリクエストのテンプレートあり
  • コントリビューションガイドなし

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

apache/helix のほかの issue

apache/helix の issue をすべて見る

似ている issue

Java の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。