Request for Fair State Transition Scheduling Across Multiple Resources

オープン
#3,021 コメント 12 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

評価

難易度
5/5
見積もり時間
1週間以上
初心者へのやさしさ
25/100
issue の種類
機能追加
明瞭さ
説明が足りない
活発さ
停滞
技術スタック
java

調査の方向性

まず、CUSTOMIZED モードで状態遷移メッセージがどのようにスケジュールされるかを追跡し、大量の IdealState 変更を使って TableA/TableB の飢餓シナリオを再現します。完了条件は、WAGED を必要とせずに両方のリソースが公平に進行できるスケジューリングアプローチを決定し、実証することです。

索引モデルが issue の本文から書いたものです。

説明

Is your feature request related to a problem? Please describe.
We use CUSTOMIZED mode and today there does not seem to be any fairness in terms of how the Helix state transition messages are sent out to the cluster across different resources.

For example, say I have two resources, TableA and TableB that share the same instances. If I update TableA with a very large number of IdealState changes (say 10K), then updates to TableB land up getting queued behind TableA and no progress is made until TableA's state transitions complete.

This leads to starvation for TableB. Ideally resources should not affect each other in a Helix cluster.

Describe the solution you'd like
Ideally the Helix state transitions should be scheduled fairly across resources in a cluster to prevent the above starvation scenario.

Additional context
I know WAGED solves some of these problems, but moving to WAGED is not an option for us. Are ther any other solutions that can be leveraged?

cc @junkaixue @zpinto

主要言語
Java
スター
505
フォーク
258
平均マージ
4日 20時間
マージ済み PR(30日)
3

環境構築

  • Dockerfile・Docker Compose ファイルなし
  • プルリクエストのテンプレートあり
  • コントリビューションガイドなし

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

apache/helix のほかの issue

apache/helix の issue をすべて見る

似ている issue

Java の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。