Support clients to access kvrocks cluster using LB

オープン
  • 何か問題がありますか？
#3,089 コメント 2 件 リアクション 0 件 担当者 0 名 GitHub で見る

メンテナーはふだん 1 日以内に返信

まだ誰も着手していません。

評価

難易度
4/5
見積もり時間
3〜5日
初心者へのやさしさ
35/100
issue の種類
機能追加
明瞭さ
おおむね明確
活発さ
停滞
技術スタック
cpp, redis
領域
databases, distributed-systems

調査の方向性

まず、CLUSTERX SETNODES コマンドと、nodes.conf の永続化および読み込みのパスを追跡します。次に、cluster nodes、slots、replicas コマンドの処理を調査します。オプションの LB アドレスが再起動後も永続化され、クライアント向けの cluster レスポンスでそれらが使用され、内部同期とスロット移行でローカル IP が保持されれば完了です。

索引モデルが issue の本文から書いたものです。

説明

enhancement
Search before asking
  • I had searched in the issues and found no similar issues.
Motivation

In the following situations, a master-slave switchover in a Kvrocks cluster may cause a split-brain situation:

  1. The Kvrocks process hangs and then recovers
  2. The network card on the Kvrocks host fails and then recovers
  3. The network partition on the Kvrocks host recovers
    When the Kvrocks process regains access, client requests may be directed to the old master node for a brief period, causing a split-brain situation and data inconsistency.
    If clients access Kvrocks using a load balancer (LB), when a Kvrocks cluster switchover occurs, redirecting the LB address to the new master node ensures that client requests are not forwarded to the old master node.
    The Kvrocks cluster deployment architecture is as follows:
Image

Benefits of this architecture:

  1. It covers most split-brain scenarios, including process restarts, process hangs, host network interface downtime, and network partitions.
  2. Using a load balancer (LB) accelerates failover, significantly faster than approaches such as using dynamic domain names on the client side.

This approach is used in both AWS Elasticache and Azure Redis.

Solution

To ensure that client access to the KvRocks cluster goes through the load balancer (LB), while maintaining local IP for internal KvRocks cluster communication (master-slave synchronization and slot migration), the following modifications are required:

  1. Add two optional parameters to the clusterx setnodes command to specify a CLB host for each node.
    The following example shows that you can specify some or all LBs:
    CLUSTERX SETNODES "ZrFserb4Mqi5dbyCLCMUm9zFXMNPhzKE4RbFauJa 10.190.28.10 7115 master - 0-5460 \n qhbVLW9dc2VF9CZOmvBJOzzqkhNA3oHoD3NVWVyg 10.190.28.10 7133 master - 5461-10921 \n 9cnjXnaNK5KfPtX01V0wn7ZtM7FDPnz7va9qPJBs 10.190.28.10 7237 master - 10922-16383 192.168.0.2 1222\n fuCHh8Ru9tFSY313QPfBcPQ3QeP63Z4rWpqpyaOl 10.190.28.10 7255 slave ZrFserb4Mqi5dbyCLCMUm9zFXMNPhzKE4RbFauJa \n cIqdj5C37cMrr7r7ydZDZ8zm1T1vPLMWj8516rrF 10.190.28.10 6741 slave qhbVLW9dc2VF9CZOmvBJOzzqkhNA3oHoD3NVWVyg \n 3D8JRN8YVONqRU57jP99E3JdH2QnLHzZpFN4rcQQ 10.190.28.10 6765 slave 9cnjXnaNK5KfPtX01V0wn7ZtM7FDPnz7va9qPJBs 192.168.0.1 1234" 1754120940

  2. When persisting nodes.conf to a local file, add the LB address information to the file. When the kvrovks process starts, it will also load the corresponding LB address information.

  3. When executing the cluster nodes/slots/replicas commands, if the nodes have a LB host configured, replace it with LB host.

Are you willing to submit a PR?
  • I'm willing to submit a PR!
主要言語
C++
スター
4.5k
フォーク
686
平均マージ
2日 13時間
マージ済み PR（30日）
40

環境構築

Codespaces で開く

このプロジェクトの開発コンテナを、あなたの GitHub アカウントでブラウザ上に起動します。

  • Dockerfile または Docker Compose ファイルあり
  • プルリクエストのテンプレートなし
  • コントリビューションガイドなし

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

apache/kvrocks のほかの issue

apache/kvrocks の issue をすべて見る

似ている issue

C++ の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。