Support traffic replay
Maintainer antworten meist innerhalb von 1 Tag
@djshow832 arbeitet bereits daran.
Seit 26.8.2024.
Bewertung
Dieses Issue wurde noch nicht bewertet.
Beschreibung
Feature Request
Describe your feature request related problem
There are some cases when users want to capture the traffic on the production cluster and replay the traffic on a testing cluster:
- A new TiDB version may have compatibility breakers, such as the statements failing, running slower, or resulting in different query results.
- When the cluster runs unexpectedly, users want to capture the traffic so that they can investigate it later by replaying the traffic.
- Test the maximum throughput of a scaled-up or scaled-down cluster using the real workload instead of Sysbench or TPCC.
Some traffic replay tools are widely used, including tcpcopy, mysql-replay, and query-playback. Tcpcopy and mysql-replay capture data like tcpdump, while query-playback is based on slow logs. Although some of them are built for MySQL, deploying them on the proxy instance also works.
However, they have some limitations:
- Users need to learn the deployment and usage of these tools.
- Tcpcopy only captures new connections, which is unfriendly for persistent connections. Mysql-replay can capture existing connections but it loses session states such as prepared statements and session variables, which may make replay fail.
- The tools replay the traffic with one username and one current schema, which requires modification to the testing cluster.
- Tcpcopy and mysql-replay don't support TLS because they can't decode the encrypted data.
- Users need to verify the results and performance manually.
Describe the feature you'd like
Capturing traffic on one TiDB cluster and replaying the traffic on a new TiDB cluster to verify the SQL compatibility and performance of the new TiDB cluster.
Tasks
Design
- #643
Traffic Capture
P1:
- #645
- #647
- #674
- #676
- #672
- #681
P2:
- #726
- #717
- #719
- #729
- #722
P3:
- Support more command types
Traffic Replay
P1:
- #652
- #654
- #657
- #659
- #678
- #687
- #700
P2:
- #711
P3:
- Streaming reading and sending large commands
- Track and limit the memory of pending commands
- Support more auth plugins
- Support replaying as fast as possible
- #866
- Support reading from MySQL slow logs
- Support reading from tcpdump files
- Support reading from TiDB statements summary tables
- Support reading from MySQL statements summary tables
Comparison and Report
P1:
- #661
- #683
User Interface
P1:
- #665
- #667
- #669
- #685
P2:
- #723
- #735
- #737
- #740
- #744
- #742
- #748
P3:
- Show the estimated disk usage of the traffic files
- Run as a replayer client
- Vorherrschende Sprache
- Go
- Sterne
- 73
- Forks
- 40
- Ø Merge
- 4 Std. 14 Min.
- Gemergte PRs (30 T.)
- 9
Entwicklungsumgebung
- Kein Dockerfile und keine Docker-Compose-Datei
- Hat eine Pull-Request-Vorlage
- Beitragsleitfaden lesen
Erste Schritte
- Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
- Forken Sie das Repository und arbeiten Sie in einem Branch.
- Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.
Mehr aus pingcap/tiproxy
-
migration:bb7133-tiproxy
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 78/100
Maintainer antworten meist innerhalb von 1 Tag
-
migration:bb7133-tiproxy
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 78/100
Maintainer antworten meist innerhalb von 1 Tag
-
[Rust-dataplane] Migration backend handshake must preserve CONNECT_WITH_DB when current-db emptyOffenmigration:bb7133-tiproxy
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 64/100
Maintainer antworten meist innerhalb von 1 Tag
-
[Rust-dataplane] Migration must not force CONNECT_ATTRS on backend lacking it with empty attrsOffenmigration:bb7133-tiproxy
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 77/100
Maintainer antworten meist innerhalb von 1 Tag
-
migration:bb7133-tiproxy
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 82/100
Maintainer antworten meist innerhalb von 1 Tag
Alle Issues in pingcap/tiproxy
Ähnliche Issues
-
fix(handlers): explicitly set Content-Type header in static Index handlerEvtl. vergeben @kage-zero hat das heute übernommen. Offen
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 85/100
Maintainer antworten meist innerhalb von 1 Tag
-
Quick Open: restore dependency-directory exclusions in filesystem fallbackEvtl. vergeben Ein verknüpfter Pull Request ist offen oder bereits gemergt. Offen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 82/100
eugenioenko/ttt#1206 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 68/100
open-policy-agent/opa#9426 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
rorkai/App-Store-Connect-CLI#3192 ·
Maintainer antworten meist innerhalb von 1 Tag
-
t:urlDecodeUni does not map U+3002 and U+FF61 to a dot, unlike ModSecurityEvtl. vergeben @fzipi hat das heute übernommen. Offenbug
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 78/100
Maintainer antworten meist innerhalb von 1 Tag