增大并行度后ALL模式维表缓存带来的数据库连接及内存压力

Offen

#300 erstellt am 15.4.2020 2 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen

Dieses Issue hat noch niemand übernommen.

Bewertung

Schwierigkeit: 5/5
Geschätzter Aufwand: Über eine Woche
Anfängerfreundlichkeit: 25/100

Issue-Typ: Feature
Klarheit: Muss geklärt werden
Aktivitätsstatus: Veraltet
Tech-Stack: java, sql
Bereich: databases, performance, stream-processing

Rechercherichtung

Beginne damit, den mit flatMap implementierten Dimensions-Tabellen-Cache im ALL-Modus zu finden, und verfolge anschließend, wie SQL-Parallelität dazu führt, dass jede parallele Task die Dimensionsdaten lädt. Untersuche das bestehende Verhalten der geplanten Aktualisierung und wie TaskManager und Slots dargestellt werden. Als abgeschlossen gilt die Arbeit, wenn eine Kopie pro TaskManager geladen wird und Aktualisierungen weiterhin funktionieren, ohne Datenbankverbindungen zu erschöpfen oder eine übermäßige Speichernutzung zu verursachen.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Beschreibung

源码中ALL模式维表缓存是个flatMap操作，当任务数据量和计算压力增大后，增大SQL的并行度，每个并行度都会去维表中加载数据，这样一个是容易出现把维表连接打满的情况，另一个就是带来不小的内存开销。

因为存在定时更新数据，广播可能不太好做，能否实现一个taskmanager只加载一份维表数据，而不是每个slot都去加载一遍

Vorherrschende Sprache: Java
Sterne: 2k
Forks: 913
PR-Merge-Kennzahlen: Keine gemergten PRs in 30 T.

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Erste Schritte

Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
Forken Sie das Repository und arbeiten Sie in einem Branch.
Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.

Mehr aus DTStack/flinkStreamSQL

Flink SQL 使用滚动窗口，能不能获取到延迟数据，跟datastream一样，可以放到侧输出里面 Offen

Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 20/100

DTStack/flinkStreamSQL#467 · 1 Kommentar · Erstellt am 27.9.2024
这个如何引入使用flink-connector-hive啊 Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 25/100

DTStack/flinkStreamSQL#437 · 3 Kommentare · Erstellt am 25.2.2022
kudu sink writemode参数没填写报NULLPointerException Offen

Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 38/100

DTStack/flinkStreamSQL#432 · 1 Kommentar · Erstellt am 16.11.2021
新版FlinkStreamSQL已经融合进FlinkX项目 Offen

Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 15/100

DTStack/flinkStreamSQL#431 · Erstellt am 01.11.2021
有无对sql 语法校验的方法 Offen

Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 15/100

DTStack/flinkStreamSQL#430 · 1 Kommentar · Erstellt am 08.10.2021

Alle Issues in DTStack/flinkStreamSQL