最新版本读取kafka数据sink到ES，如果kafka数据是嵌套json，字段值在es中为null

Offen

#205 erstellt am 18.10.2019 2 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen

Dieses Issue hat noch niemand übernommen.

Bewertung

Schwierigkeit: 4/5
Geschätzter Aufwand: 3-5 Tage
Anfängerfreundlichkeit: 20/100

Issue-Typ: Bug
Klarheit: Muss geklärt werden
Aktivitätsstatus: Veraltet
Tech-Stack: java
Bereich: data-engineering

Rechercherichtung

Beginne damit, den Kafka-to-Elasticsearch-Sink und seinen verschachtelten JSON-Mapping-Pfad zu finden, und reproduziere dann das Problem mit der im Report gezeigten Payload. Als erledigt gilt, die Ursache dafür zu identifizieren, warum das lib-Objekt zu null wird, und seine verschachtelten Felder in Elasticsearch zu erhalten, mit einem Regressionstest, falls der relevante Testbereich gefunden wird.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Beschreibung

1、kafka中的数据格式为：
{
"distinct_id": "16c6a9eeabd205-08b9c3c13daa25-36f661a-269280-16c6a9eeabe1fd",
"lib": {
"$lib": "js",
"$lib_method": "code",
"$lib_version": "1.14.2"
}
}

2、sink到ES中的数据为
{
"_index": "flink2es",
"_type": "mytype_1",
"_id": "16c6a9eeabd205-08b9c3c13daa25-36f661a-269280-16c6a9eeabe1fd",
"_score": 1,
"_source": {
"lib": null,
"distinct_id": "16c6a9eeabd205-08b9c3c13daa25-36f661a-269280-16c6a9eeabe1fd"
}
}
请问嵌套格式的数据为什么是null？（这里指的：lib字段）

Vorherrschende Sprache: Java
Sterne: 2k
Forks: 913
PR-Merge-Kennzahlen: Keine gemergten PRs in 30 T.

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Erste Schritte

Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
Forken Sie das Repository und arbeiten Sie in einem Branch.
Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.

Mehr aus DTStack/flinkStreamSQL

Flink SQL 使用滚动窗口，能不能获取到延迟数据，跟datastream一样，可以放到侧输出里面 Offen

Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 20/100

DTStack/flinkStreamSQL#467 · 1 Kommentar · Erstellt am 27.9.2024
这个如何引入使用flink-connector-hive啊 Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 25/100

DTStack/flinkStreamSQL#437 · 3 Kommentare · Erstellt am 25.2.2022
kudu sink writemode参数没填写报NULLPointerException Offen

Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 38/100

DTStack/flinkStreamSQL#432 · 1 Kommentar · Erstellt am 16.11.2021
新版FlinkStreamSQL已经融合进FlinkX项目 Offen

Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 15/100

DTStack/flinkStreamSQL#431 · Erstellt am 01.11.2021
有无对sql 语法校验的方法 Offen

Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 15/100

DTStack/flinkStreamSQL#430 · 1 Kommentar · Erstellt am 08.10.2021

Alle Issues in DTStack/flinkStreamSQL