apache/seatunnel

[Feature][Hive/COS] 任务执行过程中，Rename操作时间过长，是否存在可优化空间？

Open

#9.231 geöffnet am 25. Apr. 2025

Auf GitHub ansehen
 (5 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)Java (1.432 Forks)batch import
help wanted

Repository-Metriken

Stars
 (6.897 Stars)
PR-Merge-Metriken
 (Durchschn. Merge 13T 21h) (143 gemergte PRs in 30 T)

Beschreibung

Search before asking

  • I had searched in the feature and found no similar feature requirement.

Description

Spark引擎执行过程中，所有的executors都执行完成后，Driver端会单线层执行rename操作，将数据文件从/tmp/seatunnel移动到最终目录。 这个rename的过程是单线程串行执行的，当文件数量多的时候这个过程是非常漫长的。特别是使用对象存储的时候，如COS,似乎也是基于同样的逻辑。

我有几个疑问和建议： 1、为什么设计时使用的是单线程串行的方式？是出于规避什么风险吗？ 2、如果要做优化的话，是否可以参考阿里的jindo oss commit 通过Multipart Upload的方式来实现？或者有更合理的方式推荐呢？

Usage Scenario

No response

Related issues

No response

Are you willing to submit a PR?

  • Yes I am willing to submit a PR!

Code of Conduct

Contributor Guide

Research-Richtung
Untersuchen Sie das aktuelle Single Thread Rename in der Commit Phase der Spark Engine. Erkunden Sie die Parallelisierung des Renamings oder die Verwendung von Multipart Uploads für Objektspeicher wie COS. Prüfen Sie den Grund für das sequenzielle Design und die potenziellen Risiken paralleler Commits.
Tech Stack
javaspark
Domain
databackend
Issue Type
Funktion
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-2 Tage
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Meist klar
Voraussetzungen
JavaSparkobject storage
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
60