apache/seatunnel

[Feature][Hive/COS] 任务执行过程中，Rename操作时间过长，是否存在可优化空间？

Open

#9 231 ouverte le 25 avr. 2025

Voir sur GitHub
 (5 commentaires) (0 réactions) (0 assignés)Java (1 432 forks)batch import
help wanted

Métriques du dépôt

Stars
 (6 897 stars)
Métriques de merge PR
 (Merge moyen 13j 21h) (143 PRs mergées en 30 j)

Description

Search before asking

  • I had searched in the feature and found no similar feature requirement.

Description

Spark引擎执行过程中，所有的executors都执行完成后，Driver端会单线层执行rename操作，将数据文件从/tmp/seatunnel移动到最终目录。 这个rename的过程是单线程串行执行的，当文件数量多的时候这个过程是非常漫长的。特别是使用对象存储的时候，如COS,似乎也是基于同样的逻辑。

我有几个疑问和建议： 1、为什么设计时使用的是单线程串行的方式？是出于规避什么风险吗？ 2、如果要做优化的话，是否可以参考阿里的jindo oss commit 通过Multipart Upload的方式来实现？或者有更合理的方式推荐呢？

Usage Scenario

No response

Related issues

No response

Are you willing to submit a PR?

  • Yes I am willing to submit a PR!

Code of Conduct

Guide contributeur

Direction de recherche
Étudiez le renommage mono thread actuel dans la phase de validation du moteur Spark. Explorez la parallélisation du renommage ou l'utilisation du téléchargement multipart pour les stockages d'objets comme COS. Vérifiez la raison de la conception séquentielle et les risques potentiels des validations parallèles.
Stack technique
javaspark
Domaine
databackend
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-2 jours
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Plutôt claire
Prérequis
JavaSparkobject storage
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
60