alibaba/GraphScope

[BUG] Loading from large dataframe/large numpy requires holding all chunks in coordinator

Open

#2 342 ouverte le 23 déc. 2022

Voir sur GitHub
 (0 commentaires) (1 réaction) (0 assignés)HTML (2 401 stars) (301 forks)batch import
bugcomponent:coordinatorgood first issue

Description

Describe the bug

It looks strange that we need to accumulate all chunks in the request stream into a list in coordinator before sending to analytical engine, that would requires large available memory for the coordinator pod.

https://github.com/alibaba/GraphScope/blob/b80a35599424580325a750e734f8a3b2dead2a5b/coordinator/gscoordinator/dag_manager.py#L77-L107

Guide contributeur

Stack technique
pythonnumpypandas
Domaine
backend
Type d'issue
bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
half day
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
stale
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
clear
Prérequis
PythonNumPyGraphScope coordinator architecture
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
30
Direction de recherche
Investigate the coordinator code in dag manager.py lines 77-107. The issue is that all chunks are accumulated in a list before being sent to the analytical engine, causing high memory usage. Consider modifying the code to stream chunks directly to the engine or send them in smaller batches. Look at the AnalyticalEngine interface to see if it supports streaming input. No comments or PRs exist, so this is an open opportunity for optimization.