alibaba/GraphScope

[BUG] Loading from large dataframe/large numpy requires holding all chunks in coordinator

Open

Aperta il 23 dic 2022

Vedi su GitHub
 (0 commenti) (1 reazione) (0 assegnatari)HTML (2401 star) (301 fork)batch import
bugcomponent:coordinatorgood first issue

Descrizione

Describe the bug

It looks strange that we need to accumulate all chunks in the request stream into a list in coordinator before sending to analytical engine, that would requires large available memory for the coordinator pod.

https://github.com/alibaba/GraphScope/blob/b80a35599424580325a750e734f8a3b2dead2a5b/coordinator/gscoordinator/dag_manager.py#L77-L107

Guida contributor

Tech stack
pythonnumpypandas
Dominio
backend
Tipo issue
bug
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
half day
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
stale
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
clear
Prerequisiti
PythonNumPyGraphScope coordinator architecture
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
30
Direzione di ricerca
Investigate the coordinator code in dag manager.py lines 77-107. The issue is that all chunks are accumulated in a list before being sent to the analytical engine, causing high memory usage. Consider modifying the code to stream chunks directly to the engine or send them in smaller batches. Look at the AnalyticalEngine interface to see if it supports streaming input. No comments or PRs exist, so this is an open opportunity for optimization.