trino is slow at retrieving data out of it
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Idoneità per principianti
- 25/100
- Tipo di issue
- Bug
- Chiarezza
- Da chiarire
- Stato di attività
- Ferma
- Ambito
- cli, databases, performance
Direzione di ricerca
L’issue non nomina file del repository né test. Inizia riproducendo con la Trino CLI le due misurazioni del throughput di memory-connector e del backend, quindi analizza dove il percorso di lettura dal client a Trino limita il throughput. Il lavoro è completato quando il collo di bottiglia è stato identificato e sono stati documentati una configurazione, un metodo di debugging o una modifica correttiva.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Affected version
No response
Current and expected behavior
I am using trino to get some data out of my backend database, and trino is working as a middle ware. something like that db <-> trino <-> client(trino_cli or python client) .
I found the trino is slow when reading data out of it. more specifically, when using trino to read data, the speed of it is significantly slow than reading data from the backend database directly.
trino limits the speed to about 10-20MB/s, while my database could serve 100MB/s per connection.
I think the trino shouldn't be the bottleneck in the data pipeline, otherwise it will block something.
Possible solution
if there is some configuration or debug method that let me find the underlying bottleneck is and to know how to fix it.
I am using the way below to find out that trino blocks the data stream.
I am using trino memory connector to help me with the diagonose.
# step 1. copy data from my database to trino memory, which is the data path for reading data out from the backend database to the trino nodes.
create table memory.default.sf100_lineitem AS select * from xdb.default.sf100_lineitem limit 10000000; # it shows a throughput of about 100MB/s, more precisely, 80-150MB/s
# step 2. read data from trino to the outside, I am using trino cli to test the data
select * from memory.default.sf100_lineitem; # it shows me only a bandwidth of 10MB/s could be achieved. my network is more than 10Gb/s, so it is not blocked by the network.
Additional context
No response
Environment
No response
Would you like to work on fixing this bug?
yes
- Lingua principale
- Rust
- Stelle
- 63
- Fork
- 13
- Merge medio
- 1g 20h
- PR unite (30g)
- 12
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di stackabletech/trino-operator
-
customer-request
Difficoltà 2/5 1-3 ore Idoneità per principianti 60/100
stackabletech/trino-operator#499 ·
-
type/bug
Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100
stackabletech/trino-operator#936 · 3 commenti ·
-
release-note
stackabletech/trino-operator#854 · 3 commenti · 1 assegnatario ·
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 45/100
stackabletech/trino-operator#849 ·
-
customer-request type/feature-improvement
Difficoltà 3/5 1-2 giorni Idoneità per principianti 35/100
stackabletech/trino-operator#813 · 1 commento ·
Tutte le issue di stackabletech/trino-operator
Issue simili
-
Browser (wasm) relay client cannot connect to relays whose URL has a trailing-dot FQDN hostname Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
n0-computer/iroh#4550 ·
-
impl detach for native Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 65/100
paritytech/zombienet-sdk#591 ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
farion1231/cc-switch#7638 · 1 commento ·
-
onnx-ir re-exports ModelProto and GraphProto but not NodeProto, AttributeProto and AttributeType Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100