envoyproxy/envoy

Make grpc client cache eviction period configurable

Open

#29.982 aperta il 5 ott 2023

Vedi su GitHub
 (1 commento) (0 reazioni) (0 assegnatari)C++ (5373 fork)batch import
area/ext_authzarea/grpcenhancementhelp wanted

Metriche repository

Star
 (27.997 star)
Metriche merge PR
 (Merge medio 8g) (378 PR mergiate in 30 g)

Descrizione

Envoy is currently hardcoded to evict thread-local GRPC clients from its cache if there is no activity for 50s. Due to the low QPS and high number of Envoy worker threads, it is very easy to cross this interval between consecutive requests on the same worker thread. Hence, many authorization requests from worker threads will incur a connection restablishment latency, resulting in high client-side authorization delays.

To avoid this issue, we would like to be able to use a longer cache eviction timeout. It would be preferable if this timeout is configurable per proxy.

Guida contributor

Direzione di ricerca
La richiesta del problema è di rendere configurabile il periodo di eliminazione della cache del client GRPC. Il valore attuale hardcoded (50s) si trova nel codice sorgente di Envoy, probabilmente in un file relativo alla gestione del client gRPC. Per implementarlo, cerca i riferimenti alla costante di timeout di eliminazione, quindi segui i pattern di configurazione di Envoy (ad esempio, aggiungendo un campo al protobuf pertinente e collegandolo attraverso la factory). Le PR esistenti o i commenti sull'issue #29982 potrebbero fornire ulteriore contesto.
Tech stack
cppgrpc
Dominio
backendinfrastructure
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
Mezza giornata
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
C++Envoy internals
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
40