envoyproxy/envoy

Make grpc client cache eviction period configurable

Open

#29 982 ouverte le 5 oct. 2023

Voir sur GitHub
 (1 commentaire) (0 réactions) (0 assignés)C++ (5 373 forks)batch import
area/ext_authzarea/grpcenhancementhelp wanted

Métriques du dépôt

Stars
 (27 997 stars)
Métriques de merge PR
 (Merge moyen 8j) (378 PRs mergées en 30 j)

Description

Envoy is currently hardcoded to evict thread-local GRPC clients from its cache if there is no activity for 50s. Due to the low QPS and high number of Envoy worker threads, it is very easy to cross this interval between consecutive requests on the same worker thread. Hence, many authorization requests from worker threads will incur a connection restablishment latency, resulting in high client-side authorization delays.

To avoid this issue, we would like to be able to use a longer cache eviction timeout. It would be preferable if this timeout is configurable per proxy.

Guide contributeur

Direction de recherche
La demande de l'issue est de rendre configurable la période d'éviction du cache du client GRPC. La valeur actuelle en dur (50s) se trouve dans le code source d'Envoy, probablement dans un fichier lié à la gestion du client gRPC. Pour implémenter, recherchez les références à la constante de délai d'éviction, puis suivez les modèles de configuration d'Envoy (par exemple, en ajoutant un champ au protobuf pertinent et en le câblant via l'usine). Les PR existants ou les commentaires sur l'issue #29982 peuvent fournir un contexte supplémentaire.
Stack technique
cppgrpc
Domaine
backendinfrastructure
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
Une demi journée
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
C++Envoy internals
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
40