envoyproxy/envoy

Make grpc client cache eviction period configurable

Open

#29.982 geöffnet am 5. Okt. 2023

Auf GitHub ansehen
 (1 Kommentar) (0 Reaktionen) (0 zugewiesene Personen)C++ (5.373 Forks)batch import
area/ext_authzarea/grpcenhancementhelp wanted

Repository-Metriken

Stars
 (27.997 Stars)
PR-Merge-Metriken
 (Durchschn. Merge 8T) (378 gemergte PRs in 30 T)

Beschreibung

Envoy is currently hardcoded to evict thread-local GRPC clients from its cache if there is no activity for 50s. Due to the low QPS and high number of Envoy worker threads, it is very easy to cross this interval between consecutive requests on the same worker thread. Hence, many authorization requests from worker threads will incur a connection restablishment latency, resulting in high client-side authorization delays.

To avoid this issue, we would like to be able to use a longer cache eviction timeout. It would be preferable if this timeout is configurable per proxy.

Contributor Guide

Research-Richtung
Das Issue fordert, die Ausstoßungsdauer des GRPC Client Caches konfigurierbar zu machen. Der aktuell hartkodierte Wert (50s) befindet sich im Envoy Quellcode, wahrscheinlich in einer Datei im Zusammenhang mit der gRPC Client Verwaltung. Zur Implementierung suchen Sie nach Referenzen der Ausstoßungs Timeout Konstante und folgen dann den Konfigurationsmustern von Envoy (z. B. durch Hinzufügen eines Feldes zum relevanten Protobuf und Verkabelung über die Factory). Bestehende PRs oder Kommentare zu Issue #29982 können zusätzlichen Kontext liefern.
Tech Stack
cppgrpc
Domain
backendinfrastructure
Issue Type
Funktion
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
Halber Tag
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Klar
Voraussetzungen
C++Envoy internals
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
40