zilliztech/GPTCache

[Feature]: Multi-tenant GPTCache service

Open

#550 aperta il 9 ott 2023

Vedi su GitHub
 (1 commento) (0 reazioni) (0 assegnatari)Python (407 fork)batch import
good first issuehacktoberfest

Metriche repository

Star
 (5857 star)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

Is your feature request related to a problem? Please describe.

Currently, the GPTCache service uses a cache object to manage cached data. If GPTCache serves multiple users, user A's cached data may be queried by user B. Naturally, this is not allowed in reality.

Describe the solution you'd like.

No response

Describe an alternate solution.

No response

Anything else? (Additional Context)

No response

Guida contributor

Direzione di ricerca
Investiga come aggiungere l'isolamento dei tenant a GPTCache. Considera l'uso di un ID tenant nelle chiavi della cache o la creazione di istanze della cache separate per ogni tenant.
Tech stack
python
Dominio
backend
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-2 giorni
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Abbastanza chiara
Prerequisiti
PythonGPTCache
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
60