zilliztech/GPTCache

[Feature]: Cache answer diversity

Open

#551 aperta il 9 ott 2023

Vedi su GitHub
 (3 commenti) (0 reazioni) (0 assegnatari)Python (407 fork)batch import
good first issuehacktoberfest

Metriche repository

Star
 (5857 star)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

Is your feature request related to a problem? Please describe.

Currently, when GPTCache evaluates similarity, it retrieves cached answers that meet the similarity threshold. However, in many generation scenarios, users may desire a range of answers that exhibit similar meaning but offer more content diversity.

Are you looking for a lightweight model that can easily rewrite text?

Describe the solution you'd like.

No response

Describe an alternate solution.

No response

Anything else? (Additional Context)

No response

Guida contributor

Direzione di ricerca
Indaga come modificare il recupero della similarità per includere criteri di diversità, possibilmente regolando la soglia o utilizzando un ranking sensibile alla diversità.
Tech stack
python
Dominio
backend
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-2 giorni
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Abbastanza chiara
Prerequisiti
PythonGit
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
60