Hacktoberfest 2026: as issues que os mantenedores marcaram para outubro, abertas e boas para iniciantes. Ver issues do Hacktoberfest

Add question caching

Aberta
  • Algo errado?
#82 0 comentários 0 reações 0 responsáveis Ver no GitHub

Mantenedores costumam responder em até 2 dias

Ninguém assumiu esta issue ainda.

Avaliação

Dificuldade
5/5
Tempo estimado
Mais de uma semana
Facilidade para iniciantes
20/100
Tipo de issue
Funcionalidade
Clareza
Precisa de esclarecimento
Status de atividade
Estagnada
Stack de tecnologia
postgresql, python
Domínio
ai, backend, databases

Direção de pesquisa

Comece com o fluxo proposto de chat_completion e rastreie o caminho existente da solicitação RAG, incluindo a geração de embeddings, a busca vetorial, o histórico do chat e a geração de completion. Defina o armazenamento do cache, o comportamento de correspondência e o valor retornado em caso de cache hit antes da implementação; done deve incluir cache hits e cache misses funcionais, com testes para ambos os caminhos.

Escrita pelo modelo de indexação a partir do texto da issue.

Descrição

Description

Add a question caching feature. Pseudocode based on other repo-

def chat_completion(user_input):
   # Generate embeddings from the user input
   user_embeddings = generate_embeddings(openai_client, user_input)
   # Query the chat history cache first to see if this question has been asked before
   cache_results = cache_search(vectors=user_embeddings , num_results=1)
 
   if len(cache_results) > 0:
       return cache_results[0]['completion'], True
   else:
       # Perform vector search 
       search_results = get_similar_docs(openai_client, dbsource, user_input, 3)
       print("Getting Chat History\n")
       # Chat history
       chat_history = get_chat_history(1)
 
       # Generate the completion
       print("Generating completions \n")
       completions_results = generatecompletionede(user_input, search_results, chat_history)
 
       # Cache the response
       cacheresponse(user_input, user_embeddings, completions_results)
 
       print("\n")
       # Return the generated LLM completion
       return completions_results['choices'][0]['message']['content'], False
Linguagem predominante
Python
Estrelas
505
Forks
1.1k
Merge médio
1d 18h
PRs com merge (30d)
2

Preparar o ambiente

Abrir no Codespaces

Inicia o contêiner de desenvolvimento do projeto no navegador, com a sua própria conta do GitHub.

Primeiros passos

  1. Leia a issue inteira e depois o guia de contribuição do projeto.
  2. Comente na issue dizendo que vai assumir — evita que duas pessoas façam o mesmo trabalho.
  3. Faça um fork do repositório e trabalhe em uma branch.
  4. Abra um pull request que referencie o número da issue.

Mais de Azure-Samples/rag-postgres-openai-python

Todas as issues de Azure-Samples/rag-postgres-openai-python

Issues semelhantes

Mais issues de Python

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.