ggml-org/llama.cpp

server: avoid full prompt eval when 'prompt >= ctx'

Fechada

#6.855 aberto em 23 de abr. de 2024

Ver no GitHubGuia do colaborador
 (3 comentários) (0 reação) (0 responsável)C++ (21.786 forks)batch import
enhancementgood first issue

Métricas do repositório

Stars
 (124.222 estrelas)
Métricas de merge de PR
 (Mesclagem média 6d 8h) (389 fundiu PRs em 30d)

Description

When using the server for multi-turn chat, soon or later the prompt is going to surpass the context size, the current approach truncate the prompt by half of the context size excluding n_keep:

https://github.com/ggerganov/llama.cpp/blob/192090bae47960f0d38d4967abe398a5d190057e/examples/server/server.cpp#L1969-L1983

By doing that, common_part is going to match only n_keep tokens (when cache_prompt: true):

https://github.com/ggerganov/llama.cpp/blob/192090bae47960f0d38d4967abe398a5d190057e/examples/server/server.cpp#L2011-L2016

Technically, this is not a full prompt eval, n_keep is not revaluated, but it would be better to avoid this if possible, specially because prompt eval is slow on CPU.

Guia do colaborador

Direção de pesquisa
Examine o código referenciado em server.cpp linhas 1969-1983 e 2011-2016 onde ocorre o truncamento do prompt quando ele excede o tamanho do contexto. O objetivo é evitar a avaliação completa desnecessária do prompt, ajustando a lógica de truncamento ou o mecanismo de cache. Revise os comentários da issue para quaisquer dicas dos mantenedores ou abordagens alternativas. Considere implementar uma verificação para reutilizar o cache existente quando possível, sem reavaliação completa.
Pilha de tecnologia
cpp
Domain
backend
Tipo Issue
Performance
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
Meio dia
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Antigo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
Familiarity with llama.cpp server codeUnderstanding of prompt caching and context size
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
30