Direct image input via PIL instead of Base64

Aberta
#2,078 0 comentários 1 reação 0 responsáveis Ver no GitHub

Mantenedores costumam responder em até 1 dia

Ninguém assumiu esta issue ainda.

Avaliação

Dificuldade
3/5
Tempo estimado
1-2 dias
Facilidade para iniciantes
45/100
Tipo de issue
Funcionalidade
Clareza
Razoavelmente clara
Status de atividade
Estagnada
Stack de tecnologia
python
Domínio
api, backend

Direção de pesquisa

Examine o código de tratamento de entradas de imagem na codebase, provavelmente na área de inferência do modelo ou da camada de API. Encontre onde a codificação/decodificação Base64 é feita atualmente. Pesquise como imagens PIL podem ser passadas diretamente para os bindings C++ subjacentes do llama.cpp. Verifique os testes existentes de processamento de imagens para entender a interface. “Concluído” significa que a API aceita um objeto PIL Image ou um caminho de arquivo e o processa sem o overhead de memória do Base64.

Escrita pelo modelo de indexação a partir do texto da issue.

Descrição

Describe the solution you'd like

Support for PIL library image input (path) instead of Base64 encoding.
For example, when using models with transformers library, I provide images this way img = Image.open(path).convert("RGB") which isn't an additional 33% increase of memory overhead like it is with Base64.

Describe alternatives you've considered

I am currently using llama.cpp CLI version to process images in batch using GGUF models but I'd rather prefer this functionality here as well.

Linguagem predominante
Python
Estrelas
10.7k
Forks
1.5k
Merge médio
1h 40min
PRs com merge (30d)
5

Preparar o ambiente

Primeiros passos

  1. Leia a issue inteira e depois o guia de contribuição do projeto.
  2. Comente na issue dizendo que vai assumir — evita que duas pessoas façam o mesmo trabalho.
  3. Faça um fork do repositório e trabalhe em uma branch.
  4. Abra um pull request que referencie o número da issue.

Mais de abetlen/llama-cpp-python

Todas as issues de abetlen/llama-cpp-python

Issues semelhantes

Mais issues de Python

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.