Direct image input via PIL instead of Base64

Ouverte
#2,078 0 commentaires 1 réaction 0 personnes assignées Voir sur GitHub

Les mainteneurs répondent en général sous 1 jour

Personne n'a encore pris cette issue.

Évaluation

Difficulté
3/5
Temps estimé
1-2 jours
Accessibilité débutants
45/100
Type d'issue
Fonctionnalité
Clarté
Plutôt claire
Activité
À l'abandon
Stack technique
python
Domaine
api, backend

Piste de recherche

Examinez le code de gestion des entrées d’image dans la codebase, probablement autour de l’inférence du modèle ou de la couche API. Trouvez où l’encodage/décodage Base64 est actuellement effectué. Étudiez comment des images PIL peuvent être transmises directement aux bindings C++ sous-jacents de llama.cpp. Consultez les tests existants pour le traitement des images afin de comprendre l’interface. « Terminé » signifie que l’API accepte un objet PIL Image ou un chemin de fichier et le traite sans la surcharge mémoire de Base64.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Description

Describe the solution you'd like

Support for PIL library image input (path) instead of Base64 encoding.
For example, when using models with transformers library, I provide images this way img = Image.open(path).convert("RGB") which isn't an additional 33% increase of memory overhead like it is with Base64.

Describe alternatives you've considered

I am currently using llama.cpp CLI version to process images in batch using GGUF models but I'd rather prefer this functionality here as well.

Langage dominant
Python
Étoiles
10.7k
Forks
1.5k
Merge moyen
1 h 40 min
PR mergées (30 j)
5

Préparer son environnement

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Autres issues de abetlen/llama-cpp-python

Toutes les issues de abetlen/llama-cpp-python

Issues similaires

Plus d'issues Python

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.