Feature Request: SuperCompress prompt preprocessing for llama-cpp-python

Ouverte
#2,326 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub

Les mainteneurs répondent en général sous 1 jour

Personne n'a encore pris cette issue.

Évaluation

Difficulté
3/5
Temps estimé
1-2 jours
Accessibilité débutants
55/100
Type d'issue
Fonctionnalité
Clarté
Plutôt claire
Activité
Calme
Stack technique
python
Domaine
ai, backend

Piste de recherche

Start with the README or examples for llama-cpp-python and inspect how examples call llama.create_completion(). Add an example that compresses a prompt with SuperCompress before passing it to the completion call, following the integration shown in the issue. Done when the example demonstrates the compression flow and can be followed by users with both packages installed.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Description

Feature: Prompt Compression for llama-cpp-python

Problem: llama-cpp-python users often work with local models that have limited context (2048-4096 tokens). Long prompts waste valuable context window space.

Proposed Solution: Provide a SuperCompress integration example that compresses prompts before passing them to llama.create_completion().

from supercompress import Compressor
from llama_cpp import Llama

compressor = Compressor()
llm = Llama(model_path="./model.gguf")

compressed_prompt = compressor.compress(long_prompt, query)
output = llm.create_completion(compressed_prompt)

Benefits:

Langage dominant
Python
Étoiles
10.7k
Forks
1.5k
Merge moyen
1 h 40 min
PR mergées (30 j)
5

Préparer son environnement

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Autres issues de abetlen/llama-cpp-python

Toutes les issues de abetlen/llama-cpp-python

Issues similaires

Plus d'issues Python

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.