Up to date llama.cpp wheel here (native libraries)

Ouverte
#2,123 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub

Les mainteneurs répondent en général sous 1 jour

Personne n'a encore pris cette issue.

Évaluation

Difficulté
4/5
Temps estimé
3-5 jours
Accessibilité débutants
35/100
Type d'issue
Fonctionnalité
Clarté
Plutôt claire
Activité
À l'abandon
Stack technique
c, python

Piste de recherche

L’issue renvoie vers un dépôt externe fournissant des wheels llama.cpp précompilées. Pour l’intégration, examinez le système de build et le packaging de llama-cpp-python (probablement dans setup.py ou pyproject.toml) afin de comprendre comment les bibliothèques natives sont actuellement gérées. Déterminez comment intégrer ces wheels précompilées comme dépendance optionnelle ou comme alternative à la compilation depuis les sources. Consultez les issues ou la documentation existantes concernant la distribution de binaires et la compatibilité entre plateformes (Linux/Windows/macOS).

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Description

Hi! I made a repo mdjou/lcpp-lib-python with automatic up to date wheels of llama.cpp native libraries.
Currently I provide linux-x64 vulkan wheels, but I can add other flavors and OS'es if there is demand - please open issues in my repo.
Update: windows-x64-vulkan, linux-x64-vulkan, and macos-arm64-metal are now available.

Note: It is not a replacement of llama-cpp-python, it is intentionally a bare-bones repackage of upstream releases of llama.cpp with minimal lag.

You can use it as a dependency to make your own bindings, without having to worry about native compilation and correct packaging of binaries.

Langage dominant
Python
Étoiles
10.7k
Forks
1.5k
Merge moyen
1 h 40 min
PR mergées (30 j)
5

Préparer son environnement

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Autres issues de abetlen/llama-cpp-python

Toutes les issues de abetlen/llama-cpp-python

Issues similaires

Plus d'issues Python

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.