[Discussion] High-level API

Ouverte
#14 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub

Personne n'a encore pris cette issue.

Évaluation

Difficulté
5/5
Temps estimé
Plus d'une semaine
Accessibilité débutants
10/100
Type d'issue
Fonctionnalité
Clarté
À clarifier
Activité
À l'abandon
Stack technique
python
Domaine
api

Piste de recherche

Il s’agit d’une discussion de conception de haut niveau pour l’API ggml-python. Commencez par comprendre les bindings de bas niveau existants et la bibliothèque C ggml. Examinez l’API actuelle dans le dépôt pour voir ce que couvrent déjà „automatic memory management“ et „backend offloading“. L’issue énumère des idées vagues comme „Immediate mode(?)“, „File loaders“ et „On-the-fly Quantization“, sans exigences ni périmètre concrets.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Description

Just some random ideas for the ggml-python high-level api.

  • Automatic memory / context management
  • Simplify backend offloading
  • Immediate mode(?)
  • File loaders
  • On-the-fly Quantization
Langage dominant
Python
Étoiles
152
Forks
17
Métriques de merge des PR
Aucune PR mergée en 30 j

Préparer son environnement

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Autres issues de abetlen/ggml-python

Toutes les issues de abetlen/ggml-python

Issues similaires

Plus d'issues Python

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.