I would like to test out laya of system1 models

Ouverte
#2,405 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub

Les mainteneurs répondent en général sous 1 jour

Personne n'a encore pris cette issue.

Évaluation

Difficulté
5/5
Temps estimé
Plus d'une semaine
Accessibilité débutants
25/100
Type d'issue
Fonctionnalité
Clarté
Plutôt claire
Activité
Active
Stack technique
huggingface, python

Piste de recherche

Start by reviewing the Python wrapper's model loading and inference entry points, then compare them with the Laya-GGUF model linked in the issue and the llama.cpp support it requires. The issue does not name files or tests, and the requested scope is broad. Done means callers can use System1 models through the Python wrapper; confirm the model loads and produces output.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Description

Is your feature request related to a problem? Please describe.
I would like to test out laya - e.g. the model at https://huggingface.co/ggml-org/Laya-GGUF

Describe the solution you'd like
To be able to call system1 models

Describe alternatives you've considered
Directly use llama.cpp instead of the python wrapper

Additional context

Langage dominant
Python
Étoiles
10.7k
Forks
1.5k
Merge moyen
1 h 40 min
PR mergées (30 j)
5

Préparer son environnement

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Autres issues de abetlen/llama-cpp-python

Toutes les issues de abetlen/llama-cpp-python

Issues similaires

Plus d'issues Python

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.