bigscience-workshop/petals

Add convenience methods to export and import fine-tuned prompts

Open

#268 ouverte le 21 févr. 2023

Voir sur GitHub
 (3 commentaires) (0 réactions) (0 assignés)Python (424 forks)batch import
1dayenhancementgood first issuehelp wanted

Métriques du dépôt

Stars
 (8 248 stars)
Métriques de merge PR
 (Aucune PR mergée en 30 j)

Description

I can run"deep" prompt-tuning successfully.

but, how can I export the prefix tokens from the Petals client? and, how can I use the prefix tokens which export from Petals client when I want to do some inference job?

I appreciate you help

Guide contributeur

Direction de recherche
Explorez la base de code pour comprendre comment les jetons de préfixe de réglage d'invite sont stockés et utilisés. Concevez et implémentez une méthode pour sauvegarder et charger ces jetons, éventuellement sous forme de fichiers JSON ou pickle.
Stack technique
python
Domaine
backendmachine learning
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-2 jours
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Plutôt claire
Prérequis
PythonGit
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
60