bigscience-workshop/petals

Add convenience methods to export and import fine-tuned prompts

Open

#268 aperta il 21 feb 2023

Vedi su GitHub
 (3 commenti) (0 reazioni) (0 assegnatari)Python (424 fork)batch import
1dayenhancementgood first issuehelp wanted

Metriche repository

Star
 (8248 star)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

I can run"deep" prompt-tuning successfully.

but, how can I export the prefix tokens from the Petals client? and, how can I use the prefix tokens which export from Petals client when I want to do some inference job?

I appreciate you help

Guida contributor

Direzione di ricerca
Esplora il codebase per capire come vengono memorizzati e utilizzati i token del prefisso per il prompt tuning. Progetta e implementa un metodo per salvare e caricare questi token, possibilmente come file JSON o pickle.
Tech stack
python
Dominio
backendmachine learning
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-2 giorni
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Abbastanza chiara
Prerequisiti
PythonGit
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
60