bigscience-workshop/petals

Add flag to only use already cached blocks

Open

#202 aperta il 11 gen 2023

Vedi su GitHub
 (5 commenti) (1 reazione) (0 assegnatari)Python (424 fork)batch import
good first issuehelp wanted

Metriche repository

Star
 (8248 star)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

Allow users to specify the caching dir for the model's blocks

BONUS: add flag to only use already cached blocks, excluding those which are not already on the server

Guida contributor

Direzione di ricerca
Esamina il meccanismo di caching esistente per i blocchi del modello e aggiungi un flag da riga di comando per limitare l'uso ai soli blocchi già memorizzati nella cache. Studia la logica di selezione dei blocchi del server per implementare il filtro.
Tech stack
python
Dominio
backendmachine learning
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
2
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
Mezza giornata
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Abbastanza chiara
Prerequisiti
PythonGit
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
60