bigscience-workshop/petals

Add flag to only use already cached blocks

Open

#202 ouverte le 11 janv. 2023

Voir sur GitHub
 (5 commentaires) (1 réaction) (0 assignés)Python (424 forks)batch import
good first issuehelp wanted

Métriques du dépôt

Stars
 (8 248 stars)
Métriques de merge PR
 (Aucune PR mergée en 30 j)

Description

Allow users to specify the caching dir for the model's blocks

BONUS: add flag to only use already cached blocks, excluding those which are not already on the server

Guide contributeur

Direction de recherche
Examinez le mécanisme de cache existant pour les blocs de modèle et ajoutez un indicateur de ligne de commande pour limiter l'utilisation aux blocs déjà en cache. Étudiez la logique de sélection des blocs du serveur pour implémenter le filtre.
Stack technique
python
Domaine
backendmachine learning
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
Une demi journée
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Plutôt claire
Prérequis
PythonGit
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
60