pytorch/serve

add support for SeTFiT models

Open

#2 107 ouverte le 5 févr. 2023

Voir sur GitHub
 (4 commentaires) (0 réactions) (0 assignés)Java (3 844 stars) (790 forks)batch import
good first issuetriaged

Description

🚀 The feature

Add support for setfit models which currently is unsupported and throwing Dependency installation stderr: error.

Motivation, pitch

SOTA is quickly moving to few-shot approaches and the SeTFiT library provides a fast and easy way to finetune sentence-transformers-based models with little labeled data. Would strongly appreaciate this feature to be considered.

Alternatives

No response

Additional context

No response

Guide contributeur

Stack technique
pythonpytorchjava
Domaine
backendmachine learning
Type d'issue
feature
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-2 days
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
stale
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
mostly clear
Prérequis
familiarity with SetFitPyTorch Serve basicsPython package management
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
40
Direction de recherche
Investigate how PyTorch Serve currently supports custom models by examining existing handlers in the `ts/` or `serve/` directory, particularly for models with external dependencies. Review the error 'Dependency installation stderr:' to understand how dependencies are managed. Look at issue comments for any additional context or proposed approaches. The goal is to create a handler that can load and serve SetFit models, similar to existing transformers support.