pytorch/serve

add support for SeTFiT models

Open

#2.107 aberto em 5 de fev. de 2023

Ver no GitHub
 (4 comments) (0 reactions) (0 assignees)Java (3.844 stars) (790 forks)batch import
good first issuetriaged

Description

🚀 The feature

Add support for setfit models which currently is unsupported and throwing Dependency installation stderr: error.

Motivation, pitch

SOTA is quickly moving to few-shot approaches and the SeTFiT library provides a fast and easy way to finetune sentence-transformers-based models with little labeled data. Would strongly appreaciate this feature to be considered.

Alternatives

No response

Additional context

No response

Guia do colaborador

Pilha de tecnologia
pythonpytorchjava
Domain
backendmachine learning
Tipo Issue
feature
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-2 days
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
stale
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
mostly clear
Prerequisites
familiarity with SetFitPyTorch Serve basicsPython package management
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
40
Direção de pesquisa
Investigate how PyTorch Serve currently supports custom models by examining existing handlers in the `ts/` or `serve/` directory, particularly for models with external dependencies. Review the error 'Dependency installation stderr:' to understand how dependencies are managed. Look at issue comments for any additional context or proposed approaches. The goal is to create a handler that can load and serve SetFit models, similar to existing transformers support.