facebookresearch/fairseq

Is there a C++ version of Fairseq based on libtorch

Open

#5.540 aberto em 11 de set. de 2024

Ver no GitHub
 (0 comments) (0 reactions) (0 assignees)Python (6.224 forks)batch import
enhancementhelp wantedneeds triage

Métricas do repositório

Stars
 (29.107 stars)
Métricas de merge de PR
 (Nenhuma PRs mesclada em 30d)

Description

🚀 Feature Request

A C++ version of Fairseq based on libtorch is required

Motivation

Pytorch and the entire python environment are too large after packaging, so use libtorch instead. However, the previous fairseq loaded model must also be loaded in C++, but no C++ version of fairseq has been found

Pitch

Provides a C++ version of fairseq based on libtorch

Alternatives

Additional context

Guia do colaborador

Direção de pesquisa
Estude a biblioteca Python fairseq atual para entender o carregamento e a inferência do modelo. Consulte a documentação e os exemplos em C++ do PyTorch para exportar modelos para TorchScript. Considere criar um mecanismo de inferência C++ mínimo que carregue um modelo previamente treinado e execute a geração de sequência para sequência. Revise quaisquer issues ou discussões existentes sobre implantação em C++ no repositório.
Pilha de tecnologia
cpppytorch
Domain
ai
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
5
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
Mais de 1 semana
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Recente
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
C++PyTorch
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
5