facebookresearch/fairseq

Is there a C++ version of Fairseq based on libtorch

Open

#5540 aperta il 11 set 2024

Vedi su GitHub
 (0 commenti) (0 reazioni) (0 assegnatari)Python (6224 fork)batch import
enhancementhelp wantedneeds triage

Metriche repository

Star
 (29.107 star)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

🚀 Feature Request

A C++ version of Fairseq based on libtorch is required

Motivation

Pytorch and the entire python environment are too large after packaging, so use libtorch instead. However, the previous fairseq loaded model must also be loaded in C++, but no C++ version of fairseq has been found

Pitch

Provides a C++ version of fairseq based on libtorch

Alternatives

Additional context

Guida contributor

Direzione di ricerca
Studia l'attuale libreria Python fairseq per comprendere il caricamento del modello e l'inferenza. Consulta la documentazione e gli esempi C++ di PyTorch per esportare modelli in TorchScript. Considera la creazione di un motore di inferenza C++ minimale che carichi un modello precedentemente addestrato ed esegua la generazione sequenza a sequenza. Rivedi eventuali issue o discussioni esistenti sulla distribuzione C++ nel repository.
Tech stack
cpppytorch
Dominio
ai
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
5
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
Oltre 1 settimana
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Nuova
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
C++PyTorch
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
5