facebookresearch/fairseq

Inferring the decoder and encoder of a transformer model in a streaming manner

Ouverte

#5 537 ouverte le 29 août 2024

 (0 commentaire) (0 réaction) (0 personne assignée)Python (6 224 forks)batch import
enhancementhelp wantedneeds triage

Métriques du dépôt

Stars
 (29 107 étoiles)
Métriques de merge PR
 (Aucune PR mergée en 30 j)

Description

Is it possible to infer the model separately through encoder.onnx and decoder.onnx?

Guide contributeur